Í síðustu viku urðu þau tíðindi að kínverska gervigreindarappið DeepSeek, sem nýlega kom á markað, náði slíkri útbreiðslu að hlutabréf í vestrænum tæknirisum hríðféllu í verði. Um leið hrönnuðust upp fréttaskýringar og pistlar í hinum ýmsu (vestrænu) miðlum um hversu varhugavert það gæti verið að notast við kínversku gervigreindina, henni væri augljóslega ekki treystandi í einu og öllu, og því til sönnunar birtu höfundar pistlanna margir hverjir svör appsins við spurningum um atburðina á Torgi hins himneska friðar í Beijing 1989 (þar sem hermenn stráfelldu mótmælendur sem höfðu haldið til á torginu um margra vikna skeið). Þessi atburðarás er forvitnileg fyrir ýmsar sakir. Skoðum málið nánar.
Hvers vegna er tilteknu gervigreindarappi ekki treystandi, eða verr treystandi en öðrum slíkum öppum, a.m.k. í ákveðnum málum? Hvílir ekki gervigreindin, hvaða nafni sem hún og afurðir hennar nefnast, á einni og sömu aðferð, að veiða gögn upp úr hinum mikla hafsjó internetsins, sannreyna þau með samanburði og einhvers konar gæðaprófi, og smíða svo (misjafnlega góðan) texta upp úr þeim niðurstöðum? Er ekki þessi starfsemi gervigreindarinnar fyllilega sjálfstæð og ótrufluð af mannlegri íhlutun – og er það ekki einmitt þess vegna sem hún verðskuldar að kallast „greind“?
Von er að spurt sé – til dæmis í ljósi þeirra hugmynda sem farið hafa á flug að gervigreindin muni fyrr eða síðar leysa öll heimsins vandamál, sér í lagi þau sem mannkynið hefur kallað yfir plánetuna, svo sem hlýnun jarðar. Hér er hugsunin sú að það eina sem þurfi sé aðgangur að gögnum og svo einhvers konar dómgreind sem þá er gert ráð fyrir að hafi náð ákveðnum hæðum sem gangi út yfir mörk hins mannlega. Gervigreindin á með öðrum orðum að öðlast ofurmannlega hæfileika til að greina veruleikann og finna réttu leiðina út úr ógöngum.
Er gervigreindin komin á þetta himinháa stig? Það sem viðbrögðin við Deep Seek sýna öðru fremur er að svo er ekki – og að hin ólíku spjallmenni sem gervigreindin hefur fært okkur eru ekki hlutlægir og óvilhallir miðlar frekar en frændinn sem maður ræðir við í fjölskylduboði og hefur allt aðra sýn á lífið en maður sjálfur. Skólakerfi framtíðarinnar, þ.m.t. háskólarnir, þurfa að vinna út frá þessum forsendum. Við þurfum að leggja mun meiri áherslu á færni til að greina hvort farið er rétt með og hvort hlutirnir séu orðaðir skýrt og greinilega – gagnrýna hugsun og góða máltilfinningu. Annars getur ekki farið hjá því að hugsun okkar aflagist og hrörni, og þar með tungumálið og hugmyndir okkar um veruleikann – og þá ekki síst hugmyndir okkar um möguleika okkar til að hafa áhrif á þróunina. Við þurfum að huga að hugmyndum okkar um þróun yfirhöfuð, hvert þróunin stefnir og hvað er í vændum, við þurfum að standa vörð um mennskuna – sem er þá vel að merkja ekki skilin sem upphafning mannkynsins eða mannverunnar heldur þvert á móti sem skynbragð og skilningur á raunverulegri stöðu hennar innan um aðrar lífverur og allt sem lífsanda dregur, allt sem til er í veruleikanum, ekki síst plánetuna sjálfa sem er okkar eina sanna hlutskipti.
Björn Þorsteinsson, prófessor í heimspeki við Háskóla Íslands og frambjóðandi til rektors.