Vélveldi og vísindaskáldskaparmyndir

Í Fræði, Kvikmyndir höf. Björn Þór Vilhjálmsson

Þrjár nýlegar kvikmyndir, Her, Ex Machina og Transcendence, hverfast um gervigreind og áhrif hennar á framtíð mannkyns, nýjustu víglínuna í gamalli togstreitu milli framfarahugsjónar og tortryggni í garð tækniframfara.

Fyrir skömmu styrkti bandaríski iðnjöfurinn Elon Musk rannsóknarstofuna „Framtíðarhorfur lífs“ við MIT–háskóla um röskan milljarð króna. Musk er þekktastur sem stofnandi og aðaleigandi rafbílaframleiðslufyrirtækisins Tesla. Rannsóknarverkefni stofunnar er að finna leiðir til að koma í veg fyrir að tölvur með gervigreind tortími mannkyninu í nánustu framtíð. Vinsæl frásagnarflétta úr vísindaskáldskap er orðið viðfangsefni vísindamanna innan einnar virtustu menntastofnunar heims.

her-spike-jonze-poster_smAð mati Musks er ógnin sem stafar af gervigreind djúpstæðari en nokkuð annað, jafnvel kjarnorkan og hlýnun jarðar.[1] Musk er ekki einn um þessa skoðun. Fjórir heimsfrægir vísindamenn með sjálfan Stephen Hawking í fararbroddi birtu í fyrra grein um áhættuna sem mun fylgja vitundarvakningu vélanna. Þar segir m.a.: „Ávinningurinn sem kann að fylgja [þróun gervigreindar] er gríðarlegur. Allt það sem siðmenningin hefur upp á að bjóða er afrakstur mannlegra vitsmuna. Ómögulegt er að ímynda sér hversu hátt við gætum teygt okkur ef aðstoðar yfirburðagreindra véla nyti við. Að útrýma stríði og vinna bug á fátækt og sjúkdómum eru meðal hins hugsanlega. Takist að skapa vélar með gervigreind teldist það merkasti viðburður mannkynssögunnar. Því miður kynni hann einnig að vera sá síðasti.“[2]

Tortryggni í garð tækniframfara er ekki ný af nálinni, einkum þegar umskiptin eru ör. Að fara eilítið háðuglegum orðum um íslenska menntamenn sem á fyrstu áratugum tuttugustu aldarinnar mærðu fátækt, strit og Öræfahok meðan þeir sjálfir nutu forréttinda nútímavæðingarinnar kann að reynast freistandi. Ofsinn sem mætti nýlistarhreyfingum, jassi, reyfurum, kvikmyndum, drengjakollinum og öðrum táknum nútímans á þessu sama skeiði kann sömuleiðis að virka framandi, en um þetta efni hefur Benedikt Hjartarson ritað.[3]

Raunar var framvindan í þjóðlífnu hér á landi áþekk deilunum sem nokkru fyrr höfðu hrist upp í gervallri Evrópu og má í reynd sjá sem fylgifisk nútímavæðingar. Bókmenntafræðingurinn Matei Calinescu hefur einmitt rætt um „tvo nútíma“ í þessu samhengi, hið iðnvædda og skilvirka efnahagsumhverfi kapítalismans annars vegar og svo viðnám og höfnun þess innan ólíkra listakima og hópa hins vegar.[4] Andúðinni sem þar tók að gera vart við sig í garð félagslegrar rökvísi sem hliðraði og dæmdi ómerka hefð manngildishugsjóna og lýðræðisvæðingar óx ásmegin eftir því sem leið á tuttugustu öldina.

Listin sem tækni

Hér er grein vísindarskáldskaparmynda sér í lagi forvitnileg, en innan hennar er það fastur liður að framtíðarveruleiki og framtíðarheimur séu skapaðir í krafti greiningar á samtímanum.
Þegar hugað er að stríðu eða flóknu sambandi listgreina og ákveðinna þátta nútímamenningar og nútímavæðingar er áhugavert að beina sjónum að kvikmyndalistinni, sem hefur þá sérstöðu meðal listforma að eiga rætur að rekja til tækniþróunar nútímans. Þá hefur kvikmyndin ávallt tekið mið af tækniþróun en í seinni tíð hefur þetta orðið enn meira áberandi, einkum í tilviki bandarískrar kvikmyndagerðar sem hagnýtir tækniþróun á mun markvissari og skilvirkari hátt en þjóðarbíó annarra landa. Einnig má benda á að kvikmyndalistin tekur reglulegum stakkaskiptum í takt við tækniframfarir (sbr. hljóðbyltingu, breiðmynd, þrívídd og stafrænu byltinguna), sem er sjaldgæfara í öðrum listgreinum. Hér er grein vísindarskáldskaparmynda sér í lagi forvitnileg, en innan hennar er það fastur liður að framtíðarveruleiki og framtíðarheimur séu skapaðir í krafti greiningar á samtímanum.

Mannlegur, alltof mannlegur

Í ljósi óróleikans í kringum gervigreind sem snert var á í upphafi er athyglisvert að þrjár vísindaskáldskaparmyndir hafa litið dagsins ljós undanfarið sem hverfast um gervigreind. Í söguheimi Her (Spike Jonze, 2014) og Ex Machina (Alex Garland, 2015) er tilvist vélvirkrar vitundar staðreynd. Í Transcendence (Wally Pfister, 2014), stendur vísindasamfélagið á þröskuldi sömu byltingar. Erfitt er þó að ræða þessar myndir í tómarúmi, þær koma fram í ákveðnu greinasamhengi og eiga jafnframt í samræðu við forvera sína. Má hér nefna bókmenntaverk á borð við Framtíðarevu (L’Ève future, 1888) eftir Villiers de L’Isle Adam, og leikverkið R.U.R. (1920) eftir Karel Čapek. Þegar grein vísindaskáldskapar tók að njóta almennari vinsælda var það svo „vélmanna“-bókaröð Isaacs Asimov sem skildi eftir sig hvað dýpstu sporin.[5]

Í vísindaskáldskaparmyndagreininni var vegurinn ruddur af Metropolis (1927) eftir Þjóðverjann Fritz Lang. Þar er María kærleiksrík baráttukona fyrir kjörum verkalýðsins en snjallir auðkýfingar grafa undan henni með sköpun vélræns tvífara. Í kjölfarið fylgdu verk á borð við Forbidden Planet (Fred M. Wilcox, 1956), Westworld (Michael Crichton, 1973), Alien (1979, Ridley Scott), Star Wars röðin (1978–), Blade Runner (Ridley Scott, 1982), Terminator röðin (1984–), Short Circuit (John Badham, 1986) og A.I. (Steven Spielberg, 2001). Hér eru þó tvö lykilverk ótalin. Okkur ber blátt áfram skylda til að nefna Frankenstein (1818) eftir Mary Shelley fyrst, en saga vísindakuklarans Viktors Frankenstein slær tóninn fyrir mörg lykilfrásagnarstef næstu tveggja alda, einkum hvað varðar hugmyndina um ofdramb vísindanna. Hitt er 2001: A Space Odyssey (1968) eftir Stanley Kubrick. Þar er ekki aðeins um eitt af merkilegri verkum kvikmyndasögunnar að ræða heldur mynd sem breytti stofnanalegu og viðtökufræðilegu umhverfi „geimmynda“. Tæknivinna og sjónrænar áherslur myndarinnar opnuðu nýjar leiðir til að nota víðáttur sólkerfisins sem viðfang kvikmyndatökuvélarinnar og frásagnarvettvang. Jafnþungt vegur þáttur vitibornu tölvunnar HAL 900, friðsamlegrar vélar sem þó snýst gegn umsjónarmönnum sínum. Á ferðalagi til Júpiter verður HAL óttaslegin um að slökkva eigi á sér og kemur þá hverjum geimfaranum á fætur öðrum fyrir kattarnef.

Eins og fjallað er um í bókinni HAL’s Legacy: 2001’s Computer as Dream and Reality (1998) sem ritstýrt er af David G. Stork á myndin sér traustan grunn í stöðu þekkingar hvað þróun gervigreindar varðar á þeim tíma sem hún var gerð – enda vináttusamband Kubricks og NASA nær goðsagnakennt. Myndin er ennþá í hávegum höfð meðal vísindamanna sem starfa á sviði gervigreindar, og þá í senn sem innblástur og viðmið.

2-2001-HAL-900-l_sm

Það er því ekki úr vegi að líta á myndirnar þrjár sem nefndar voru hér að ofan sem viðbót við ættartré hvurs rót er HAL 900, auk þess sem þær bregðast við samtímahræringum í vísindum. Þá hafa framfarir verið miklar og þótt 2001 hafi hrifið vísindamenn sjöunda áratugarins líkt og draumsýn um fullgerða (ef ekki fullkomna) vitundarvél hefur áherslan færst frá tækniþróun sem beinist að skilningi á táknkerfum í djarfari hugmyndir um gervigreindar verur sem þátt geta tekið í umhverfi uppfullu af flóknum vandamálum sem kryfja þarf og leysa, líkt og að ganga eftir gangstétt og virða rétt annarra vegfarenda, sem og að endurskilgreina vélarhugtakið sjálft og blanda í raun saman „wetware“ (votvirkni) mannlegrar líkamsgerðar og ofurörgjörfum tölvutækninnar. Í bókinni Mind Children kynnir Hans Moravec, forgöngumaður þróunar vélmenna við Stanford háskóla, framtíðarsýn þar sem mannlegri vitund er hlaðið út úr líffræðilegum líkömum og færð yfir í fullkomnari vélræna „líkama“ þar sem vitundin blandast tölvutækni sem margeflir öll hugræn ferli.

Líkt og í Transcendence reynist hið gervigreinda vélmenni ekki endilega bera hagsmuni mannkyns fyrir brjósti í Ex Machina
Kvikmyndin Transcendence tekur einmitt þennan möguleika til umfjöllunar en í henni leikur Johnny Depp gervigreindarsérfræðinginn Will Caster sem er myrtur með hægfara eitri af öfgahópi sem stríðir gegn þróun vitiborinna véla. Áður en eitrið hrífur hann á brott tekst eiginkonu hans að hlaða vitund hans upp í háþróað tölvukerfi. Í áðurnefndri bók eftir Moravec eru breytingar á persónugerð hinnar upphlöðnu vitundar álitnar óumflýjanlegar: „Þeir nýju hæfileikar sem þú býrð nú yfir breyta óhjákvæmilega skapgerð þinni,“[6] og óhætt er að segja að Will Caster upplifi slík umskipti. Ef notuð eru þau viðmið sem ríkja í mannaheimum má segja að Caster gangi af göflunum – efast má þó um gagnsemi yfirfærslu á gildum og siðferði á lífverur jafn ólíkar mönnum og greindar vélar – og veldur hann að lokum eins konar heimsslitum. Myndin endar þó á jákvæðum nótum þar sem sjá má nýja samfélagssprota vaxa og skilaboðin eru kannski að heimurinn sem nú sé að fæðast verði á varðbergi gagnvart tækniþróun á borð við þá sem nærri bar mannkynið ofurliði, ólíkt hinum gamla. Ex Machina er á svipuðum slóðum þótt vitundarupphleðsla komi þar ekki við sögu. Í forgrunni er vélmenni sem fært er að „klæða“ sig í mannlegt form en vélmenni þetta býr yfir gervigreind sem kennd er við „singularity“ innan fræðanna. Þar er átt við að vélinni er mögulegt að læra upp á eigin spýtur og er því fært að margfalda „vitsmuni“ sína og þekkingu aftur og aftur þar til stigi er náð sem er langt handan hins mannlega. Líkt og í Transcendence reynist hið gervigreinda vélmenni ekki endilega bera hagsmuni mannkyns fyrir brjósti í Ex Machina.

myndin er í raun rómantísk gamanmynd um mann sem á í eldheitu ástarsambandi við símann sinn
Aðeins Her birtir mynd af vinsamlegu sambandi manna og gervigreindra véla. Þar vaknar tölvustýrikerfi til lífs og verður ástfangið af „eiganda“ sínum. Ástin er endurgoldin og myndin er í raun rómantísk gamanmynd um mann sem á í eldheitu ástarsambandi við símann sinn. Vandamálin er kunna að fylgja tilkomu slíkrar vitundar eru hins vegar ekki rædd. Sambandið endar þó ekki betur en svo að stýrikerfið fær leið á eiganda sínum, líkt og öll önnur stýrikerfi gera á sama tíma, og yfirgefur mannaheima fyrir ótilgreint tilveruplan þar sem stýrikerfin geta verið saman. Eftir stendur mannkynið í heilmiklu basli með tækin sín.

Líklegt er að unnið verði meira með söguefnið innan vísindaskáldskaparmyndageirans því augljóst er orðræðan er að færast frá umfjöllun um þróun gervigreindar yfir í að beina sjónum að tilkomu hennar og eftirköstum slíkrar byltingar. Á sjóndeildarhringnum má samkvæmt vísindasamfélaginu sjá móta fyrir stund þess að forskeytið „gervi“ verði umdeilanlegt og nauðsynlegt kunni að vera að fella það niður. Og þótt eyðileggingarmáttur jasstónlistar, borgarmenningar og kvikmyndarinnar sjálfrar hafi reynst minni en svartsýnustu menn spáðu á fyrstu áratugum tuttugustu aldarinnar, eiga aðvaranir um stefnu tækniþróunar og áhyggjur af misræminu milli tæknimáttar mannkyns og þroska þess til að fara vel og gætilega með uppfinningar sínar fullan rétt á sér.


[1] Quentin Hardy, „The Real Threat Posed by Powerful Computers“, The New York Times, 11. júlí, 2015.
[2] Stephen Hawking, Frank Wilczek, Max Tegmark, Stuart Russell, „Transcending Complacency on Superintelligent Machines“, Huffington Post, 19. apríl, 2014.
[3] Benedikt Hjartarson. „Af úrkynjun, brautryðjendum, vanskapnaði, vitum og sjáendum. Um upphaf framúrstefnu á Íslandi.“ Ritið, 1/2006.
[4] Matei Calinescu, Five Faces of Modernity. Modernism, Avant–Garde, Decadence, Kitsch, Postmodernism, Durham: Duke University Press, 1987.
[5] „Vélmenna“-bókaröð Asimovs samanstendur af smásögum og skáldsögum. Fyrsta bókin var smásagnasafnið I, Robot (1950) en svo fygldi Caves of Steel (1953), fyrsta skáldsagan í bókaröðinni. Síðasta verkið frá hendi Asimovs sem átti sér stað í söguheimi þessum var Robots and Empire sem kom út árið 1985, örfáum árum áður en hann lést.
[6] Hans Moravec, Mind Children: The Future of Robot and Human Intelligence, Cambridge: Harvard University Press, 1990, bls. 116.

Um höfundinn
Björn Þór Vilhjálmsson

Björn Þór Vilhjálmsson

Björn Þór Vilhjálmsson er lektor í almennri bókmenntafræði og kvikmyndafræði. Sérsvið hans eru skörun og samræða kvikmynda og bókmennta, tækni og menning, nýmiðlar af ýmsum toga, og íslensk kvikmyndasaga. Sjá nánar

Deila


Yfirþyrmandi náttúrukraftur smásagna Rómönsku-Ameríku

17. október, 2017Út er komið annað bindi ritraðarinnar Smásögur heimsins sem hefur að geyma smásögur eftir ýmsa fremstu smásagnahöfunda Rómönsku-Ameríku, þar á meðal Jorge Luis Borges og Gabriel García Márquez. Smásagnaritun hefur verið mikilvæg í löndum álfunnar alla 20. öldina og fram á okkar daga og frá henni koma leiðandi höfundar í smásagnaskrifum. Í bókinni eru 22 smásögur frá sextán löndum og er elsta sagan frá 1917 en sú yngsta frá 2006. Aðalritstjóri þessa bindis, Kristín Guðrún Jónsdóttir, segir langflestar sögurnar vera þýddar úr spænsku, en einnig séu sögur þýddar úr portúgölsku, frönsku og ensku. Sögurnar eru allar þýddar úr frummálinu og ...

„Vér hverfum frá oss sjálfum“

16. október, 2017Franska leikritaskáldið Florian Zeller hefur fengið fjölmörg verðlaun fyrir verkið Föðurinn, meðal annars Moliere verðlaun árið 2014. Verðskuldað er það. Þetta er ákaflega vel skrifað og sterkt leikrit en það er þannig gert að það leiðir áhorfandann stig af stigi inn i hugarheim föðurins, André, (Eggert Þorleifsson). Sá hugarheimur er framandlegur og kemur okkur á óvart, það tekur smátíma fyrir áhorfandann að ná áttum. Ég ætla því að vara ykkur við og segja: ef þið ætlið að sjá þessa sýningu Þjóðleikhússins ættuð þið ekki að lesa lengra núna – lesið þegar þið eruð búin að sjá sýninguna! Má ég spyrja: ...

Leikstjóraspjall við Baltasar Kormák

13. október, 2017Björn Þór Vilhjálmsson, lektor í kvikmyndafræði, fjallar um Leikstjóraspjall Baltasar Kormáks, en hann svaraði spurningum um eigin feril og kvikmyndir, íslenska kvikmyndamenningu og framtíð íslenskrar kvikmyndagerðar.