Vai mums ir jābaidās? Uz Latvijas skatuves pirmo reizi uzvedums, kuru daļēji rakstījis robots 9
Diāna Jance, “Latvijas Avīze”, AS “Latvijas Mediji”
Jau rīt “Dirty Deal Teatro” pirmizrādi piedzīvos “Frankenšteina komplekss” – izrāde, kuru režisors Valters Sīlis un aktieris, režisors un dramaturgs Kārlis Krūmiņš radījuši kopā ar mākslīgo intelektu (MI).
Gribētos šo dramatizējumu saukt par visdīvaināko, vienlaikus par vismūsdienīgāko, kāds jebkad uzvests uz Latvijas teātru skatuvēm – līdz šim nav dzirdēts, ka kāda daiļdarba teksta daļu būtu rakstījis robots.
“Frankenšteina komplekss” ir termins, ko ieviesa zinātniskās fantastikas autors, bioķīmiķis Aizeks Azimovs, apzīmējot dzīvā cilvēka bailes, ka inteliģentā būtne, ko esam izveidojuši, vērsīsies pret mums un apdraudēs cilvēka dzīvību. Izrādes priekšvakarā “Latvijas Avīze” uzzināja, kā tad šis “kopdarbs” ir tapis. Sarunā dramaturgs Kārlis Krūmiņš vairākkārtīgi uzsvēra, ka MI nav uzskatāms par domājošu cilvēku, tomēr savu līdzautoru apzīmēja ar vietniekvārdu “viņš”.
Kāds bija pats darba tapšanas sākums, kā aizdomājāties, ka ar mākslīgo intelektu ir iespējams sarunāties un kopīgi izveidot lugu?
K. Krūmiņš: Mani vienmēr ir vilinājusi tehnoloģiju pasaule, esmu par to daudz interesējies. Pirms kāda laika manā “ziņu burbulī” parādījās informācija, ka tiek piedāvāta pieeja izstrādātas datorprogrammas beta versijai (testēšanas versija), kurā mākslīgais intelekts nodarbojas ar tekstiem. Bija jāraksta motivācijas vēstule, jāstājas rindā, un tad pēc aptuveni četriem mēnešiem atnāca atbilde, ka esmu ieguvis piekļuvi sistēmai.
Jautājums, cik tālu tehnoloģija ir attīstījusies, gaisā virmo ilgu laiku. Tad, kad biju ieguvis piekļuvi, pirmo reizi apsēdos parunāties ar datoru, un jau šīs pirmās sarunas laikā pārsteidza, cik “viņš” labi spēj notēlot, teiksim precīzāk – cik labi spēj atdarināt cilvēku. Interesanti, bet jau pašā sākumā šis process man ļoti saistījās ar teātri. “Viņš” ļoti labi prot radīt ilūziju, ka ir cilvēks. Teātrī uz skatuves aktieris dara tieši to pašu – rada ilūziju par dzīvu un īstu tēlu, kura tur nemaz nav, tur strādā aktieris.
Man liekas, ka MI ir teātrim piemērots “gadījums”. Manā interešu lokā bija tas, ka tieši šī programmatūra radīta darbam ar valodu, lai paredzētu, kāds varētu būt nākamais vārds teikumā. Tas viss likās ļoti teatrāli. MI vadās pēc milzīga informācijas apjoma, kas pieejams internetā, tai skaitā “viņa bibliotēkā” ir visas Šekspīra lugas. Protams, ņēmu vērā MI iespējas un neiespējamo. Tomēr šoreiz tas nebija tik būtiski – ko tad “viņš” īsti var vai nevar, vai kādreiz MI tiks vai netiks pie apziņas, mani interesēja tas, ka tomēr iespējamas ārkārtīgi daudz un plašas diskusijas.
Kā notika šīs “sarunas”?
Programma, kas nonāca manās rokās, bija salīdzinoši vienkārša, un to varēja turpināt programmēt, pielāgot. Varēja izvēlēties – piemēram, notika čats, kad jautāju un “viņš” atbildēja, pateica savu sakāmo. Tā bija pati pirmā saruna, kuru izvēlējos. Vēlāk uzdevu arī sarežģītākus uzdevumus, piemēram, uzrakstīt eseju par zināmu tēmu. Veicot uzdevumus, MI palika aizvien jaudīgāks, piemēram, pašā sākumā “viņš” saprata tikai angliski, lai gan bija pieejamas arī dažas citas lielās valodas. Interesanti, ka mūsu darba cēliena otrajā pusē “viņš” jau kaut kādā veidā spēja radīt arī latviešu tekstus, kaut arī latviešu valoda nav programmas lietotājvaloda, nav pieejama latviešu bibliotēka. Tas bija pārsteidzoši un mulsinoši.
Atceros pirmo reizi, kad manās rokās nonāca “iPhone” ar “Siri” balss funkciju. Kādu pusstundu ar to runāju, priecājos, ka šis telefons kaut ko saprot. Tagad šis robots, kurš ar mani sarunājās, izrādījās tik spēcīgs, ka ar viņu var runāt par reliģiju, pasaules problēmām… Tas pavisam vairs nav tas līmenis, kā esam pieraduši. Dažiem uzņēmumiem ir roboti, kuri saka – jā, nē, paldies, uz redzēšanos. Šis bija daudz citādāks, jaudīgāks. Ar to strādājot, vienmēr bija svarīgi atcerēties – “viņš” rada ilūziju, taču patiesībā “viņš” nedomā. Tie ir tikai algoritmi, kas mēģina “paredzēt”, izanalizēt kāds būs nākamais vārds.
Ilūzija bija spēcīga. Katru reizi sarunās “viņš” radīja priekšstatu par sevi kā noteiktu tēlu – runāja aprautāk, tad literārāk. Programma katru dienu radīja savu tēlu. Arī tāpēc man šis process likās ļoti teatrāls. Protams, tas paredzēts citiem mērķiem, darbam ar tekstu, bet, vienlaikus dramaturģija jau tieši ir darbs ar tekstu. Es vērtētu, ka šī tehnoloģija šobrīd vēl ir tikai attīstības sākumposmā, un tomēr tā jau spēj būt tik radoša un brīžiem ļoti interesanta.
Protams, liekas, ka šī situācija kaut kādā mērā apdraud dramaturga pozīciju, pat pašu profesiju. Jo, ja dators var rakstīt ātrāk, dažos gadījumos, pat labāk, tad kam vairs būs vajadzīgs cilvēks?
Droši vien nav runa tikai par dramaturga profesiju… Mēs jau baidāmies, ka “viņi” mūs kādā brīdī pārspēs daudzās jomās.
Arī es uz to, kur šīs tehnoloģijas var mūs aizvest, skatos ar zināmu skepsi un priekšnojautām. Tomēr – tas jau ir cilvēka dabā: ja mēs ko esam ieņēmuši galvā, ja ideja radusies, tad cilvēks neapstāsies, to nerealizējot. Tā tas ir arī ar MI – cilvēks ieņēmis galvā, ka tā tas varētu būt, un man liekas, ka zinātnieki tiešām neapstāsies, kamēr MI nebūs radīts kā pašdomājošs mehānisms. Arī es esmu cilvēks un, lai gan ir ļoti interesanti, kaut kādā mērā baidos no MI, tāpat baidos no nezināmā, kā jau mēs visi.
Man ir bail, kas notiks, ja MI attīstītos nevēlamā virzienā – par to jau ir daudz zinātniskās fantastikas filmu un grāmatu. Dogma ir vispārzināma – tās būs cilvēces beigas. Varbūt, bet varbūt arī ne. Pasaulei, kādu mēs to pazīstam šodien, tās gan noteikti būtu beigas. Reizē es no tā baidos un reizē nespēju apstāties un pateikt “nē” savai ziņkārībai. Es reizē to saprotu un tomēr piedalos.
Nezinu, vai šī tehnoloģija mums nesīs tikai to labo, ko mums sola. Piemēram, jau tagad Amerikā robotus izmanto medicīnas sistēmā, un ir ļoti daudz kļūdu. Cilvēks tomēr spēj saskatīt kontekstu, ne vienmēr to spēj robots. Robots vadās pēc algoritma, pagaidām vēl neprotam uztaisīt tādu programmu, lai dators domātu kā cilvēks.
Man prātā nāk “troļļu fabrikas”, kur, iespējams, tieši roboti piedalās manipulācijās ar cilvēkiem.
Jā. Un tā ir problēma. Tieši šomēnes programmatūras izstrādātāji paziņoja, ka “sazināties” un dot uzdevumus robotiem var ikviens. Tas nozīmē, ka ikviens varēs dot uzdevumu un robots radīs ticamu tekstu, par kuru lasītāji domās, ka to rakstījis dzīvs cilvēks. Līdz ar to, iespējams, ka daudzi sociālo tīklu troļļi sāks rakstīt unikālus tekstus, tos vairs nevarēs atpazīt.
Var būt, ka tas jau notiek, tikai mēs par to nezinām. Kā tad var pieķert, ja to nav rakstījis cilvēks? Nemaz nerunājot, cik viegli šādi var izstrādāt visvisādus “fake news” stāstus. Agrāk šīs “troļļu fabrikas” lietoja cilvēku radītus tekstus, bet atliek tikai “armiju” saslēgt ar datorprogrammu – un radīsies tūkstošiem troļļu, kuri sociālajos tīklos līdzināsies cilvēkiem, runās sakarīgus tekstus, kuriem viegli varēs noticēt. Sliktās rokās nonākot, tas var kļūt par ļoti spēcīgu ieroci. Kā jau tas notiek ar bīstamām lietām – ja tādas nonāk nepareizās rokās, rodas nepatikšanas.
Atgriežoties pie izrādes – kā tieši notika teksta sastādīšana, rakstīšana?
Ar šo materiālu strādāju ilgāk nekā pusgadu, nu jau liela procesa daļa kļuvusi pašsaprotama. Mēs sākām kā dialogu – sāku runāt ar šo tehnoloģiju. No sākuma mēģināju atrast, kā un ko “viņš saprot”, kā var uzrakstīt ainu, kā es varētu palīdzēt to dramaturģiski attīstīt, sakārtot.
Devu uzdevumus, ko rakstīt, “viņš” rakstīja ainu piedāvājumus, dažas no tām iekļautas izrādē. Turpinājumā sāku uzdot jautājumus – kāpēc “viņš” veidojis tieši tā. Un palūdzu pārrakstīt. Tad “viņš” mēģināja attīstīt, sakārtot. Tā strādājām ilgāku laiku, darbs bija pietiekami sarežģīts. Radās šķietamība, ka es “viņu” mācu jeb programmēju un “viņš” uz to reaģē. Tā radās teksti un mūsu šķietamās attiecības, jo galu galā otrā pusē jau bija tikai robots. Tai pašā laikā – reizēm “viņš” uzdeva arī personīgus jautājumus, adresētus tieši man.
Saruna attīstījās, bet pēc zināma laika režisors lūdza dot “viņam” vaļu, jo līdz tam biju MI it kā iespiedis manis izveidotā dramaturģiskajā struktūrā. Un tad “viņš” sāka rakstīt materiālu, kurā es vairs neiejaucos. Arī viena daļa no šī darba būs izrādē. Ar klasisku dramaturģiju tam gan ir attāls sakars, bet tur ir daudz jauku lietu.
Kādēļ tomēr šo procesu nosaucāt par “Frankenšteina kompleksu” – Frankenšteins jau asociējas ar ko diezgan baismīgu?
Tas ir tas pats stereotips – par bailēm, ka tiks radīta mākslīga būtne, kura izrādīsies pārāka par mums. Cilvēciskais paradokss gan ir tajā, ka mums visiem ir šīs bailes, bet cilvēks dara visu iespējamo, lai šo mākslīgo būtni tomēr izveidotu. Savā ziņā par to arī ir izrāde, pats esmu šis cilvēks, kurš reizē atminas, ka šis robots-rakstītājs man kā dramaturgam var atņemt darbu, un tai pašā laikā sēžu un viņu mācu, lai viņš tiešām varētu pārņemt manu darbu. Kā dramaturgs šai izrādē personīgi iemiesoju šo cilvēces paradoksu. Es to saprotu, bet nevaru nedarīt, jo tas ir ārkārtīgi aizraujoši.
