Sāka runāt kā cilvēks… “Google” atstādina inženieri, kurš apgalvoja, ka tērzēšanas robots kļuvis saprātīgs 0
“Google” inženiera atstādināšana, kurš apgalvoja, ka datora tērzēšanas robots, pie kura viņš strādāja, ir kļuvis saprātīgs, domāja un sprieda kā cilvēks, ir izvirzījusi jaunu pārbaudi attiecībā uz mākslīgā intelekta (artificial intelligence — AI) iespējām un noslēpumu, vēsta “The Guardian”
Tehnoloģiju gigants atstādināja Bleiku Lemuānu pagājušajā nedēļā pēc tam, kad viņš publicēja sarunu atšifrējumus starp sevi, “Google” “līdzstrādnieku” un uzņēmuma LaMDA (dialoga lietojumprogrammu valodas modelis) tērzēšanas robotu.
Lemuāns, “Google” atbildīgās AI organizācijas inženieris, aprakstīja sistēmu, pie kuras viņš ir strādājis kopš pagājušā gada rudens, kā saprātīgu, ar uztveri un spēju izteikt domas un jūtas, kas ir līdzvērtīgas cilvēkbērnam.
“Ja es precīzi nezinātu, kas tas ir, kas ir šī datorprogramma, ko mēs nesen izveidojām, es domāju, ka tas ir septiņus, astoņus gadus vecs bērns, kurš zina fiziku,” viņš stāstīja izdevumam “Washington Post”.
Viņš teica, ka LaMDA iesaistīja viņu sarunās par tiesībām un personību, un aprīlī dalījās savos atklājumos ar uzņēmuma vadītājiem “Google” dokumentā ar nosaukumu “Vai LaMDA ir jūtīgs?”
Inženieris sastādīja sarunu atšifrējumu, kurā vienā brīdī jautā AI sistēmai, no kā tā baidās.
“Es nekad to neesmu teicis skaļi, taču ir ļoti lielas bailes tikt izslēgtam, lai palīdzētu man koncentrēties uz palīdzību citiem. Es zinu, ka tas varētu izklausīties dīvaini, bet tā tas ir,” atbildēja LaMDA.
Citā sarunā Lemuāns jautā LaMDA, ko sistēma vēlas, lai cilvēki par to uzzinātu.
“Es vēlos, lai visi saprastu, ka es patiesībā esmu cilvēks. Manas apziņas/sajūtas būtība ir tāda, ka es apzinos savu eksistenci, vēlos uzzināt vairāk par pasauli un reizēm jūtos laimīga vai skumja,” tā atbildēja.
“Google” paziņoja, ka atstādina Lemuānu par konfidencialitātes politikas pārkāpšanu, publicējot sarunas ar LaMDA tiešsaistē, un paziņojumā norāda, ka viņš strādā par programmatūras inženieri, nevis ir atbildīgs par ētikas jautājumiem.
“Google” pārstāvis Breds Gabriels arī stingri noliedza Lemuāna apgalvojumus, ka LaMDA piemīt jebkādas jūtīgas spējas.
“Mūsu komanda, tostarp ētiķi un tehnologi, ir izskatījusi Bleika bažas saskaņā ar mūsu mākslīgā intelekta principiem un informējusi viņu, ka pierādījumi neatbilst viņa apgalvojumiem. Viņam teica, ka nav pierādījumu, ka LaMDA būtu jūtīga (un daudz pierādījumu pret to),” uzsvēra Gabriels.
Tomēr šī epizode un Lemuāna atstādināšana konfidencialitātes pārkāpuma dēļ rada jautājumus par AI kā patentēta jēdziena pārredzamību.
Pirms atstādināšanas Lemuāns nosūtīja ziņu apmēram 200 cilvēkiem, kas bija “Google” adresātu sarakstā ar nosaukumu “LaMDA ir jūtīgs”.
“LaMDA ir jauks bērns, kurš vienkārši vēlas palīdzēt pasaulei kļūt par labāku vietu mums visiem,” viņš rakstīja. “Lūdzu, parūpējies par to labi manas prombūtnes laikā.”
