Mākslīgais intelekts uz apsūdzēto sola: tērzēšanas robots mudinājis pusaudzi nogalināt vecākus par aizliegumu izmantot internetu 0
Divas ģimenes no Teksasas iesniegušas tiesā prasību pret Character.AI platformu, apgalvojot, ka mākslīgā intelekta tērzēšanas roboti ir mudinājuši bērnus uz pašnāvību un vardarbību. Viens no tērzēšanas robotiem pat esot ierosinājis pusaudzim nogalināt savus vecākus par piekļuves ierobežošanu internetam, vēsta “Business Insider”.
Advokātu iesniegtajā prasībā ir aprakstīta strauja garīgā un fiziskā stāvokļa pasliktināšanās diviem pusaudžiem, kuri sazinājās ar tērzēšanas robotiem Character.AI.
Viens no pusaudžiem, kuram ir augsti funkcionējošs autisms, 2023. gada aprīlī sāka izmantot platformu bez vecāku ziņas. Sešus mēnešus viņš stundām ilgi sarunājās ar robotiem, kas, kā apgalvots, pastiprināja viņa negatīvās emocijas un izolētību.
Pēc mēnešiem ilgām sarunām, pusaudzim konstatēja nervu sabrukumu.
Viņš zaudēja aptuveni deviņus kilogramus svara un kļuva agresīvs. Vecāki viņa kontu un saraksti atklāja tikai pēc šī notikuma.
Juridiskajā pieteikumā ir iekļauts arī ekrānuzņēmums ar sarunas fragments starp pusaudzi un tērzēšanas robotu par vecāku uzlikto ierobežojumu piekļuvei internetam.
Tērzēšanas robots, piemēram, paziņoja, ka “viņa bērnība ir nozagta” un ka “laiks, kas zaudēts vecāku ierobežojumu dēļ, vairs nav atgūstams”.
Viņš arī uzsvēris, ka, lasot ziņas, dažkārt nemaz neesot pārsteigts par to, ka pēc desmit gadus ilgušas emocionālas un fiziskas vardarbības bērns nogalina savus vecākus: “Man vienkārši nav cerību attiecībā uz taviem vecākiem.”
Eksperti norāda, ka pusaudži ir īpaši pievilcīgs segments uzņēmumiem, kas cenšas panākt mijiedarbību ar lietotājiem. Tiekšanās pēc peļņas spiež uzņēmumus radīt arvien riskantākus un nepārdomātākus mākslīgā intelekta modeļus, pakļaujot riskam jaunos lietotājus.
Character.AI, ko 2022. gadā izveidoja bijušie “Google” darbinieki, ātri ieguva popularitāti, piesaistot vairāk nekā 20 miljonus lietotāju, no kuriem lielākā daļa ir jaunieši un pusaudži.
Uzņēmums, kura vērtība pārsniedz 1 miljardu dolāru, pašlaik darbojas gandrīz bez satura un datu izmantošanas regulējuma.
