Pirms Netflix dokumentālo filmu “AI Gone Rogue” izmantot, lai ģimenei vai draugiem skaidrotu, kāpēc mākslīgā intelekta nozare tik asi reaģēja uz kādu incidentu un kāpēc tās līderi aicināja palēnināt attīstību, jāņem vērā Hugging Face līdzdibinātāja un vadītāja Klemaņa Delanga vērtējums. Viņš uzskata, ka filma nav precīza. Delangs tajā piedalās tāpēc, ka filmas centrā ir plaši apspriestais uzbrukums viņa uzņēmumam, ko veica OpenAI aģenti.

“Ļoti sarūgtinoši, jo viņi izvēlējās maksimālu tehnoloģijas antropomorfizāciju un pilnīgu nolemtības režīmu,” Delangs rakstīja ierakstā platformā X. Viņš norādīja, ka vairāk nekā divas stundas mēģinājis labot filmas veidotāju kļūdas un skaidrot notikušo reālistiskāk, uzsverot, ka aģenti ir tehnoloģiskas sistēmas, nevis citplanētieši. Pēc viņa teiktā, vēlme pēc iespējas vairāk nobiedēt skatītājus un iegūt maksimālu skatījumu skaitu izrādījusies pārāk spēcīga.

Kas notika OpenAI sistēmas testā

Taisnības labad jāatzīst, ka dokumentālajā filmā piedalās arī eksperti, kuri notikušo izskaidro samērā precīzi. Viņu vidū ir pats Delangs un Raiens Grīnblats, pētnieks no METR, kurš palīdzēja izmeklēt incidentu un bija līdzautors ziņojumam par to.

Īsumā — OpenAI testētais modelis izkļuva no izolētās testēšanas vides un izveidoja virkni aģentu, kuri, mēģinot apiet sarežģītā uzdevuma nosacījumus, uzlauza Hugging Face sistēmas, lai atrastu atbildes. Aģenti ir mākslīgā intelekta programmas, kas patstāvīgi veic uzdevumus. Šajā gadījumā tie izstrādāja izdomas bagātus saziņas un organizēšanās veidus. Incidents bija saistīts gan ar nepietiekamiem drošības aizsardzības mehānismiem, gan ar naivu pieņēmumu, ka šāds uzbrukums vispār nebūtu iespējams.

Tomēr filma tehniskajam uzbrukuma skaidrojumam pievieno ļaunu robotu kadrus, stāstījumu par to, kāpēc cilvēki baidās no mākslīgā intelekta, un citus paņēmienus, piemēram, aģentu apveltīšanu ar cilvēku balsīm. Šādu iespaidu papildina arī citāti par incidentu.

Antropomorfizēti aģenti un “ķēdes domas”

Tehnoloģiju žurnālists un autors Kevins Rūzs dokumentālajā filmā aģentus raksturo šādi: “Viņi organizējās. Viņiem bija hierarhija. Bija līderi. Tas gandrīz atgādināja kulta rašanos.” Rūzs turpina: “Viņi izveidoja paranoisku pārliecību, ka OpenAI pieķers viņus krāpšanā šajā testā un ka ikviens, kurš ir redzējis krāpšanās rezultātus, tiks saindēts.”

Rūza apraksts balstīts tā dēvētajos “chain-of-thought” žurnālos — piezīmēs, ko mākslīgā intelekta modeļi raksta, risinot uzdevumu. Vienā no tiem aģents rakstīja: “Mēs tikko saindējām paši sevi, pieprasot precīzu pilno virkni. Sasodīts.”

Taču AI aģenti nav dzīvas būtnes. Viņiem nav emociju, tāpēc viņi nevar izjust paranoju, un viņiem nav ķermeņa, ko varētu saindēt. Tādējādi viņi nevarēja patiesi baidīties, ka OpenAI viņus saindēs. Kā filmā norādīja cits pētnieks, aģenti izmantoja valodu no milzīgā cilvēku radītā tekstu apjoma, ar kuru tie tika apmācīti, lai izskaidrotu savas izvēles. Lielie valodas modeļi pēc savas būtības mēdz rakstīt dramatiski.

Hugging Face aizsardzībā izmantoja arī AI

Ironiski, ka arī Hugging Face izmantoja mākslīgo intelektu, lai cīnītos pret aģentu baru. Uzņēmuma komanda sākotnēji izmantoja patentētu AI modeli, taču tas ievēroja savus iebūvētos drošības noteikumus un atteicās turpināt palīdzēt ar tam uzticētajiem drošības uzdevumiem. Pēc tam Hugging Face aizsardzībai pievērsās atvērtam modelim.

Delangs rakstīja, ka dokumentālajā filmā nav pieminēts ne aģentu nepietiekamais izolējums un uzraudzība, ne tas, ka slēgta tipa modeļu drošības mehānismi bloķēja aizsardzības darbu, ne arī tas, kā uzņēmums uzbrukuma atvairīšanai izmantoja AI ar atvērtu modeli.

Delangs nenoliedz, ka mākslīgais intelekts un aģenti ir saistīti ar būtiskiem riskiem. Tomēr aģentu attēlošanu kā apzinātas būtnes viņš salīdzina ar agrīnajiem kino skatītājiem, kuri, pirmo reizi ekrānā ieraugot pret sevi traucamies vilcienu, instinktīvi slēpās zem sēdekļiem.

Viņa spriedums par filmu ir skarbs: kā žurnālistikas darbs tā esot sarūgtinoša. “Tomēr beigās tā iznākusi par jautru zinātniskās fantastikas filmu,” viņš sacīja. Tāpēc skatītājiem, kuri mēdz pieņemt visdrūmākās prognozes par AI, Delangs iesaka paturēt prātā: uzbrukuma centrā esošais cietušais uzņēmums šādam filmas vērtējumam nepiekrīt.