Vairāki cilvēki, kas strādā vai ir strādājuši pie mākslīgā intelekta tehnoloģijām, publiskojuši video, kuros atkārto tā dēvēto “doomeru” jeb pesimistisko brīdinājumu par iespējamiem nekontrolējamas AI attīstības riskiem.

“Manuprāt, cilvēces izmiršanas iespēja ir aptuveni 50 pret 50,” jaunā intervijā sacīja Džefrijs Ērvings, bijušais OpenAI un Google DeepMind darbinieks. Viņa saruna ir viena no aptuveni desmit intervijām ar AI pētniekiem, tostarp pašreizējiem un bijušajiem OpenAI, Google un Anthropic darbiniekiem.

Intervijas apkopojusi un platformā frominside.ai publicējusi Palisade Research — organizācija, kas sevi raksturo kā bezpeļņas pētniecības grupu AI spēju un motivācijas izpētei.

Pētnieki brīdina par cilvēces izmiršanas risku

Ērvingam pievienojušies arī citi pētnieki, paužot bažas, ka mākslīgais intelekts varētu novest pie cilvēku izmiršanas. Google DeepMind pētnieks Nīls Nanda sacīja, ka pastāv “vismaz 10 procentu iespēja, ka tas izraisa cilvēces izmiršanu, un tas ir absurdi augsts rādītājs”.

Abi pētnieki iepriekš izteikušies arī diskusijās par tā dēvēto AI drošību — jomu, kuras nozīmi un praktiskos risinājumus ir grūti viennozīmīgi definēt. Arī jaunie video nepiedāvā vienotu atbildi uz jautājumu, kā šādus riskus novērst.

“Mēs nezinām, kā tos kontrolēt”

Bijušais OpenAI pētnieks Daniels Kokotadžo sacīja, ka superinteliģents mākslīgais intelekts “būtībā būtu dievišķi varens”. Viņš piebilda: “Diemžēl mēs vispār nezinām, kā tos kontrolēt. Tāpēc, visticamāk, neviens tos nekontrolētu. Tas ir tieši tik bīstami, kā izklausās, un tam nedrīkst ļaut notikt.”

Vietnē pieejamas visas intervijas, taču tajā apkopoti arī dažādu pētnieku fragmenti par līdzīgām tēmām. Viņi apspriež, vai bažas par superinteliģenci nav tikai ažiotāža vai mārketings, kā arī to, kāpēc turpināt darbu pie tehnoloģijas, kuru paši uzskata par tik bīstamu.

Google darbiniece Mērija Funa aicināja skeptiski vērtēt viņas teikto: “Jums noteikti vajadzētu būt aizdomīgiem par to, ko es saku, jo man par to maksā laboratorija.” Savukārt Nanda skaidroja, ka aizietu no darba, ja neticētu, ka viņa darbs tieši samazina eksistenciālos riskus. “Šie uzņēmumi nepārstās veidot šīs sistēmas tikai tāpēc, ka es aiziešu,” viņš sacīja.