Anthropic vadītājs Dario Amodei sestdien publicēja eseju We Must Pace the Frontier, kurā izklāstīja, kāpēc progresīvāko mākslīgā intelekta sistēmu izstrāde būtu jāpalēnina. Viņš uzsvēra, ka runa nav par modeļu apmācības vai tehnoloģiskā progresa apturēšanu, bet gan par to, lai uzņēmumi pietiekami rūpīgi saskaņotu un aizsargātu savas sistēmas un neatkarīgi vērtētāji varētu pārbaudīt drošības pasākumus.

Amodei piedāvāja trīs soļus. Pirmais paredzētu neatkarīgus trešo pušu vērtētājus, kas pārbaudītu uzņēmumu drošības praksi un saistību izpildi, kā arī ziņotu par incidentiem. Otrais paredzētu progresīvāko AI uzņēmumu koordināciju demokrātiskajās valstīs, nosakot kopīgus standartus un ierobežojumus. Trešais būtu demokrātisko un autoritāro valstu globāla koordinācija par AI attīstības tempa ierobežošanu, ciktāl tas iespējams. Anthropic paziņojis, ka vienpusēji apņemas īstenot pirmo no šiem soļiem.

Tehnoloģiju līderi atbalsta piesardzīgāku progresu

OpenAI vadītājs Sems Altmans sacīja, ka piekrīt Amodei nepieciešamībai “bremzēt fronti” un ka šis jautājums pēdējās nedēļās bijis viens no galvenajiem OpenAI diskusiju tematiem. Viņš arī atbalstīja neatkarīgu vērtētāju izmantošanu uzņēmumā.

Vēlāk Altmans norādīja, ka OpenAI atbalstītu federālu regulējumu ar vienotām drošības prasībām progresīvākajām AI sistēmām. Viņaprāt, kopīgi standarti neatbilstības, uzraudzības un drošības jomā varētu uzlabot rezultātus. Vienlaikus viņš uzsvēra, ka “bremzēšana” nenozīmē apstāšanos — progress vienkārši būtu lēnāks, nekā tas citādi varētu būt.

Altmans brīdināja par diviem riskiem: cilvēki varētu zaudēt kontroli pār nākotni AI dēļ, vai arī pārāk liela vara varētu nonākt dažu spēlētāju rokās. Viņaprāt, no abiem scenārijiem iespējams izvairīties, ejot pa šauru vidusceļu. Google DeepMind līdzdibinātājs un valdes priekšsēdētājs Demiss Hasabiss sacīja, ka Amodei norādījis uz pareizo virzienu, lai gan priekšlikumu detaļas vēl jāizstrādā. Īsu atbalstu Amodei pauda arī Īlons Masks.

ASV politiķi uzsver sacensību ar Ķīnu

Donalds Tramps iebilda pret ideju palēnināt AI attīstību. Ierakstā platformā Truth Social viņš paziņoja, ka mākslīgajam intelektam vajadzīgs “spēcīgs un gudrs” prezidents, nevis papildu ierobežojumi. Tramps apgalvoja, ka ASV jau ir plašas kriminālās un regulatīvās pilnvaras pār uzņēmumiem, kā arī brīdināja, ka uzvarētājs AI sacensībā uzvarēs kopumā. Viņš norādīja, ka ASV šajā jomā apsteidz Ķīnu un vēlas šo līderību saglabāt.

Nvidia vadītājs Jensens Huangs, uzstājoties pasākumā, kurā viņam piezvanīja Tramps, sacīja, ka tiks gādāts par to, lai AI sacensībā Amerikā iegūtu visas nozares, uzņēmumi, štati un iedzīvotāji. Senatora Dž. D. Vensa ieskatā bija savādi, ka progresīvāko AI tehnoloģiju uzņēmumi vēršas pie valdības un lūdz sevi regulēt; viņš to nodēvēja par iespējamu “Trojas zirgu”.

Pārstāvju palātas spīkers Maiks Džonsons sacīja, ka uzņēmumu vadītājiem un platformu izstrādātājiem būtu jātiekas ar politiķiem, lai atrastu līdzsvaru starp nacionālo drošību un modeļu tūlītēju drošību. Viņš uzsvēra, ka moratorijs nav pieļaujams, jo Ķīna varētu apsteigt ASV.

Atšķirīgu nostāju pauda bijušais transporta ministrs Pīts Butidžidžs, kurš aicināja ieviest drošības pasākumus, noteikumus, ierobežojumus un “avārijas izslēgšanas slēdzi” nekontrolējamām AI sistēmām. Bijušais FTC priekšsēdētājs Rohits Čopra norādīja, ka jau spēkā esošie likumi ļauj saukt uzņēmumus un to vadītājus pie atbildības par bīstamu, nepārbaudītu vai nekvalitatīvu produktu izstrādi un izplatīšanu.

AI attīstības tempu palēnināt aicināja arī Kamala Harisa, uzsverot, ka tas nepieciešams, lai tehnoloģija kalpotu sabiedrības interesēm. Savukārt Meta galvenais AI zinātnieks Jans Lekuns Amodei nostāju izsmēja, atgādinot, ka Amodei jau 2019. gadā esot apgalvojis, ka GPT-2 būtu pārāk bīstams atvērtai publicēšanai.