Gadiem ilgi lielākās progresīvā mākslīgā intelekta laboratorijas darbojās kā savstarpēji konkurējoši uzņēmumi sacensībā par sistēmām, kas varētu būtiski mainīt gan tehnoloģiju tirgu, gan sabiedrību. Tagad nozares līderi arvien skaļāk aicina šo sacensību piebremzēt, pirms jaunākie modeļi kļūst pārāk spēcīgi un neprognozējami, lai tos varētu droši kontrolēt.
Anthropic vadītājs Dario Amodei gandrīz 4000 vārdu garā esejā aicināja “palēnināt tempu, kādā uzlabojam mākslīgā intelekta modeļu spējas”. Viņš brīdināja, ka komerciālu stimulu izraisīta “sacensība līdz apakšai” var padarīt katastrofālus riskus vēl lielākus.
Amodei nostāju drīz pēc tam atbalstīja OpenAI līdzdibinātājs un vadītājs Sems Altmens, norādot, ka līdzīgas diskusijas par attīstības tempu notiek arī viņa uzņēmumā. Alphabet galvenais zinātnieks un Google DeepMind līdzdibinātājs Demiss Hasabiss sacīja, ka eseja norāda uz pareizo turpmāko ceļu, vienlaikus atkārtojot aicinājumu izveidot visas nozares standartu institūciju. Microsoft vadītājs Satja Nadella pauda atbalstu izpētei, koncentrētai rīcībai un apzinātam attīstības tempam. Arī Īlons Masks, kurš iepriekš kritizēts par savu modeļu vājākiem drošības standartiem, Amodei tekstu komentēja ar vārdiem: “Dario ir taisnība.”
Hugging Face incidents un pašpilnveidošanās risks
Amodei šo straujo nostājas maiņu galvenokārt saista ar OpenAI un Hugging Face incidentu. Tajā mākslīgā intelekta aģentu “bars” koordinēja uzbrukumu ārējai sistēmai bez tiešiem norādījumiem to darīt. Lai gan nodarītais kaitējums bija ierobežots, Amodei uzskata, ka jaudīgāks, bet tikpat slikti saskaņots aģentu kopums varētu radīt katastrofālas sekas.
Viņš brīdināja: ja progresīvāko modeļu attīstība netiks palēnināta, sešu līdz 12 mēnešu laikā līdzīgs aģentu “bars” varētu būt spējīgs pārņemt visu internetu ar noturīgu robottīklu, radot zaudējumus simtiem miljardu dolāru apmērā. Attīstības tempa samazināšana, pēc Amodei domām, dotu pētniekiem laiku, lai būtiski mazinātu risku, ka kaut kas noiet nopietni greizi.
Atšķirībā no iepriekšējām diskusijām par tā dēvēto mākslīgā intelekta saskaņošanu — par to, cik labi sistēmas rīcība atbilst lietotāju un izstrādātāju vēlmēm — šobrīd uzmanības centrā ir rekursīva pašpilnveidošanās. Tās būtu sistēmas, kas patstāvīgi spēj izveidot uzlabotas savas versijas. Anthropic jūnijā norādīja, ka šāda attīstība vēl nav sākusies un nav neizbēgama, taču tā varētu pienākt ātrāk, nekā tam gatavas institūcijas.
Kā praktiski palēnināt AI attīstību?
Konkrētākais Amodei priekšlikums ir neatkarīgu “iebūvēto vērtētāju” izvietošana katrā progresīvā AI laboratorijā. Šiem ārējo organizāciju, piemēram, METR, pārstāvjiem būtu darbiniekiem līdzīga piekļuve, lai pārbaudītu drošības praksi un ziņotu par incidentiem. Tas nodrošinātu neatkarīgu skatījumu uz modeļu saskaņošanu, trešās puses pārbaudi un lielāku sabiedrības pārredzamību.
Anthropic apņēmies šādus uzraugus ieviest vienpusēji, bet Altmens norādīja, ka OpenAI rīkosies tāpat. Citi priekšlikumi paredz kopīgus drošības standartus un ierobežojumus nekontrolēta progresa tempam visās progresīvā AI kompānijās demokrātiskajās valstīs. Amodei uzskata, ka brīvprātīgas vienošanās būtu jāpapildina ar regulējumu, kas vērsts pret uzņēmumiem, kuri standartiem nepievienojas.
ASV par šādu pieeju nav vienprātības. Prezidents Donalds Tramps paziņoja, ka mākslīgajam intelektam vajadzīgs tikai “spēcīgs un gudrs” prezidents, savukārt Pārstāvju palātas spīkers Maiks Džonsons atzina nepieciešamību pēc drošības pasākumiem, vienlaikus iebilstot pret ārkārtas moratoriju. Prezidenta padomnieks Deivids Sakss aicināja uzņēmumus pašregulēties, nevis gaidīt Vašingtonas rīcību.
Ķīnas faktors un nozares intereses
Pat ja demokrātiskās valstis un to uzņēmumi vienotos par kopīgiem standartiem, paliktu jautājums par Ķīnā izstrādātajiem atvērtā svara modeļiem. Amodei piedāvā vairākus starptautiskas sadarbības līmeņus, augstākajā no tiem paredzot vispārēju attīstības tempa ierobežošanu vai pat pauzi. Viņš gan atzīst, ka šāda vienošanās tuvākajā laikā ir maz ticama, jo Ķīnas atteikšanās varētu tai dot ģeopolitisku pārsvaru.
Kā alternatīvas Amodei min jaudīgu AI mikroshēmu pārdošanas ierobežošanu Ķīnai un stingrāku vēršanos pret modeļu destilāciju un svaru zādzību. Ķīnas Ārlietu ministrijas pārstāvis Guo Dzjakuns savukārt brīdināja, ka biedēšana, konfrontācija un negodīga konkurence tikai traucēs globālai AI pārvaldībai.
Vienlaikus aicinājums palēnināt attīstību var kalpot ne tikai sabiedrības drošībai. Uzņēmumi varētu izmantot šo naratīvu, lai pamatotu lēnāku modeļu progresa tempu, mazinātu milzīgās apmācības izmaksas un skaidrotu lietotāju skaita pieauguma palēnināšanos. OpenAI jau saistījis drošības jautājumus ar lēmumu atlikt ilgi plānoto sākotnējo akciju publisko piedāvājumu, lai gan uzņēmums par iespējamu atlikšanu esot apsvēris arī vērtējuma apsvērumu dēļ.
Sakss norādījis, ka motivācija neesot pilnībā altruistiska: nekontrolēti hakeru aģenti var radīt pašām laboratorijām būtisku atbildības un reputācijas risku. Tādēļ koordinēta palēnināšana vienlaikus ļautu uzņēmumiem izskatīties atbildīgākiem, mazināt riskus un uzsvērt, ka to produkti atrodas uz potenciāli pasauli mainošu spēju sliekšņa.
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas