Google un Google DeepMind pētnieki trešdien paziņoja par DeepMind Institute izveidi. Jaunā institūcija iecerēta kā platforma, kurā apspriest atšķirīgus viedokļus par vispārējo mākslīgo intelektu un tā attīstības sekām.

Institūta direktoru vidū ir DeepMind līdzdibinātājs Šeins Legs, Google vadītājs Džeimss Mani­ka un Google DeepMind priekšsēdētājs Demiss Hasabiss. Legam uzticēts arī vadošā redaktora amats.

Institūts norāda, ka tā mērķis ir izcelt atšķirīgās nostājas starp Google, Google DeepMind un plašāku pasaules pētnieku kopienu. Organizācijas pirmajā paziņojumā uzsvērts, ka tās dalībnieki ne vienmēr būs vienisprātis un, pieaugot datu un informācijas apjomam strauji mainīgajā nozarē, varēs mainīt savus uzskatus.

Pirmā eseju kolekcija pievēršas četriem tematiem

Institūta pirmo publikāciju krājumu veido četras esejas. Tajās aplūkota ekonomiskā politika iespējamās AGI izraisītās pārmaiņas pārvaldīšanai, cilvēkiem saprotamas modeļu spriešanas saglabāšana, cilvēku labklājības principi un ietvars progresīvāko mākslīgā intelekta modeļu izvērtēšanai.

Viena no esejām, ko sarakstījuši DeepMind drošības pētnieki Rohins Šahs un Anka Dragana, pievēršas modeļu pārskatāmībai. Autori apgalvo, ka samazinošais laiks, kurā iespējams redzēt un pārbaudīt modeļa spriešanas soļus, nav neizbēgams. Jaunas arhitektūras padara jaudīgāko modeļu uzraudzību sarežģītāku, tādēļ izstrādātājiem un regulatoriem būtu tieši jāizvērtē ar drošību saistītie kompromisi.

Viens no piedāvātajiem risinājumiem būtu ierobežot tā dēvēto “necaurredzamo secīgo dziļumu” — secīgās skaitļošanas apjomu, ko modelis var veikt, neradot cilvēkiem saprotamu spriešanas izklāstu. Vēl viena iespēja paredzētu prasīt izstrādātājiem pierādīt, ka arī mazāk pārskatāmas sistēmas ir tikpat efektīvi uzraugāmas.

Hasabiss rosina veidot progresīvo modeļu uzraudzības institūciju

Citā esejā Hasabiss piedāvā ASV vadītu progresīvāko mākslīgā intelekta modeļu standartu institūciju. Saskaņā ar viņa ieceri izstrādātāji sākotnēji brīvprātīgi iesniegtu savus modeļus pārbaudei līdz 30 dienām pirms to izlaišanas.

Ja šāda izvērtēšanas sistēma izrādītos efektīva, sekmīga pārbaude nākotnē varētu kļūt par priekšnoteikumu progresīvo modeļu ieviešanai ASV. Sākumā novērtēšanas kritēriji tiktu veidoti sadarbībā ar mākslīgā intelekta uzņēmumiem, bet vēlāk institūcija varētu izstrādāt neatkarīgus un iepriekš neizpaustus testus.

Šādi “iepriekš nezināmi” jeb “held-out” testi ļautu nepieļaut, ka laboratorijas pielāgo savus modeļus iepriekš zināmiem vērtēšanas kritērijiem. Hasabiss norādījis, ka sistēmas prasības varētu pakāpeniski pastiprināt, ja situācijas nopietnība to prasītu, tostarp apsverot koordinētu progresīvāko modeļu izstrādes palēnināšanu.

Institūta publikācijas iznākušas laikā, kad diskusija par mākslīgā intelekta drošību pārorientējas no vispārīgiem bažu paziņojumiem uz konkrētiem priekšlikumiem par informācijas atklāšanu, ārēju uzraudzību un koordinētu attīstības tempu samazināšanu, ja drošības pasākumi nespēj sekot nozares izaugsmei. Šī tendence pastiprinājās pēc tam, kad nozares līderi atbalstīja atsevišķus Anthropic vadītāja Dario Amodei aicinājuma ierobežot progresīvāko mākslīgā intelekta sistēmu attīstības tempu elementus.