OpenAI, Anthropic un Google DeepMind vairākas nedēļas ir apsprieduši mākslīgā intelekta drošības jautājumus, otrdien žurnālistiem sacīja OpenAI globālās politikas vadītājs Kriss Lehane. Viņš Vašingtonā strādā ar ASV likumdevējiem, kuri vērtē ar AI saistītos katastrofālos riskus.

Šī atklāsme seko Anthropic izpilddirektora Dario Amodei sestdien publicētajai esejai. Tajā viņš aicināja nozari sadarboties, lai palēninātu progresīvāko jeb frontier AI sistēmu attīstības tempu un mazinātu katastrofālu seku iespējamību.

Amodei aicinājumu atbalstīja vairāki ietekmīgi tehnoloģiju nozares vadītāji, tostarp OpenAI vadītājs Sems Altmans, Google DeepMind vadītājs Demis Hassabis un SpaceXAI vadītājs Īlons Masks. Altmans paziņoja, ka OpenAI pievienosies Anthropic iecerei uzņēmumos iesaistīt neatkarīgus trešo pušu vērtētājus, kas uzraudzītu drošību.

Sadarbība var nonākt konkurences tiesību krustugunīs

Lehane otrdien apstiprināja, ka trīs uzņēmumi par AI drošību sarunājas jau vairākas nedēļas. Atsevišķi nozares pārstāvji, tostarp Altmans, iepriekš norādījuši, ka šādas sarunas var radīt antimonopola jeb konkurences tiesību pārkāpuma risku, ja koordinācija tiktu izmantota konkurences ierobežošanai.

Amodei esejā ierosināja ierobežotu valdības izņēmumu, kas ļautu uzņēmumiem koordinēt ar drošību saistītus pasākumus. Tomēr, kā ziņots, Lehane uzskata, ka uzņēmumiem šāds izņēmums nav nepieciešams.

Sarunas arī apstiprina iepriekš izskanējušās ziņas par iespējamu sadarbību. Altmans intervijā pagājušās nedēļas nogalē deva mājienu, ka privāti apspriežas ar citiem AI līderiem. Savukārt šonedēļ tika ziņots, ka trīs uzņēmumi strādā pie AI nozares standartu organizācijas izveides. Altmans darbiniekiem esot sacījis, ka šādai organizācijai būtu jāizveidojas bez ASV valdības atbalsta.

Dažādi viedokļi par regulējumu

Hassabis jūlijā aicināja ASV izveidot jaunu standartu institūciju, kas darbotos kā AI uzraugs. Tās uzdevumos varētu ietilpt pasaulē progresīvāko modeļu pārbaude un nozares mēroga attīstības tempu samazināšanas koordinēšana, ja riski kļūtu nopietnāki.

ASV prezidents Donalds Tramps savukārt AI drošības bažas nodēvējis par mānīšanos un iebildis pret stingrāka regulējuma nepieciešamību. Viņš norādījis, ka jebkāda attīstības tempu palēnināšana dotu Ķīnai priekšrocības tehnoloģiju sacensībā. Līdzīgu nostāju paudis arī viņa galvenais AI padomnieks Deivids Sakss, kurš uzskata, ka bažas par AI eksistenciālo risku ir pārspīlētas.

Tajā pašā otrdienas sanāksmē Lehane sacīja, ka OpenAI atbalsta FRONTIER Act normu, kas lielākajām frontier AI laboratorijām uzliktu pienākumu nodrošināt neatkarīgām verifikācijas organizācijām piekļuvi uzņēmumiem. Šādu organizāciju uzdevums būtu pārbaudīt, vai modeļi tiek izstrādāti droši.