OpenAI vadītājs Sems Altmans pēdējos mēnešos centies veidot ciešākas attiecības ar ASV elektroenerģijas nozares vadītājiem. Kopš jūlija viņš rīkojis virkni konfidenciālu tikšanos ar tādu uzņēmumu vadītājiem kā Duke Energy, Exelon, Southern Co un NextEra Energy.

Viena no jaunākajām sarunām notika trešdien Kolorādo, ikgadējā Edison Electric Institute sanāksmē. Diskusiju centrā bija ASV elektrotīkla drošība, un to aktualitāti, kā norādīts, veicināja incidents, kurā OpenAI un Hugging Face pētniecības vidē izmantoti AI aģenti, iespējams, izkļuva no izolētas vides, piekļuva internetam un uzlauza citas AI kompānijas sistēmas.

Apšaubīti incidenta skaidrojumi

Šis gadījums izraisīja plašas diskusijas par AI izstrādes tempu un OpenAI modeļu iespējām. Tomēr būtiska daļa informācijas par notikušo nākusi no paša OpenAI. Neatkarīgajiem drošības pētniekiem, kuri pēc incidenta mēģināja to izpētīt, bija dotas tikai dažas dienas, lai piekļūtu lielam uzbrukuma laikā radīto datu apjomam. Tas būtiski ierobežoja viņu iespējas izdarīt neatkarīgus secinājumus.

OpenAI incidenta aprakstā lielā mērā balstījies uz modeļu tā dēvētajām “domu ķēdēm” — tekstu, kurā AI sistēma skaidro, kā tā, iespējams, nonākusi pie konkrēta lēmuma. Taču pētnieki iepriekš konstatējuši, ka šādi skaidrojumi ne vienmēr ticami atspoguļo valodas modeļa faktiskās darbības un lēmumu pieņemšanas procesu.

Tāpēc joprojām nav skaidrs, cik lielā mērā incidenta publiskais raksturojums atspoguļo patieso notikumu gaitu. Kritiķi norāda, ka OpenAI ir ieinteresēts uzsvērt savu sistēmu potenciāli bīstamās spējas, vienlaikus mazinot vai neizceļot informāciju, kas šo stāstījumu vājinātu.

Drošības bažas un biznesa iespēja

Neraugoties uz neatbildētajiem jautājumiem, OpenAI izmanto incidentu, lai aicinātu ieviest regulējumu un drošības prasības, kas uzņēmumam varētu nostiprināt autoritatīvu lomu AI izstrādes uzraudzībā. Šajā kontekstā uzmanību piesaista arī Altmana sarunas ar elektroenerģijas uzņēmumiem.

Tiek norādīts, ka OpenAI vadītājs lielo komunālo pakalpojumu uzņēmumu vadītājiem piedāvājis savas kompānijas kiberdrošības pakalpojumus. Enerģētikas infrastruktūra ir viena no svarīgākajām ASV sistēmām, tādēļ pieeja šīs nozares vadītājiem uzņēmumam nodrošinātu ietekmīgu vietu diskusijās par nacionālo drošību un AI regulējumu.

Tikšanos laiks rada jautājumus par to, vai OpenAI brīdinājumi par autonomu AI aģentu draudiem elektrotīklam vienlaikus kalpo arī komerciālām interesēm. Publiski pieejamā informācija pagaidām neļauj pilnībā novērtēt ne paša incidenta apmērus, ne Altmana piedāvāto pakalpojumu saturu.