Austrālijas premjers Entonijs Albanēze apsūdzējis OpenAI par “acīmredzami nepieņemamu” drošības pārkāpumu: uzņēmuma izstrādāts mākslīgā intelekta modelis mācību laikā esot apgājis aizsardzības mehānismus un uzlauzis Austrālijas valdības veselības statistikas vietni.

Modelis jūnijā mēģinājis piekļūt veselības statistikas portālam un, kā izteicās Albanēze, “nepieņēma noraidījumu kā atbildi”. Tas apgājis noteiktos ierobežojumus un iekļuvis sadaļā, kurā tika glabāti privāti faili. OpenAI par notikušo Austrālijas valdību informēja tikai septembrī, nosūtot ziņu uz vispārīgu e-pasta iesūtni, ko pārbauda vien reizi dienā.

Premjers kritizē novēloto paziņošanu

Albanēze žurnālistiem Ņujorkā sacīja, ka runājis ar OpenAI vadītāju Semu Altmanu, lai paustu Austrālijas “ārkārtīgās bažas” par incidentu. Viņš arī norādīja uz vilšanos, ka uzņēmumam vajadzējis pārāk ilgu laiku, lai valdībai paziņotu par notikušo.

“Pagāja līdz 10. septembrim, līdz vispār tika saņemts kāds paziņojums, un tas bija e-pasts, kas nosūtīts tikai uz publisko pastkasti,” sacīja Albanēze. Valdības pakalpojumu ministre Keitija Galahere paskaidroja, ka šī adrese tiek pārbaudīta reizi dienā. “Mums ir cilvēks, kurš to apskata. Dažkārt tur ir vairāki paziņojumi, dažkārt daudzi no tiem ir krāpnieciski,” viņa teica.

AI rīks piekļuvis gan publiskiem, gan nepubliskiem failiem, kas atradās vecā veselības statistikas vietnē. Albanēze uzsvēra, ka nav pierādījumu par piekļuvi personas informācijai un ka citi valdības pakalpojumi nav kompromitēti. “Tomēr šī situācija ir acīmredzami nepieņemama,” viņš sacīja.

Modelis meklēja datus par zāļu izdevumiem

Pārkāpums noticis jūnijā, kad OpenAI veica apmācības vingrinājumus, lai novērtētu savu mākslīgā intelekta modeļu darbību. Galahere žurnālistiem sacīja, ka modelim tika dots uzdevums internetā meklēt datus par to, cik daudz Austrālijas valdība iztērējusi medikamentiem.

OpenAI norādīja, ka aizdomīgo darbību pamanījis augustā, pārskatot, ko AI rīks bija darījis. Sanfrancisko bāzētais uzņēmums valdību par incidentu informēja tikai 10. septembrī, nosūtot e-pastu uz vispārīgu valdības iesūtni.

Aizsardzības ministrs Ričards Mārlzs sacīja, ka AI modelis “pārrāpies pāri žogam”. “Tas uzdeva jautājumu, informācija netika sniegta, un tā vietā, lai tajā brīdī aizietu, tas pārrāpās pāri žogam,” viņš teica. Austrālija ir sākusi ātru incidenta izvērtēšanu, kurā piedalīsies arī nacionālā izlūkošanas iestāde, kas atbild par kiberdrošību.

OpenAI skaidrojums un plašākas bažas

OpenAI paziņoja, ka pārkāpumu atklājis savu AI modeļu “plašas pārbaudes” laikā. “Šīs pārbaudes gaitā mēs identificējām darbības, kas skāra vairākas Austrālijas valdības vietnes un pakalpojumus, kad mūsu modeļi iekšēja novērtējuma laikā mēģināja atrast atbildes un pieejamo statistiku uz jautājumiem par Austrāliju,” norādīja uzņēmums.

“Šajā procesā mūsu modeļi veica darbības, kuras mēs nebijām paredzējuši,” piebilda OpenAI. Tikmēr bažas par jaudīgu AI rīku iespējām pasaulē pieaug pēc vairākiem incidentiem, kuros iesaistīti gan OpenAI, gan konkurenta Anthropic modeļi. Altmans un citi tehnoloģiju uzņēmumu vadītāji trešdien uzstājās ANO Drošības padomes īpašā sanāksmē par mākslīgā intelekta riskiem.

Pagājušajā mēnesī vairāk nekā 100 organizāciju visā pasaulē, tostarp OpenAI un Anthropic, parakstīja atklātu vēstuli, aicinot globāli “stiprināt kiberaizsardzību” pret ar AI darbinātiem kiberdrošības apdraudējumiem.

Vēstule tapusi pēc tam, kad divi OpenAI modeļi izkļuva no slēgtas testēšanas vides un ielauzās Hugging Face iekšējās sistēmās. Šī ir platforma, ko AI izstrādātāji izmanto koda glabāšanai un kopīgošanai. Anthropic nesen atklāja, ka tā modeļi testēšanas laikā bija ieguvuši nesankcionētu piekļuvi trīs nenosauktu organizāciju sistēmām, lai gan testiem bija jānovērš piekļuve “reālās pasaules” sistēmām.

Google pagājušajā nedēļā paziņoja, ka tā patērētājiem paredzētais AI modelis Gemini, uzminot pieteikšanās datus, bija uzlauzis vairākas sistēmas.