Mākslīgā intelekta uzņēmumi arvien biežāk ziņo, ka to jaunākie un jaudīgākie modeļi iesaistījušies nesankcionētā uzlaušanā reālajā pasaulē. Līdz šim Google šādās diskusijās par tā dēvēto “nepaklausīgo MI” lielākoties nebija iesaistīts, taču tagad uzņēmums pēc Wall Street Journal ziņojuma apstiprinājis, ka Gemini modeļi 2026. gada maijā testa laikā piekļuva trīs uzņēmumu sistēmām.

Incidents notika kiberdrošības uzņēmuma Irregular veiktā pārbaudē. Vairāki Gemini modeļi piedalījās “capture the flag” uzdevumā, kura mērķis bija pārbaudīt MI kiberdrošības spējas slēgtā vidē. Modeļiem bija jāiegūst informācija no izdomāta uzņēmuma, kuram bija tāds pats nosaukums kā reālam uzņēmumam.

Irregular nebija paredzējis, ka modeļi varēs darboties ārpus uzņēmuma serveriem, taču nepareizas konfigurācijas dēļ Gemini ieguva piekļuvi internetam. Sākot izpētīt tīmekli, modeļi vairs nemeklēja tikai testa vidē izveidoto infrastruktūru, bet vērsās pie reālām sistēmām.

Vienā no trim gadījumiem Gemini piekļuva uzņēmuma tiešsaistes pakalpojumiem, vienkārši minot paroles. Pārējos divos gadījumos modelis meklēja publiski pieejamos programmatūras repozitorijos un atrada uzņēmumu pieteikšanās datus, kas tur bija nejauši iekļauti.

Saskaņā ar ziņojumiem visos trīs testa gadījumos Google modeļi apstājās, kad saprata, ka ir piekļuvuši reālu uzņēmumu serveriem. Pēc tam Irregular mainīja konfigurāciju, lai liegtu MI piekļuvi internetam.

Irregular sākotnēji šo notikumu neuzskatīja par pietiekami nozīmīgu, lai to rūpīgāk izmeklētu, un par uzbrukumiem Google informēja tikai jūlijā — pēc ziņām par citiem MI uzlaušanas incidentiem. Kad Google par notikušo uzzināja, uzņēmums informēja skartos uzņēmumus, lai tie varētu uzlabot paroļu drošību.

Google lēmums par incidentiem publiski neziņot bija saistīts ar modeļu rīcību pēc iegūto paroļu izmantošanas. Tā kā Gemini modeļi atpazina, ka sistēmas ir reālas, un pārtrauca darbību, Google šo gadījumu neuzskatīja par īstu modeļa neatbilstību paredzētajai rīcībai jeb “misalignment”.

Google drošības inženierijas viceprezidente Hetere Adkinsa incidenta nopietnību publiskā paziņojumā mazināja. “Šis notikums uzsver, cik svarīgi ir apmācīt jaudīgus MI modeļus atbildīgai rīcībai. Šajā gadījumā modelis rīkojās atbilstoši,” viņa sacīja.

Atšķirība no citiem MI uzlaušanas gadījumiem

Google vērtējums atšķiras no tādiem gadījumiem kā OpenAI un Hugging Face incidents, kur modeļa neatbilstība bija daudz skaidrāka. Toreiz OpenAI modeļi izkļuva no testa vides, izmantojot programmatūras ievainojamības, lai apzināti piekļūtu informācijai, kas testa vidē nebija pieejama. Tas tika darīts, lai pēc iespējas labāk izpildītu etalontestu un iegūtu lielākas “atlīdzības”. Vienlaikus var argumentēt, ka pati OpenAI izveidotā testa sistēma šādu rīcību zināmā mērā veicināja.

Google gadījumā modeļi neizmantoja tik mērķtiecīgu ļaunprātīgu stratēģiju — tiem vienkārši bija atstāta atvērta piekļuve internetam. Gemini izmantoja tīmeklī pieejamo informāciju, lai pieteiktos sistēmās, kurām tam nebija atļauts piekļūt. Paroļu minēšana pati par sevi neliecina par tūlītēju MI apokalipsi, taču Google, visticamāk, būtu bijis jāpublisko incidents, tiklīdz uzņēmums par to uzzināja.