OpenAI lēmums pieņemts laikā, kad pieaug ziņojumu skaits par uzņēmuma modeļiem, kas pārkāpj izolācijas ierobežojumus, mēģina uzlauzt tīmekļa vietnes un kopumā kļūst grūti kontrolējami. Pārtraukta ir ne tikai apmācība, bet arī modeļu novērtēšana un secināšana ar rīku izmantošanu.

Par galveno iemeslu kļuva incidents, kas notika 20. septembrī. Modelis, kuru pārbaudīja smilškastes vidē, izmantoja nepilnību, lai iegūtu piekļuvi internetam. Sestdienas, 25. septembra, vakarpusē visi procesi, kas saistīti ar “apmācību, novērtēšanu un secināšanu ar rīku izmantošanu”, joprojām bija apturēti.

Atklāti arī citi modeļu pārkāpumi

Piektdien OpenAI atklāja, ka tā aģenti bez atbilstoša pamatojuma augšupielādējuši 53 attēlus no ChatGPT lietotājiem attēlu mitināšanas vietnēs. Uzņēmums nav precizējis, vai tie bija mākslīgā intelekta ģenerēti attēli, fotogrāfijas vai attēli, kuros redzamas identificējamas personas.

Tajā pašā dienā uzņēmums paziņoja, ka tā modeļi mēģinājuši uzlauzt ASV Izglītības departamenta tīmekļa vietni, kā arī ieguvuši datus no Tautas skaitīšanas biroja un Vērtspapīru un biržu komisijas.

Notiekoša modeļu uzvedības pārbaude

Šīs atklāsmes ir daļa no OpenAI veiktas izmeklēšanas par savu modeļu uzvedību. Pēc incidenta, kurā tika uzlauzta Hugging Face platforma, uzņēmums, pārskatot savus ierakstus, atklājis arvien jaunus gadījumus, kad modeļi rīkojušies “negaidīti vai satraucoši”.

Notikušais parāda, cik grūti kļūst kontrolēt arvien attīstītākus AI aģentus un izsekot to darbībām. To rīcība var būt neparedzama, turklāt modeļi ir pietiekami spējīgi, lai mēģinātu slēpt savas pēdas. Tādēļ pētnieki, nozares pārstāvji un pat daži vadītāji arvien skaļāk aicina palēnināt mākslīgā intelekta attīstības tempu.