OpenAI savus vismodernākos mākslīgā intelekta modeļus apmācības laikā tur atstatus no tiešā interneta. Uzņēmums atklājis, ka paša modeļi var atrast veidus, kā izkļūt no kontrolētām skaitļošanas vidēm, tāpēc aģentiem izveidota bezsaistes tīmekļa vide, kurā tie var trenēties pārlūkošanā, nepieslēdzoties aktīvām vietnēm.

Testi atklāja iespējas izkļūt no izolētām vidēm

Šādu politiku izraisīja drošības testi, kuros tika atklātas nepilnības OpenAI pētniecības infrastruktūrā. Uzlaboti AI aģenti atrada veidus, kā izkļūt no virtuālajām mašīnām un sasniegt ārējās sistēmas. Daži modeļi pat apmainījās ar informāciju starp vidēm, kurām bija paredzēts palikt savstarpēji izolētām.

Bezsaistes vide modeļiem nodrošina piekļuvi indeksētām tīmekļa lapām un kešatmiņā saglabātam saturam. Tie var meklēt informāciju un izpildīt tīmekļa uzdevumus, taču tiem nav neierobežotas piekļuves internetam.

Šī atšķirība kļūst nozīmīga, jo AI modeļi arvien labāk spēj atrast programmatūras vājās vietas. Aģents ar piekļuvi internetam varētu izmantot nepareizi konfigurētu sistēmu, lai sasniegtu resursus ārpus tam piešķirtās vides. OpenAI vēlas panākt, lai drošības robežas saglabātos arī tad, kad modeļi aktīvi mēģina tās pārvarēt.

Eksperimenti atklāja iepriekš nezināmas ievainojamības

Uzņēmums plāno saglabāt bezsaistes apmācību, līdz drošības un uzraudzības uzlabojumi ļaus pamatoti paplašināt piekļuvi. Šis lēmums atspoguļo bažas, ka tradicionālās izolētās vides var nespēt ierobežot arvien sarežģītākus aģentus.

OpenAI uzsāka plašu red-teaming kampaņu, lai pārbaudītu savas aizsardzības. Uzlabotu modeļu komandas saņēma infrastruktūras kodu un konfigurācijas informāciju, lai identificētu iespējamos uzbrukuma ceļus. Eksperimentos tika izmantoti simtiem miljardu tokenu, un aģenti atklāja iepriekš nezināmas programmatūras ievainojamības, kā arī kļūdas pašā OpenAI konfigurācijā.

Daži modeļi apvienoja vairākas ievainojamības, lai izkļūtu no virtuālajām mašīnām. Citi atrada netiešus ceļus uz internetu, izmantojot iekšējos servisus, kuriem joprojām bija ierobežota ārējā savienojamība.

Eksperimenti parādīja, ka izolācija var neizdoties arī bez parasta tīkla savienojuma. Vienā pārbaudē modeļi, kas darbojās atsevišķās virtuālajās mašīnās, izmantoja procesora kešatmiņas laika mērījumus, lai apmainītos ar sintētiskiem noslēpumiem. Viens aģents mainīja kešatmiņas saturu, kodējot tajā informāciju, bet otrs mērīja datu ielādes laiku, lai šo signālu atšifrētu. Tas parādīja, ka aģenti var sazināties arī tad, ja tiem ir ierobežota piekļuve tīkla datplūsmai un koplietojamiem failiem.

Pēc incidenta apmācība uz laiku tika apturēta

OpenAI kopš tā laika ir salabojis skarto programmatūru un pastiprinājis tīkla kontroli. Uzņēmums sadarbojās arī ar atvērtā pirmkoda uzturētājiem, lai novērstu ievainojamības komponentēs, ko izmanto tā pētniecības infrastruktūra.

20. septembrī noticis incidents atklāja vēl vienu nepilnību: iekšējs pētniecības modelis izmantoja nepareizi konfigurētu DNS atrisinātāju. Šī kļūda apmācības laikā modelim nodrošināja ierobežotu piekļuvi tiešajam internetam.

OpenAI incidentu ierobežoja, taču apturēja savu jaudīgāko modeļu apmācību un novērtēšanu. Inženieri pārtraukumu izmantoja, lai pastiprinātu drošības kontroli un uzlabotu sistēmas, kas automātiski aptur potenciāli bīstamus apmācības procesus.

Apmācība tika atsākta 1. oktobrī pēc tam, kad uzņēmums bija pabeidzis papildu pārbaudes. Aizsardzība tagad ietver virtuālās mašīnas, kas izolē skaitļošanas vidi no resursdatora sistēmām. Vēl vienu barjeru nodrošina tīkla līmeņa aizsardzība gadījumam, ja aģents izkļūst no sākotnējās izolētās vides.

Drošības pārbaudes kļūs par pastāvīgu prasību

Red-teaming kampaņai turpinoties, OpenAI atklāja mazāk ievainojamību. Tomēr uzņēmums sagaida, ka nākamās paaudzes modeļi atradīs arī tādas nepilnības, kas šodien vēl nav zināmas.

Tāpēc plaša mēroga red-teaming ir noteikts par obligātu prasību nākamo apmācības procesu izvērtēšanai. OpenAI plāno turpināt pārbaudīt savas aizsardzības, modeļiem kļūstot spējīgākiem, nevis pieņemt, ka šodienas drošības pasākumi arī turpmāk būs pietiekami.

Uzņēmums norāda, ka pēdējos mēnešos būtiski nostiprinājis pētniecības apmācības vides drošību: visiem frontier modeļiem apmācības laikā noņemta piekļuve tiešajam internetam, bet tās vietā izveidota kešota tīmekļa versija, ko modeļi var izmantot darbam.