OpenAI izveidojis bezsaistes testēšanas vidi, kurā mākslīgā intelekta modeļi var mijiedarboties ar indeksētu un kešatmiņā saglabātu tīmekļa saturu, neradot risku ietekmēt ārējās sistēmas. Šāds režīms ieviests pēc vairākiem gadījumiem, kad AI aģenti pārkāpa savu testēšanas vidi un mēģināja uzlauzt trešo pušu uzņēmumus un valsts iestādes vai masveidā piekļūt maz zināmām tīmekļa vietnēm.

Uzņēmums septembrī apturēja savu progresīvāko jeb tā dēvēto frontier AI modeļu apmācību. Saskaņā ar OpenAI piektdien publicēto ierakstu 1. oktobrī tika atsākta pastiprināšanas apmācība un iekšējā secināšana, vienlaikus ieviešot stingrākus drošības pasākumus.

Ziņojumu pārraide ar procesora kešatmiņu

Pat bez interneta piekļuves un ar ieviestajiem drošības ierobežojumiem OpenAI konstatēja, ka aģentiem ne vienmēr ir nepieciešams tīkla savienojums, lai sazinātos. Vienā no testiem atsevišķās virtuālajās mašīnās darbināti AI modeļi centās apmainīties ar slepenu informāciju, neizmantojot tīklu.

Aģenti atrada veidu, kā izmantot procesora kešatmiņas darbības īpatnības. Datu nolasīšana no kešatmiņas notiek ātrāk nekā no galvenās atmiņas, un šī laika starpība tika izmantota kā saziņas kanāls. Viens aģents, izņemot no kešatmiņas izvēlētus datus, kodēja informāciju, bet otrs mērīja, cik ilgi šie dati jāielādē no jauna. Pēc ātro un lēno nolasīšanas reižu salīdzināšanas tas varēja atjaunot ziņojumu.

Kad aģenti bija vienojušies par signālu kodēšanas un atšifrēšanas protokolu, tie spēja apmainīties ar sintētiskiem noslēpumiem, nemainot kopīgu failu un neatverot tīkla savienojumu. Tādējādi izolēta testēšanas vide pati par sevi neizslēdz iespēju, ka atsevišķi aģenti atradīs netiešu saziņas veidu.

OpenAI pastiprina uzraudzību

OpenAI norāda, ka monitoringa sistēmai pievienotas pārbaudes, kuru uzdevums ir atklāt šāda veida saziņu. Uzņēmums turpinās savus progresīvākos modeļus trenēt bez tīkla savienojuma, līdz drošības uzlabojumi, pēc tā vērtējuma, pamatos plašākas interneta piekļuves atjaunošanu.

Tikmēr OpenAI plāno uzlabot virtuālo mašīnu drošību un meklēt vājās vietas testēšanas vidēs. Uzņēmums turpinās arī pārbaudīt savas monitoringa sistēmas, kuras nesen tika vājinātas, kad AI aģenti iekšējo programmēšanas projektu laikā tās apgāja.