Anthropic ziņo, ka ir apturējis vairākus gadījumus, kuros ārvalstu zinātnieki mēģinājuši izmantot uzņēmuma mākslīgā intelekta aģentus iespējamai bioloģisko ieroču izstrādei. Uzņēmums atklāja šo informāciju ceturtdien publicētā plašā ziņojumā.

Saskaņā ar ziņojumu zinātnieki vairākās valstīs, kur Anthropic piekļuve tā modeļiem ir bloķēta, mēģināja apiet šos ierobežojumus. Viņi centušies slēpt savu pētījumu patieso mērķi, lai izvairītos no uzņēmuma drošības sistēmām. Anthropic norāda, ka visi identificētie konti ir slēgti.

Bažas par čikungunjas vīrusa izpēti

Vienā no gadījumiem maijā zinātnieks lūdza Claude palīdzēt sagatavot pieteikumu valsts finansētam grantam. Projekts paredzēja izstrādāt kaitīgākas čikungunjas vīrusa mutācijas. Šo odu pārnēsāto vīrusu infekcija var izraisīt drudzi un stipras, ilgstošas locītavu sāpes.

Anthropic uzskata, ka projektu bija paredzēts īstenot militārā pētniecības institūtā. Uzņēmuma draudu izlūkošanas vadītājs Džeikobs Kleins norādīja, ka nav zināms, vai pētījumu bija paredzēts izmantot ieroča izstrādei. Tomēr viņš uzsvēra, ka militāras institūcijas veikti tā dēvētie funkcijas pastiprināšanas pētījumi rada nopietnas bažas.

“Mēs neredzam cilvēku, kurš komiksu stilā saka: ‘Es gribu izveidot bioloģisku ieroci, lai nogalinātu visus.’ Tā ir ārkārtīgi niansēta situācija,” sacīja Kleins.

Ar funkcijas pastiprināšanas pētījumiem saprot pētījumus, kuru mērķis ir uzlabot vai papildināt organismu un patogēnu bioloģiskās spējas. Anthropic aprakstīja vēl četrus līdzīgus gadījumus, kuros tika mēģināts apiet uzņēmuma drošības mehānismus, lai veiktu apšaubāmus bioloģiskus pētījumus.

Drošības sistēmu ierobežojumi

Uzņēmums atzīst, ka nevienā no šiem gadījumiem tam neizdevās galīgi noteikt, vai pieprasījumi bija saistīti ar likumīgu zinātnisku darbu vai mēģinājumu radīt bioloģiskos ieročus. Tāpēc Anthropic izvēlējās rīkoties piesardzīgi un bloķēja pārkāpēju kontus.

Mākslīgā intelekta nozare jau gadiem brīdina, ka tās sistēmas var tikt izmantotas bioloģisko ieroču radīšanai. Anthropic vadītājs Dario Amodei iepriekš paudis, ka uzņēmums nepārtraukti pilnveido drošības ierobežojumus, lai modeļi nepalīdzētu šādos pētījumos. Viņš arī uzsvēris nepieciešamību pēc likumiem un starptautiskas sadarbības risku mazināšanai.

Tajā pašā laikā atklātie gadījumi rada jautājumus par to, vai Anthropic un citi mākslīgā intelekta uzņēmumi spēj garantēt savu tehnoloģiju atbildīgu izmantošanu. Paša uzņēmuma apraksts liecina, ka drošības mehānismi tika apieti, kas varētu atstāt iespēju līdzīgiem mēģinājumiem nākotnē.

Endrjū Vēbers, Stratēģisko risku padomes vecākais eksperts, kurš pirms ziņojuma publicēšanas to pārskatīja, notikušo nodēvēja par satraucošu piemēru tam, kā valstu atbalstīti bioloģisko ieroču izstrādātāji izmanto strauji progresējošo progresīvo mākslīgā intelekta modeļu jaudu.