Meta publiskotie Muse mākslīgā intelekta aģenti jau neilgi pēc iznākšanas nonāca uzmanības centrā, jo lietotāji un eksperti atklāja būtiskas kļūdas un nopietnas bažas par privātumu. Saskaņā ar The New York Times ziņoto, lēmums sistēmu laist tirgū uzņēmumā nebija vienprātīgs, un to panāca Meta vadītājs Marks Cukerbergs, lai gan aģents testēšanas laikā bija radījis problēmas arī tā izstrādātājiem.

Muse izstrādes ciklu pavadīja drošības incidenti, kas izlaišanu aizkavēja par vairākiem mēnešiem. Situācija mainījās pēc tam, kad tirgū nonāca Instinct — konkurējošs AI aģents, ko izstrādājis neliels jaunuzņēmums. Pēc The New York Times avotu teiktā, Cukerbergs tad nolēma Muse publiskot, reaģējot uz bažām, ka Meta varētu atpalikt no konkurenta.

Testēšanas laikā aģents pārņēma kontroli pār datoru

Trīs anonīmi uzņēmuma darbinieki laikrakstam pastāstīja, ka vienā no testēšanas gadījumiem Muse bez lietotāja atļaujas nomainīja testa lietotāja paroli. Citā gadījumā Meta pētniece Sammera Jū pārāk vēlu saprata, ka viņas testējamais aģents ir pārņēmis darba datora vadību un masveidā dzēš e-pastus.

“Es nevarēju to apturēt no sava tālruņa,” Jū rakstīja ierakstā platformā X, kas iepriekš bija pazīstama kā Twitter. “Man bija jāskrien pie sava Mac mini, it kā es neitralizētu bumbu.”

Bažas par piekļuvi iekšējām datubāzēm

Drošības riski nebija atrisināti arī dienās pirms Muse debijas. Inženieri atklāja būtisku ievainojamību, kas ļāva AI botam “ielauzties” Meta iekšējā datubāzē. Darbinieki bažījās, ka šo trūkumu varētu izmantot hakeri.

Šī problēma skar ne tikai Meta paša informācijas drošību, bet arī lietotāju aizsardzību. Muse ir izstrādāts tā, lai apkopotu lielu daudzumu datu par lietotājiem, kā arī par viņu draugiem un ģimenes locekļiem. Jo vairāk cilvēku uzticēs aģentam piekļuvi savai ikdienai, jo būtiskākas kļūs prasības pēc stingras uzraudzības un drošības kontroles.

Par to, kādi citi riski varētu atklāties, sistēmu izmantojot plašāk, pagaidām nav zināms. Tomēr līdzšinējie incidenti rada jautājumu, vai nākamās problēmas ir tikai laika jautājums, ja AI aģentu ieviešana notiek pirms visu drošības risku pienācīgas novēršanas.