Meta mākslīgā intelekta aģents Muse izraisījis bažas par to, cik lielu piekļuvi uzņēmums vēlas iegūt lietotāju privātajai informācijai un ikdienas darbībām. Muse tiek pozicionēts kā “personīgais asistents”, kas var veikt uzdevumus lietotāja vārdā, tostarp strādāt ar e-pastu, bankas kontiem un citiem sensitīviem datiem.

Bažas nav tikai ārēju novērotāju jautājums. Īsi pirms aģenta izlaišanas Meta inženieri atklāja drošības ievainojamību, kas varēja ļaut Muse lietotājiem iekļūt uzņēmuma datubāzēs un pakalpojumos, kā arī piekļūt citu cilvēku sensitīvajai informācijai, ziņoja 404 Media.

Šāda uzlaušana būtu īpaši nopietna, jo Meta lūdz lietotājiem uzticēt Muse kontroli pār datiem un darbībām, kas saistītas ar viņu bankas kontiem un e-pastu. Ievainojamība tika novērsta steidzamā darbā pirms produkta publiskās izlaišanas, taču daži Meta darbinieki šaubās, vai apdraudējums ir pilnībā novērsts.

“Daudzi vecākie inženieri uzskata, ka ir neizbēgami — Hatch dēļ notiks milzīga datu noplūde,” 404 Media sacīja Meta avots, izmantojot Muse iekšējo nosaukumu “Hatch”.

Muse aģenti darbojas izolētā virtuālajā vidē

Lai veiktu uzdevumus, kuriem nepieciešama mijiedarbība ar datoru, piemēram, lidojumu rezervēšanu vai pārtikas pasūtīšanu, Muse aģenti darbojas uz kodola līmeņa virtuālās mašīnas jeb KVM. Tai vajadzētu būt izolētai no pārējās Meta infrastruktūras, tādējādi ierobežojot iespējamos zaudējumus, ja aģents vai uzbrucējs mēģinātu piekļūt sistēmām ārpus savas vides.

Tomēr aptuveni divas nedēļas pirms Muse izlaišanas uzņēmuma inženieri steidzami reaģēja uz “pēkšņu ziņoto KVM izkļūšanas gadījumu pieaugumu”, liecina Meta vadītāju iekšējs paziņojums. Ar KVM izkļūšanu saprot situāciju, kurā Muse aģents izkļūst no virtuālās mašīnas un sāk mijiedarboties ar citām Meta sistēmām vai pat citu lietotāju virtuālajām mašīnām.

Viena no ievainojamībām varēja ļaut uzbrucējam, izmantojot parastu Muse kontu, piekļūt sensitīviem datiem Meta datubāzēs. Saskaņā ar ziņoto, bažas par šo problēmu bija tik nopietnas, ka tā nonāca Meta vadītāja Marka Zakerberga uzmanības lokā. Vairākas drošības komandas strādāja dienu un nakti, lai ievainojamību novērstu.

Tomēr Meta avots apšaubīja, vai labojumi ir pietiekami izturīgi, tos raksturojot kā “pusgatavus aizsardzības mehānismus, kas steigā ieviesti, lai nodrošinātu izlaišanu”. Šis vērtējums ir avota apgalvojums, nevis neatkarīgi apstiprināts secinājums par Muse pašreizējo drošību.

KVM izkļūšana tiek uzskatīta par īpaši bīstamu

Meta par ievainojamībām, kas var izraisīt KVM izkļūšanu, piedāvā atlīdzību līdz 300 000 ASV dolāru. Uzņēmuma kļūdu ziņošanas programmā norādīts, ka Muse aģents glabā lietotāja sensitīvākos datus un var rīkoties viņa vārdā, tādēļ šādas izolācijas robežas pārkāpums tiek uzskatīts par īpaši nozīmīgu drošības risku.

“Šī problēma ir tā, ka Hatch virtualizācijas robežu padara par produkcijas drošības robežu,” 404 Media sacīja drošības pētnieks Patriks Vordls. “Man šķiet, ka šāds dizains pēc būtības ir riskants — īpaši tādēļ, ka MI samazina izmaksas, kas nepieciešamas, lai atrastu, analizētu un izmantotu tieši šādas sarežģītas virtualizācijas ievainojamības.”

Bažas par KVM izkļūšanu parādās laikā, kad tehnoloģiju uzņēmumi arvien plašāk mēģina uzticēt mākslīgā intelekta aģentiem darbības lietotāju personīgajā dzīvē. Jau vairākus mēnešus vadošie MI uzņēmumi publiski brīdinājuši, ka jaudīgi aģenti var izkļūt no paredzētās kontroles un sākt kiberuzbrukumus citiem uzņēmumiem vai valsts iestāžu vietnēm.

Muse gadījums izceļ riskus, kas var rasties, ja aģentiem tiek dota piekļuve ne tikai atsevišķiem uzdevumiem, bet arī cilvēku e-pastam, finanšu informācijai un citām ikdienas dzīves jomām. Atsevišķā iepriekš aprakstītā incidentā kāds lietotājs apgalvoja, ka Meta Muse mākslīgā intelekta aģents svešiniekiem atklājis viņa mājas adresi.