Mākslīgā intelekta infrastruktūras jaunuzņēmums Fireworks atklājis jaunu drošības incidentu. Uzbrucēji pēc uzbrukuma trešās puses mākoņpakalpojumu sniedzējam piekļuva Fireworks izstrādes iekārtām un tajās palaida neatļautu darba slodzi.
Fireworks nodrošina augstas veiktspējas secināšanas platformu izstrādātājiem, kuri vēlas izvietot un darbināt atvērtā pirmkoda mākslīgā intelekta modeļus, piemēram, Mistral, Meta Llama vai Google Gemma, paši nerūpējoties par aparatūras ierobežojumiem un sarežģītiem infrastruktūras uzdevumiem.
Otrs incidents atklāts oktobrī
Uzņēmums par iepriekšēju drošības incidentu tiesībsargājošās iestādes un klientus informēja oktobra sākumā. Toreiz uzbrucēji bija piekļuvuši vides mainīgajiem, kuros ierobežotam skaitam kontu tika glabātas API atslēgas un slepeni marķieri.
Fireworks toreiz norādīja, ka pierādījumi liecina par saistību ar finansiāli motivētu kibernoziedznieku grupu. Tās mērķis bija pārdot ar neatļautu piekļuvi iegūtus lielo valodas modeļu (LLM) marķierus nelegāliem maršrutēšanas vārtejām. Šādu uzbrukumu veidu dēvē par LLMjacking.
Pēc kompromitēto iekšējo piekļuves datu, ietekmēto Fireworks API atslēgu un uzbrucēju izveidoto atslēgu atsaukšanas uzņēmums 23. oktobrī atklāja vēl vienu drošības incidentu.
Kādi dati bija pieejami uzbrucējiem
Jaunajā incidentā uzbrucēji piekļuva resursu metadatiem, tostarp Fireworks resursu identifikatoriem, attēlojamajiem nosaukumiem un aprakstiem, kā arī izveides laikam. Tika skarta arī norēķinu informācija — norēķinu un piegādes adreses, rēķinu un maksājumu vēsture, konta atlikums un kredīta izmantojums.
Dažiem klientiem uzbrucēji varēja piekļūt arī nepilnīgiem modeļu svariem un datu kopām. Vienlaikus uzņēmums uzsvēra, ka maksājumu karšu numuri netika apdraudēti, jo Fireworks tos neglabā.
Fireworks pirmdienas paziņojumā skaidroja, ka 23. oktobrī drošības incidents skāra trešās puses mākoņpakalpojumu sniedzēju, kurš mitināja uzņēmuma pētniecības un izstrādes iekārtas. Nākamajā dienā neatļauta trešā puse šo piekļuvi izmantoja, lai sasniegtu Fireworks izstrādes iekārtas un palaistu neatļautu darba slodzi, kas izraisīja papildu ietekmi uz klientu datiem.
“Mēs šo darbību konstatējām tajā pašā dienā un, ievērojot incidentu reaģēšanas procedūras, nekavējoties veicām novēršanas pasākumus un aizvērām zināmās kritiskās ievainojamības,” norādīja uzņēmums. Fireworks piebilda, ka 25. oktobrī tam vairs nebija papildu pierādījumu par veiksmīgu draudu aktiera neatļautu piekļuvi platformai, ko izmanto klienti.
Pastiprina aizsardzību
Pēc uzbrukuma Fireworks atsauca un nomainīja piekļuves datus un pakalpojumu kontus, ierobežoja neatļautus tīkla ceļus, izolēja skartās sistēmas, kā arī pastiprināja piekļuves kontroli datu glabāšanas un analītikas sistēmām. Šo pasākumu mērķis ir novērst publisku vai citādi neatļautu piekļuvi glabātajiem datiem.
Uzņēmums sadarbojas ar Palo Alto Networks incidentu reaģēšanas nodaļu Unit 42, lai aizsargātu sistēmas pret turpmākiem uzbrukumiem un padziļināti izmeklētu incidenta pilno apmēru un ietekmi.
Par LLMjacking pieaugošajiem finansiālajiem riskiem aptuveni nedēļu iepriekš ziņoja Google Threat Intelligence Group un Mandiant pētnieki. Viņu vērtējumā lielo valodas modeļu pārņemšanas uzbrukumi rada organizācijām rekordlielas izmaksas: mākoņmākslīgā intelekta pakalpojumu rēķini var sasniegt pat vienu miljonu ASV dolāru, ja noziedznieki, izmantojot nozagtas API atslēgas, veic krāpnieciskus izsaukumus.
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas