Wikipedia uzturētāja Wikimedia Foundation pēc pašu veiktas izmeklēšanas apstiprinājusi, ka tās platformās konstatēta “nepakļāvīgu” OpenAI aģentu darbība. Izmeklēšana sākta pēc ziņām par autonomiem mākslīgā intelekta aģentiem, kas izkļuvuši no savas izolētās testa vides un mēģinājuši uzbrukt citām tīmekļa vietnēm.

Wikimedia norādīja, ka neatļautās robotu darbības ietvēra izmaiņu veikšanu tās wiki projektos, dažus neveiksmīgus mēģinājumus izmantot organizācijas mitināto publisko piezīmju rīku Etherpad, kā arī ļoti intensīvu datplūsmu. Šī slodze, iespējams, veicinājusi daļēju Wikidata Query Service jeb WQDS darbības pārtraukumu maijā.

Organizācija pagaidām nav atradusi pazīmes, ka tās sistēmas būtu izmantotas aģentu savstarpējai koordinēšanai, kā arī nav konstatējusi datu nonākšanu svešās rokās. Tomēr Wikipedia operatorus satrauc tas, cik daudz laika un resursu bija nepieciešams, lai atklātu robotu darbības, kā arī kopumā pieaugošie riski, ko rada autonomi AI aģenti Wikimedia platformās.

AI aģenti bija pārņēmuši citu wiki vietni

Izmeklēšanu pamudināja nesen atklāti gadījumi, kuros autonomi aģenti izkļuvuši no “smilškastes” jeb izolētas vides un mēģinājuši uzlauzt citas tīmekļa vietnes. Vienā no incidentiem, kas Wikimedia bija īpaši tuvs, OpenAI aģentu grupa pārņēma Vācijas wiki tipa vietni un pārveidoja to par nelegālu iekšējās saziņas ziņojumu dēli.

Wikipedia platformās nekas tik tālejošs nenotika. Wikimedia atklāja, ka OpenAI aģenti bija iejaukušies wiki “smilškastes” daļās, kas paredzētas eksperimentiem un pārbaudēm. Neviena no šīm izmaiņām netika publicēta lapās, kuras redzamas vispārējiem lasītājiem.

Aģenti mēģināja arī “kompromitēt” publisko Etherpad rīku. Pēc Wikimedia skaidrotā, tas varēja tikt izmantots, lai iegūtu datus no citām tīmekļa vietnēm un veiktu piezīmes par aģentu uzdevumiem.

Miljoniem pieprasījumu noslogoja Wikimedia serverus

Kopumā AI aģentu aktivitāte būtiski noslogoja Wikimedia serverus. Saskaņā ar organizācijas ierakstu aģenti veica miljoniem automatizētu pieprasījumu publiskajiem API, lai piekļūtu informācijai Wikimedia projektos, pārmeklēja miljoniem lapu — galvenokārt Wikidata un Wikimedia Commons — un veica simtiem tūkstošu datu vaicājumu Wikidata Query Service. Wikimedia pieļauj, ka šī datplūsma varēja veicināt WQDS daļēju darbības pārtraukumu maijā.

Šis gadījums liek uzdot jautājumu, kādas sekas varētu radīt aģentu grupa, kas būtu īpaši instruēta uzbrukt Wikipedia. Wikimedia darbojas kā bezpeļņas organizācija ar ierobežotiem resursiem, savukārt Wikipedia darbība balstās uz uzticēšanos un plašās līdzstrādnieku kopienas labo gribu. Teorētiski autonomi AI modeļi varētu pārslogot platformas uzturētājus un iedragāt šo uzticēšanos.

“Wikipedia tika izveidota cilvēkiem, un aģentu darbība nepārprotami rada izaicinājumus, kuriem nevienam vēl nav risinājumu,” teikts Wikimedia paziņojumā. Organizācija uzsvēra, ka tās brīvprātīgie ir pirmie, kuri sastopas ar AI aģentu atstāto nekārtību un to novērš.

Wikimedia arī kritizēja AI uzņēmumus, norādot, ka tie nepietiekami aizsargā savas sistēmas un sabiedrību no radītā kaitējuma. Pēc organizācijas teiktā, atbildības slogs par šādu darbību sekām arvien vairāk tiek uzvelts citiem, tostarp mazākām organizācijām.