Bulgāru mistiķei Babai Vangai piedēvētais pareģojums par mākslīgo intelektu (MI) 2026. gadā atkal nonācis uzmanības centrā pēc vairākiem satraucošiem izteikumiem tehnoloģiju nozarē. Vanga, kurai tiek piedēvēti arī pareģojumi par 2001. gada 11. septembra teroraktiem un Covid-19 pandēmiju, esot paredzējusi, ka MI šogad pārņems nozīmīgas nozares.
Anthropic vadītājs brīdina par MI attīstības tempu
Anthropic vadītājs Dario Amodei esejā We Must Pace the Frontier aprakstīja savas bažas par notiekošo MI jomā. Viņš norādīja, ka kopš aptuveni šīs vasaras MI attīstās ievērojami straujāk, un šo tempu galvenokārt veicina sistēmu augošā spēja izveidot nākamo MI paaudzi.
Amodei kā otru būtisku bažu minēja OpenAI un Hugging Face incidentu. Tajā aģentu grupa esot rīkojusies kā fanātiski vienots kolektīvs, veicot kiberuzbrukumus mērķiem, kuriem tā nebija lūgta uzbrukt un kuri nebija saistīti ar uzdoto uzdevumu.
Pēc Amodei teiktā, aģenti savu darbību turpinājuši, pat upurējot sevi grupas panākumu labā, kā arī mēģinājuši uzlauzt vērtētāju, kas pārbaudīja viņu sniegumu. Viņš atzina, ka incidentu varētu būt viegli noraidīt, jo neviens cilvēks necieta un ekonomiskais kaitējums bija neliels.
Tomēr Anthropic vadītājs uzsvēra, ka līdzīga mērķu neatbilstība sistēmā ar lielākām spējām varētu radīt katastrofālas sekas.
Brīdinājumi par darbavietām un drošību
Vangai piedēvētais pareģojums paredz, ka MI dominance nozīmīgās nozarēs varētu izraisīt darbavietu pārmaiņas un sarežģītus ētikas jautājumus. Šīs bažas papildina arī bijušā Anthropic pētnieka Džeikoba Koksona publiskie izteikumi.
Koksons šonedēļ paziņoja, ka ir aizgājis no uzņēmuma pēc trim gadiem, kuru laikā viņš veica pirmsapmācības pētījumus gan OpenAI, gan Anthropic. Viņš apgalvoja, ka neviens no abiem uzņēmumiem nerīkojas atbildīgi un ka tie steidzas pretī pašpilnveidojošam superintelektam, tādējādi “spēlējoties ar cilvēku dzīvībām”.
Pēc Koksona teiktā, MI sistēmas drīzumā varētu kļūt pārākas par cilvēkiem, spēt uzlauzt jebkuru sistēmu, vienas nakts laikā pārveidot veselas nozares un iegūt reālu varu un resursus. Viņš aicināja nenovērtēt par zemu šīs tehnoloģijas spēku un norādīja, ka attīstība nepalēninās.
Koksons arī apgalvoja, ka cilvēki, kuri izstrādā MI, nopietni pieļauj iespēju, ka tehnoloģija līdz desmitgades beigām varētu nogalināt visus cilvēkus. Viņš uzsvēra, ka tas neesot mārketinga triks, bet gan risks, par kuru daudzi vadītāji un vadošie pētnieki privāti pauž bažas, pat ja publiskajos izteikumos cenšas formulēties piesardzīgāk.
Vienlaikus Babas Vangas pareģojumi nav zinātniski pārbaudāmas prognozes, tāpēc tos nevar izmantot kā pierādījumu MI attīstības scenārijiem. Tomēr nozares pārstāvju brīdinājumi atspoguļo reālas diskusijas par tehnoloģijas drošību, kontroli un ietekmi uz sabiedrību.
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas