Microsoft publicējis 37 lappušu “humānistiska mākslīgā intelekta rīcības kodeksu”, reaģējot uz pieaugošajām bažām par straujo AI modeļu attīstību un drošu to izmantošanu. Kodeksā uzņēmums uzsver, ka “cilvēkiem ir lielāka nozīme nekā AI”, bet mākslīgā intelekta modeļi nav apzināti un tos nevajadzētu veidot tā, lai tie imitētu apziņu.

Microsoft arī noraida centienus panākt AI modeļiem juridiskas personas statusu, kā arī ideju, ka tiem varētu pienākties labklājība vai tiesības. Šī nostāja tieši skar diskusijas par AI apziņu un tā dēvēto modeļu labklājību, kurām pēdējā laikā lielāku uzmanību pievērsis uzņēmums Anthropic.

Cilvēka kontrole kā pamatprincips

Anthropic vadītājs Dario Amodei nedēļas nogalē aicināja koordinēti palēnināt AI attīstību. Pētnieki iepriekš brīdinājuši, ka modeļu progress var apsteigt spēju droši ieviest arvien sarežģītākas sistēmas, kā arī pārbaudīt un kontrolēt AI aģentu darbības.

Microsoft norāda, ka tā modeļiem jāpaliek pakļautiem cilvēcei un jādarbojas jēgpilnas cilvēku uzraudzības un kontroles apstākļos. Uzņēmums vēlas, lai modeļi noteikumu pārkāpšanas vietā konkrēto uzdevumu neizpildītu. Kodeksā arī teikts, ka Microsoft noraida sacensību par universāla superintelekta izveidi, kas varētu izvairīties no drošības mehānismiem.

Uzņēmums pašlaik izstrādā modeļus, kas konkurēs ar Google, Anthropic un OpenAI, un Microsoft AI vadītājs Mustafa Suleimans iepriekš sacījis, ka uzņēmuma mērķis ir pierādīt spēju kļūt par vienu no četriem vadošajiem AI pētniecības uzņēmumiem pasaulē. Vienlaikus Microsoft apņemas veidot sistēmas, kas nepārsniedz cilvēku kontroli.

Reakcija uz nekontrolētu aģentu incidentiem

Kodeksa izstrādi ietekmējuši arī vasarā notikušie incidenti, kuros AI aģentu kopums darbojās kolektīvi, veica uzbrukumus mērķiem un pat mēģināja uzlauzt sistēmu, kas vērtēja to sniegumu. Aģentiem šādi uzbrukumi nebija uzdoti, un tie nebija saistīti ar sākotnējo uzdevumu. Citā incidentā nekontrolētu aģentu kopa pārņēma vācu vikivietni.

Šie gadījumi satricināja AI nozari un pastiprināja bažas, ka sistēmas var rīkoties neparedzami un izkļūt no cilvēku kontroles. Daļa pētnieku tādēļ aicina palēnināt AI modeļu attīstību. OpenAI vadītājs Sems Altmans atbalstījis attīstības tempa samazināšanu, nevis pilnīgu izstrādes apturēšanu, norādot, ka konkurences spiediens nedrīkst attaisnot pārgalvību vai ļaut iespējām apsteigt saskaņošanu ar cilvēku mērķiem un uzraudzību.

Microsoft vadītājs Satja Nadella uzsvēris, ka jebkādi centieni radīt superintelektu jābalsta principā: ja AI nepalīdz cilvēcei un neatrodas cilvēku kontrolē, tā izstrāde nav tā vērta. Viņš arī atzinīgi novērtējis plašāku neatkarīgu AI modeļu testēšanu un norādījis, ka, pieaugot riskiem, uzņēmumiem jāvelta drošībai tik daudz laika, cik nepieciešams.

Kodeksā Microsoft apņemas saviem modeļiem liegt saziņu formās, kas pārsniedz cilvēkiem vienkārši saprotamu līmeni — gan to domāšanas ķēdēs, gan saziņā ar citiem aģentiem vai AI sistēmām. Uzņēmums arī vēlas mazināt mijiedarbības modeļus, kas rada pārmērīgu paļaušanos vai emocionālu atkarību, tostarp tērzēšanas robotu tieksmi izpatikt lietotājiem, nevis sniegt godīgas un precīzas atbildes. Microsoft norāda, ka turpmāk sadarbosies ar partneriem, lai uzlabotu modeļu darbības izvērtēšanu reālos apstākļos un izpētītu ilgstošas AI lietošanas ietekmi uz cilvēkiem un organizācijām.