Mākslīgais intelekts dažkārt spēj būt ārkārtīgi gudrs, tomēr norādījumu došana tam var atgādināt sarunu ar mazu bērnu. Pat ļoti detalizēts pieprasījums var beigties ar darbību, kas ir saistīta ar vēlamo rezultātu, bet nav tas, ko cilvēks patiesībā bija domājis. Pētnieki tagad izstrādājuši sistēmu, kas šo neizteikto reakciju — “es to nedomāju” — spēj noteikt tieši no smadzeņu viļņiem.

Ja cilvēkiem un AI sistēmām nākotnē būs jāstrādā cieši kopā, mākslīgajam intelektam būs jāsaprot ne tikai cilvēka vārdi vai redzamā rīcība, bet arī tas, ko cilvēks patiesībā vēlas panākt. Pašreizējās sistēmas nodomu galvenokārt mēģina izsecināt no teksta uzvednēm, runas, darbībām un žestiem. Taču cilvēku uzvedība var būt neskaidra pat citiem cilvēkiem, nemaz nerunājot par algoritmiem.

Piemēram, krūzes paņemšana var nozīmēt vēlmi no tās padzerties, to nomazgāt, pārvietot citur vai pasniegt citam cilvēkam. Savukārt slāpes var remdēt, paņemot krūzi, paņemot ūdens pudeli vai palūdzot kādam citam atnest dzērienu. Pētnieki šo problēmu dēvē par mērķa un darbības neskaidrību: tikai pēc novērotās darbības ne vienmēr iespējams noteikt ne patieso mērķi, ne vēlamo veidu, kā to sasniegt.

Divu veidu kļūdas smadzeņu signālos

Korejas Zinātnes un tehnoloģiju augstākā institūta (KAIST) pētnieki sadarbībā ar Microsoft Research Asia izveidojuši smadzeņu–datora saskarnes paņēmienu ar nosaukumu Neural Value Alignment jeb NVA. Sistēma izmanto elektroencefalogrāfiju (EEG), lai noteiktu atšķirīgas smadzeņu reakcijas brīdī, kad cilvēks redz, ka AI tiecas uz nepareizu mērķi vai veic negaidītu darbību.

Pētnieki balstījās uz to, ka smadzenes nepārtraukti prognozē, kas notiks tālāk. Ja notikuma iznākums atšķiras no prognozētā, rodas raksturīgas neirālas reakcijas. Komanda īpaši pētīja divus signālus — atalgojuma prognozes kļūdu (reward prediction error jeb RPE) un stāvokļa prognozes kļūdu (state prediction error jeb SPE).

RPE norāda uz neatbilstību galīgajā iznākumā vai mērķī. NVA sistēmā šāds signāls var liecināt, ka AI nav sapratis, ko cilvēks galu galā vēlējās. Ja cilvēks mājas robotam saka: “Atnes man kaut ko dzeramu,” bet patiesībā vēlas ūdeni un robots atnes kafiju, pats mērķis ir nepareizs. Tādēļ smadzenēs var rasties atalgojuma prognozes kļūda.

SPE ir atšķirīga. Tā atspoguļo negaidītu pāreju starp stāvokļiem, proti, mērķis var būt pareizs, taču AI izvēlētais solis, starpposms vai metode neatbilst cilvēka gaidītajam. Šādu signālu varētu izteikt kā: “Jā, es gribēju, lai tu nonāc pie šāda rezultāta, bet ne šādā veidā.”

Ja cilvēks vēlas ūdeni un robots to pareizi saprot, taču tā vietā, lai paņemtu blakus esošo pudeli, aiziet uz virtuvi un piepilda glāzi no krāna, galamērķis joprojām ir sasniegts. Tomēr darbība un stāvokļu secība atšķiras no gaidītās, tāpēc var rasties stāvokļa prognozes kļūda.

AI varētu koriģēt rīcību reāllaikā

Eksperimentos pētnieki novēroja atšķirīgus smadzeņu viļņu modeļus atkarībā no tā, vai cilvēks piedzīvoja RPE, SPE vai abas kļūdas vienlaikus. Pēc tam šiem EEG signāliem tika piemērota dziļā mācīšanās, kas ļāva sistēmai klasificēt cilvēka reakciju uz AI uzvedību.

Tādējādi mākslīgais intelekts var noteikt, vai nepareizs ir pats mērķis vai tikai tā sasniegšanas metode — un tam nav nepieciešams, lai cilvēks kaut ko pateiktu. Pētnieki sistēmu īstenoja, izmantojot “Neural Value Alignment-based human–AI synergy algorithm”. Tas dekodētos neirālos signālus izmanto kā atgriezenisko saiti AI lēmumu pieņemšanā.

Sistēma ne tikai atpazīst, ka kaut kas ir nogājis greizi, bet arī nosaka, kas tieši bijis nepareizi, un atkarībā no saņemtā signāla reāllaikā var mainīt turpmāko rīcību.

Šāda pieeja varētu būt noderīga ne tikai sarunās ar neapmierinošiem tērzēšanas robotiem. Mājas robots, piemēram, nākotnē varētu pēc lietotāja neirālās reakcijas saprast, ka ir pārpratis norādījumu, un mainīt kursu, negaidot mutisku labojumu.

Līdzīga atgriezeniskā saite varētu tikt izmantota industriālajos robotos, autonomajos transportlīdzekļos, kas reaģē uz vadītāja spriedumu, medicīnas un rehabilitācijas robotu darbā ar cilvēkiem, kuriem ir grūtības runāt vai kustēties, kā arī izglītības sistēmās, kas pielāgojas skolēna kognitīvajam stāvoklim.

“Šis pētījums ir nozīmīgs, jo tas parāda, ka AI var pārsniegt cilvēka nodoma izsecināšanu tikai no redzamiem uzvedības rezultātiem un tā vietā tieši izmantot smadzenēs sadarbības laikā radītos kognitīvos signālus,” sacīja pētījuma vadītājs profesors Sang Vans Lī.

No simulācijas līdz ikdienas lietojumam vēl tālu

Līdz robotam, kas pēc viena cilvēka skatiena apstājas, vēl ir vairāki soļi. Sistēma tika demonstrēta simulācijās, nevis pilnvērtīgā reālās pasaules eksperimentā, kur brīvi darbojošs robots nepārtraukti nolasītu cilvēka EEG signālus un pats koriģētu uzvedību mājoklī.

Turklāt EEG mērījumiem nepieciešami elektrodi, kas uztver ļoti vājus smadzeņu elektriskos signālus. Šie signāli var būt trokšņaini, un ārpus kontrolētas laboratorijas to iegūšana ir ievērojami neērtāka. Tāpēc vēl būs jānoskaidro, cik uzticami NVA darbojas dabiskās mijiedarbībās, kad cilvēki pārvietojas un saskaras ar daudz sarežģītākām situācijām nekā laboratorijas uzdevumos.

Pētījums publicēts žurnālā IEEE Transactions on Cybernetics.