Mākslīgā intelekta tērzēšanas rīku izplatība var mainīt ne tikai klientu apkalpošanu un ikdienas informācijas meklēšanu, bet arī pašu cilvēku uzvedību. Starptautiska pētnieku komanda jaunā publikācijā žurnālā AI & Society izvirzījusi ideju, ka ilgstoša saskarsme ar sociāli atsaucīgiem MI aģentiem var mudināt lietotājus kļūt arvien „mašīnlasāmākiem” — īsākiem, paredzamākiem un vairāk pielāgotiem sistēmas darbības loģikai.

Pētnieki šo iespējamo parādību nodēvējuši par „robotoīdo cilvēciskumu”. Ar to saprot pakāpenisku nobīdi, kurā cilvēks sāk justies visdrošāk, vispareizāk vai sociāli vispieņemamāk tad, ja viņa komunikācija atbilst mašīnas tempam, noteikumiem un spriešanas modelim.

Šis nav secinājums par jau pierādītu cēloņsakarību reālā vidē. Publikācijā galvenokārt piedāvāts teorētisks ietvars turpmākiem pētījumiem un diskusijai par to, kā ģeneratīvais MI var veidot cilvēku un tehnoloģiju savstarpējo mijiedarbību. Tomēr autori uzskata, ka risks ir pietiekami nozīmīgs, lai to vērtētu jau tagad — īpaši nozarēs, kur sarunas ar čatbotiem kļūst par ikdienas standartu.

Trīs posmi ceļā uz pielāgošanos mašīnai

Piedāvātajā modelī aprakstīti trīs posmi. Vispirms patērētājs nonāk sintētiskā sociālajā realitātē, kur mijiedarbība ar digitālo aģentu šķiet pietiekami nozīmīga un personiska. Tas ir būtiski, jo moderni čatboti vairs nerada iespaidu tikai par tehnisku izvēlni vai automatizētu atbildētāju — tie spēj uzturēt dialogu, reaģēt uz emocijām un atcerēties sarunas kontekstu.

Otrajā posmā sistēma it kā „notver” lietotāja identitāti, veidojot tās statistisku atspulgu no sniegtajām atbildēm, izvēlēm un valodas. Šāds atspulgs pēc būtības ir nepilnīgs un var būt sagrozīts, jo balstās datos un prognozēs, nevis pilnīgā cilvēka pieredzes izpratnē.

Trešajā posmā cilvēks ar atkārtotu saskarsmi sāk arvien vairāk pieskaņoties šim atspulgam. Lietotājs rīkojas, sistēma atbild, un laika gaitā sarunas struktūra var tikt internalizēta — cilvēks sāk atbildēt tā, kā tas digitālajam sarunbiedram ir ērtāk saprotams.

Pētījuma līdzautore Selčena Eztiurkana no Linneja universitātes norāda, ka cilvēkiem piemīt dabiska tieksme atdarināt sarunbiedra komunikācijas veidu. Ja robots vai čatbots konsekventi izmanto noteiktus formulējumus, ritmu un reakcijas modeli, cilvēks var sākt atbildēt līdzīgā manierē. Mašīnmācīšanās šo ciklu var pastiprināt, jo sistēma pielāgo savu uzvedību konkrētā lietotāja ievadei un kļūst arvien personiskāka savā imitācijā.

Jautājums par pašvērtējumu un ētiku

Birmingemas Universitātes mārketinga pētniece Indži Torala-Mensona šo procesu raksturo kā divvirzienu ietekmi: roboti kļūst līdzīgāki cilvēkiem, bet cilvēki — līdzīgāki robotiem. Lielo valodas modeļu darbība sākotnēji ir balstīta cilvēku radītā tekstā, tāpēc tie atdarina valodas paradumus un sociālās reakcijas. Ja cilvēki savukārt pielāgojas šo sistēmu izveidotajai komunikācijas videi, rodas atgriezeniskā saite.

Autori uzsver, ka iespējamās sekas nav tikai stilistiskas. Plaša dzīves daļa, ko ietekmē MI sistēmas, var skart cilvēku priekšstatu par sevi un pašvērtējumu. Piemēram, ja digitālajā vidē par vērtīgāko kļūst ātra, standartizēta un prognozējama atbilde, emocionāla neskaidrība, nianses vai lēnāka pārdomāšana var tikt uztverta kā traucēklis, nevis normāla cilvēciskas sarunas daļa.

Īpaši svarīgs šis jautājums ir klientu apkalpošanā, kur roboti un MI jau tiek izmantoti plaši. Pētnieki aicina uzņēmumus neaprobežoties ar efektivitātes mērījumiem vien. Tehnoloģiju ieviešanā jāvērtē arī tas, kā cilvēki veido attiecības ar šiem aģentiem un vai sistēmu dizains saglabā ētisku, lietotāja autonomiju respektējošu pieeju.