Hārvardas profesore un vēsturniece Džila Lepora brīdina, ka mākslīgā intelekta straujā ieviešana var paātrināt sabiedrības virzību uz kārtību, kurā cilvēku autonomiju un demokrātisku līdzdalību aizstāj korporācijām piederošas digitālās sistēmas. Viņa šo iespējamo modeli dēvē par “mākslīgo valsti”.
Raidierakstā Hard Fork Lepora skaidroja, ka šādā sistēmā valsts pārvaldes un sabiedriskās dzīves lēmumi arvien biežāk tiktu pieņemti nevis ar pilsoņu piekrišanu, bet ar mašīnu palīdzību. Taču šīs mašīnas, datu infrastruktūra un platformas nepieder sabiedrībai — tās kontrolē privāti uzņēmumi.
Profesore uzsver, ka šāda “mākslīgā valsts” vēl nav pilnībā izveidojusies. Tomēr tās pamatelementi jau ir redzami ikdienā: cilvēki saziņai ar uzņēmumiem sastopas ar čatbotiem, informāciju par politiku un vēlēšanām saņem sociālajos tīklos, bet automatizētas sistēmas palīdz pieņemt lēmumus gan uzņēmumos, gan valsts iestādēs.
No kopienas uz algoritmu vadītu vidi
Leporas skatījumā būtiskākais risks nav tikai pats mākslīgais intelekts, bet arī tas, kam pieder digitālie kanāli, caur kuriem sabiedrība saņem ziņas, komunicē un veido priekšstatu par politiku. Iepriekš šo ietekmi lielā mērā nodrošināja radio un televīzija, savukārt tagad dominē sociālo mediju platformas un to algoritmi.
Viņa norāda, ka digitālā vide var pastiprināt cilvēku nošķirtību. Tā vietā, lai politiskus jautājumus apspriestu ar kaimiņiem, vietējo kopienu, amatpersonām vai nozares speciālistiem, cilvēki aizvien biežāk vēršas pie AI rīkiem. Vienlaikus politiskie vēstījumi, ko lietotāji redz internetā, var būt radīti vai pielāgoti ar mākslīgā intelekta palīdzību.
Šo procesu Lepora iepriekš raksturojusi kā sabiedriskās dzīves “fabrikas fermu” — vidi, kurā cilvēki tiek šķiroti un segmentēti pēc datiem, izolēti cits no cita, bet kopieniskās saites kļūst vājākas. Šajā metaforā galvenā doma ir nevis par tehnoloģiju vien, bet par cilvēku pārvēršanu prognozējamos, pārvaldāmos datos un auditorijās.
AI šādu tendenci var pastiprināt arī uzraudzības jomā. Mākslīgā intelekta sistēmas spēj apstrādāt milzīgus informācijas apjomus par cilvēku paradumiem, interesēm un uzvedību. Tas palielina iespējas izmantot persondatus mērķētai reklāmai, informācijas ietekmēšanai un automatizētai novērošanai.
“Neizbēgamības” arguments nav pašsaprotams
Lepora kritizē tehnoloģiju nozarē izplatīto priekšstatu, ka AI ieviešana ir neizbēgama un tādēļ sabiedrībai atliek vien pielāgoties. Viņasprāt, šis fatālisms balstās apšaubāmos pieņēmumos — piemēram, ka regulējums neizbēgami kavē inovāciju vai ka jaunas tehnoloģijas pašas par sevi stiprina demokrātiju.
Vēsturniece atgādina, ka līdzīgi solījumi savulaik izskanēja arī par personālajiem datoriem, internetu un sociālajiem tīkliem. Tehnoloģiju attīstība pati par sevi negarantē lielāku politisko līdzdalību, uzticamāku informāciju vai taisnīgāku sabiedrību. Tādēļ jautājums nav tikai par to, ko AI tehniski spēj paveikt, bet arī par to, kas nosaka tā izmantošanas noteikumus un kam no tā ir vara.
Lepora šīs idejas izvērš gaidāmajā grāmatā The Rise and Fall of the Artificial State. Viņas centrālais jautājums ir šķietami vienkāršs: kurš ir nolēmis, ka saruna ar algoritmu, nevis cilvēku, ir norma tik daudzās ikdienas situācijās? Atbilde uz to, viņasprāt, būs būtiska arī demokrātijas nākotnei.
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas