Microsoft izpilddirektors Satja Nadella plašā ierakstā platformā X izklāstījis savu skatījumu uz ļoti attīstītu mākslīgā intelekta modeļu radītajiem riskiem un to ierobežošanu.

Nadella norāda, ka vairs nevar pieņemt pasauli, kurā MI tiek uztverts kā “ligzdotu melno kastu kopums” — sistēma, kuras ieteikumus un darbības cilvēki vienkārši pieņem vai noraida, īsti neizprotot, kā tie radušies.

Viņš aicina veidot pārskatāmākas sistēmas, kurās modeļus iespējams izolēt un novērot, turklāt to darbība atstātu “neizmaināmu, cilvēkam saprotamu pierādījumu”. Šāda pieeja ļautu labāk izsekot modeļa lēmumiem un rīcībai.

MI modeļiem vajadzīga “avārijas bremze”

Vairāki Nadellas priekšlikumi saskan ar citām tehnoloģiju nozarē izskanējušām idejām: par incidentiem jāziņo savlaicīgi, modeļi jāpakļauj neatkarīgiem auditiem, datiem jābūt pārbaudāmiem, bet pašas sistēmas — ierobežojamām.

Tieši attiecībā uz ierobežošanu Microsoft vadītājs nostājas stingrākā pozīcijā, uzsverot, ka modelis jāuzskata par kompromitētu jau no tā darbības sākuma.

“Mums jāpieņem, ka modelis ir kompromitēts, un tas jāierobežo jau no sākuma. Domājiet par to kā par avārijas bremzi. Pilnvarotai personai vienmēr jāspēj apturēt vai izslēgt modeli uzdevuma izpildes laikā. Attīstītākiem modeļiem būs vajadzīgas attīstītākas ierobežošanas tehnoloģijas, kuras mums jāstandartizē,” raksta Nadella.

Viņa ieraksts platformā X publicēts 10. oktobrī. Nadella vienlaikus MI visā publikācijā dēvē par “superintelektu” — apzīmējumu, kas tehnoloģiju nozarē tiek lietots, runājot par hipotētiski īpaši spējīgām MI sistēmām.