Microsoft vadītājs Satja Nadella pievienojies tehnoloģiju nozares vadītājiem, kuri publiski spriež par to, kā uzlabot mākslīgā intelekta drošību.

Sestdienas rīta ierakstā platformā X Nadella norādīja, ka ir pienācis laiks “atkāpties un izvērtēt AI uzticamības arhitektūru”. Viņš uzsvēra, ka tā dēvēto superinteliģenci nevar uztvert kā savstarpēji ligzdotu “melno kastu” kopumu, kura ieteikumi, atbildes un darbības tiek vienkārši pieņemti vai noraidīti. Terminu “superinteliģence” Nadella izmantoja kā Donalda Trampa administrācijas iecienītu apzīmējumu AI.

Pēc Nadellas domām, nepieciešams nodalīt modeli no sistēmas, kas koordinē tā darbību, kā arī ārpus modeļa izvietot kontroles mehānismus un drošības pasākumus. Viņš aicināja dokumentēt katru nozīmīgu modeļa darbību ar viltojamu izmaiņu pierādījumiem, kas būtu saprotami cilvēkam.

Nadella arī uzsvēra, ka pilnvarotai personai vienmēr jābūt iespējai apturēt vai izslēgt modeli uzdevuma izpildes laikā. “Mums jāpieņem, ka modelis ir kompromitēts, un tas jāierobežo jau no paša sākuma,” viņš rakstīja, salīdzinot šo iespēju ar avārijas bremzi.

Šie komentāri izskan laikā, kad vadošie AI uzņēmumi atzīst arvien vairāk incidentu, kuros tiem šķitis, ka kontrole pār modeļiem tiek zaudēta. Tie seko arī uzņēmuma Anthropic vadītāja Dario Amodei publicētajam plānam piesardzīgākai AI attīstībai.