OpenAI vadītājs un ChatGPT izveidotājs Sems Altmans publiskojis savu redzējumu par riskiem, ko nākotnē var radīt arvien spējīgāks mākslīgais intelekts. Viņš uzsvēris, ka tehnoloģijai vienmēr jākalpo cilvēkiem un tās drošības mehānismiem jāattīstās straujāk par modeļu iespējām.
Altmana komentāri izskanējuši pēc tam, kad viņš atbalstīja Anthropic vadītāja Dario Amodei aicinājumu piebremzēt progresu mākslīgā intelekta jomā. Amodei 12. septembrī publicēja eseju We Must Pace the Frontier, kurā piedāvāja trīsdaļīgu plānu tehnoloģijas attīstības palēnināšanai. Viņš brīdināja, ka nekontrolēta attīstība var apdraudēt līdzšinējo pasaules kārtību.
Altmana brīdinājums par kontroles zaudēšanu
Sākotnēji Altmans īsi piekrita Amodei ierosinājumiem, tostarp trešo pušu vērtētāju iesaistei, kā arī globālam un vietējam regulējumam. Vēlāk viņš sociālajā tīklā X publicēja plašāku skaidrojumu par to, kāpēc uzskata par nepieciešamu mākslīgā intelekta attīstības tempu samazināt.
“Es piekrītu Dario, ka mums jāpiebr bremzes attīstības robežai,” rakstīja Altmans. Viņš norādīja, ka OpenAI pirms tā dēvētajiem robežmodeļu pastiprinātās apmācības posmiem, kas var būtiski palielināt to spējas, jau iepriekš izstrādā īpašus drošības pamatojumus. Uzņēmums vienlaikus turpinot arī līdzšinējo drošības darbu pirms modeļu publiskošanas.
Altmans aicināja arī citus uzņēmumus dalīties ar savām pieejām. Viņaprāt, kopīgi standarti neatbilstības risku, uzraudzības un drošības jomā palīdzētu panākt labākus rezultātus. Viņš arī pauda gatavību sadarboties ar citiem nozares uzņēmumiem, lai šādus standartus izveidotu.
Divi scenāriji, no kuriem būtu jāizvairās
Turpinājumā Altmans formulēja divus iespējamos scenārijus, kuros mākslīgā intelekta attīstība varētu kļūt īpaši bīstama. Pirmais — cilvēki zaudētu kontroli pār tehnoloģijas nākotni. Viņš šo iespēju nodēvēja par nepieņemamu un sacīja, ka OpenAI esot “neatvainojami cilvēces pusē”.
Altmans uzsvēra, ka mākslīgajam intelektam vienmēr jākalpo cilvēkiem. Lai to nodrošinātu, drošības un saskaņošanas paņēmieniem, kas palīdz sistēmas darbību pieskaņot cilvēku interesēm, esot jāpaliek priekšā modeļu spēju attīstībai. Viņš arī sacīja, ka sabiedrībai jābūt pārliecinātai — ASV uzņēmumi, kas izstrādā arvien jaudīgāku mākslīgo intelektu, rīkosies atbildīgi.
Otrs risks, pēc Altmana teiktā, ir pārmērīga varas koncentrācija. Ja ārkārtīgi jaudīgu mākslīgā intelekta sistēmu izmantotu viena persona vai uzņēmums, lai visiem uzspiestu savu pasaules redzējumu, rezultāts varētu būt “ārkārtīgi distopisks”.
Tieši šā iemesla dēļ Altmans atbalsta Amodei aicinājumu tehnoloģijas attīstību piebremzēt. Viņš uzsvēra, ka ar “piebremzēšanu” netiek domāta attīstības apturēšana. Progress esot bijis straujš un turpināsies, taču tam vajadzētu būt lēnākam, nekā tas citādi būtu iespējams, un šādas izmaksas, viņaprāt, būtu tā vērtas.
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas