OpenAI gatavojas Eiropas Savienībā pievienot neredzamas ūdenszīmes ChatGPT un Codex radītajam tekstam. Uzņēmums skaidro, ka ūdenszīme nebūs redzama ne lasīšanas, ne kopēšanas laikā. Tā tiks veidota ar tehnoloģiju textGrain, kas nedaudz maina modeļa vārdu izvēli, lai tekstā izveidotu vēlāk nosakāmu statistisku rakstu.

“Tuvāko nedēļu laikā mēs Eiropas Savienībā pievienosim neredzamu ūdenszīmi atbilstošam ChatGPT un Codex teksta izvadam,” paziņoja OpenAI. Globāli šī funkcija pagaidām nekļūs par noklusējuma iestatījumu. No šodienas API izstrādātāji visā pasaulē varēs brīvprātīgi ieslēgt ūdenszīmju izmantošanu atbalstītajiem modeļiem, taču pēc noklusējuma tā būs izslēgta.

Noteikšanas iespējas būs ierobežotas

Uzņēmums vienlaikus sācis pieņemt pieteikumus piekļuvei ūdenszīmju noteikšanas rīkam. Sākotnēji to varēs izmantot tikai apstiprināti pētnieki un ekspertu organizācijas.

OpenAI This chart shows results for watermarked responses to mathematics and psychology questions from the ELI5 dataset⁠ at a target false positive rate of 1%
Foto avots: bleepingcomputer.com · avots ↗

OpenAI atzīst, ka teksta ūdenszīmes nav pilnīgi drošas. Uzņēmuma testi liecina — pat samērā parasta rediģēšana var būtiski samazināt iespēju atpazīt mākslīgā intelekta radītu tekstu. Pārbaudē ar 400 tokenu gariem fragmentiem 10% vārdu aizstāšana ar sinonīmiem noteikšanas precizitāti samazināja aptuveni no 92% līdz 66%, bet 25% vārdu aizstāšana — līdz 17%.

Ja viltus pozitīvu rezultātu mērķis bija 1%, ūdenszīme tika atrasta aptuveni 80% 200 tokenu garu atbilžu par psiholoģiju. Tekstiem, kuru garums sasniedza 400 tokenus, šis rādītājs bija aptuveni 95%. Matemātikas tekstos rezultāti bija vēl sliktāki, jo šajā jomā modelim ir mazāka brīvība izvēlēties atšķirīgus vārdus.

“Ja ūdenszīme netiek atrasta, tas nepierāda cilvēka autorību,” brīdināja OpenAI. Uzņēmums norāda, ka ar tā rīkiem ģenerēts teksts var būt pārāk īss, rediģēts vai tulkots, lai noteikšana darbotos uzticami.

Ūdenszīme neatklās autoru

OpenAI apgalvo, ka atrasta ūdenszīme neatklās, kas tekstu ģenerējis, kāds konts izmantots, kāds bijis pieprasījums vai saruna. Tā arī nevarēs noteikt, cik liela daļa gala darba tapusi ar cilvēka līdzdalību vai rediģēta cilvēka rokām.

Uzņēmums papildus norāda, ka ūdenszīmes būtiski neietekmē GPT-6 Astra kvalitāti. Salīdzinošo testu rezultāti, izmantojot textGrain, esot kopumā līdzīgi rezultātiem bez šīs funkcijas.