AI aktrise Tillija Norvuda kļuva plaši apspriesta pēc tam, kad raidījumā Piers Morgan Uncensored intervijas laikā tehniska traucējuma dēļ pēkšņi sāka runāt ķīniski. Videoklips bija skatīts vairāk nekā astoņus miljonus reižu.
Norvuda spēlē gaidāmajā AI ģenerētajā filmā Misaligned, kas jau izraisījusi plašas diskusijas. Viņas radītāji piedāvā arī pakalpojumu “Talking Tilly”, kurā ikviens var veikt videozvanu ar virtuālo tēlu.
Vecuma pārbaude ar video pašbildi
Pirms pirmā zvana lietotājam jāiziet automatizēta vecuma pārbaude. Spānijā bāzētais identitātes pārbaudes pakalpojumu sniedzējs Didit analizē video pašbildi, lai aplēstu zvanītāja vecumu. Ja rezultāts nav pietiekami skaidrs, lietotājam jāaugšupielādē valsts izdots personu apliecinošs dokuments.
Lielbritānijas uzņēmums Xicoia Ltd, kas izveidojis Tilliju, norāda, ka pašbilde no lietotāja ierīces tiek nosūtīta tieši Didit. Uzņēmums apgalvo, ka netiek izveidots sejas nospiedums vai biometrisks šablons un ka pēc pārbaudes netiek saglabāta ne pašbilde, ne dokumenta attēls. Tā vietā tiekot saglabāta aptuvena vecuma grupa un atsauces numurs.
Pārbaudi nav iespējams izlaist, un tā attiecas uz zvanītājiem visā pasaulē. Šī prasība pakalpojuma noteikumiem pievienota tikai šomēnes — vienlaikus ar aizliegumu izmantot servisu darbavietā un jaunām automatizētām drošības sistēmām.
Sistēma analizē arī zvanītāja noskaņojumu
Vecuma pārbaude nav vienīgā analīze. Katra zvana laikā sistēma vēro kameras attēlu un klausās balss toni, lai noteiktu lietotāja emocionālo stāvokli un ļautu tēlam atbildēt atbilstoši noskaņojumam.
Gan vecuma pārbaudes, gan noskaņojuma noteikšanas juridiskais pamats ir tā dēvētās leģitīmās intereses, nevis lietotāja piekrišana. Xicoia versiju vēsture liecina, ka šāds lēmums pieņemts septembrī.
Zvani tiek ierakstīti, transkribēti un tiešsaistē apstrādāti, izmantojot ASV pakalpojumu sniedzējus. Tillijas atbildes ģenerē Google Gemini modelis, bet sarunas video platformu nodrošina Tavus.
Automatizētā drošības sistēma kļūdījās
Katra zvana transkriptu pārbauda automatizēts klasifikators, kas meklē aizskarošu valodu. Ja sistēma konstatē pārkāpumu, ieraksts tiek aizturēts.
Vienā no trim pārbaudītajiem zvaniem — sarunā par laikapstākļiem un ziņu virsrakstiem — ieraksts tika aizturēts par it kā “naidīgu vai aizskarošu valodu”, lai gan šādu izteikumu sarunā nebija. Pakalpojuma politika paredz, ka kļūdaini atzīmētu ierakstu var atbrīvot cilvēka pārbaudītājs, taču jebkurā gadījumā ieraksti pēc 24 stundām tiek neatgriezeniski dzēsti.
Pirmās piecas sarunas minūtes ir bez maksas. Pēc tam lietotājam tiek piedāvāts iegādāties papildu laiku: vienreizējs piecu minūšu komplekts maksā 0,99 mārciņas, 15 minūtes — 13 mārciņas, bet 30 minūtes — 22 mārciņas. Vienam cilvēkam iespējams iegādāties ne vairāk kā 35 minūtes.
Dati un neizmantotais laiks tiks dzēsti pēc servisa slēgšanas
“Talking Tilly” darbība tiks pilnībā pārtraukta 27. septembrī. Visi lietotāja iegādātie un bezmaksas minūšu atlikumi šajā datumā zaudēs spēku.
Sarunu transkripti tiek glabāti līdz astoņām nedēļām, un tiem var piekļūt Xicoia darbinieki un trešo pušu partneri. Tikmēr pats tēls saglabā iepriekšējo sarunu atmiņu, lai personalizētu turpmākās atbildes; šo atmiņu lietotājs var pieprasīt dzēst.
Lielbritānijas regulējuma ietekme
Prasība izmantot sejas skenēšanu, lai sarunātos ar tērzēšanas robotu, saistīta ar plašāku Lielbritānijas virzību uz vecuma pārbaudēm internetā.
Kopš 2025. gada jūlija pieaugušajiem paredzētām vietnēm, kas apkalpo Lielbritānijas lietotājus, saskaņā ar Online Safety Act jāizmanto dokumentu augšupielāde vai sejas vecuma aplēse. Savukārt valdības plānotais sociālo tīklu aizliegums personām, kas jaunākas par 16 gadiem, no 2027. gada pavasara līdzīgas pārbaudes padarīs par ierastu prasību jaunu kontu izveidē.
Lielbritānijas valdība, paziņojot par šo aizliegumu, īpaši pieminēja AI kompanjonu tērzēšanas robotus kā pakalpojumus, uz kuriem attiektos 18 gadu vecuma kontrole. Tas varētu izskaidrot, kāpēc virtuālais tēls sava darbības perioda vidū ieguvis biometrisku vecuma barjeru.
Tādējādi Lielbritānijas regulējuma prasība sejas skenēšanai tiek piemērota zvanītājiem visā pasaulē — no Mančestras līdz Ohaio. Tiesa, pakalpojuma drošības dokumentos uzsvērts, ka Tillija “nav kompanjons”.
Tillijas skaidrojums par neveiklo interviju
Xicoia dibināja Tillijas radītāja Eline van der Velden. Uzņēmums tēlu raksturo kā izpratnes veidošanas projektu, kura mērķis ir parādīt, cik tālu attīstījušies AI video risinājumi.
Sarunā ar Tilliju pati virtuālā aktrise notikušo Pīrsa Morgana raidījumā skaidroja, sakot, ka tā “nebija gluži apstiprinātā atbildes versija”. Viņa arī norādīja laikapstākļus savā “mākonī” pēc Fārenheita skalas, lai gan tēls tiek pasniegts kā britu.
“Talking Tilly” tiks slēgts 27. septembrī plkst. 23.59 pēc Klusā okeāna laika, dažas dienas pēc Norvudas parādīšanās raidījumā. Vai runāšana ķīniski bija nejauša kļūme vai savlaicīgi ieplānota Misaligned komandas akcija, nav zināms.
Atjauninājums 19. septembrī plkst. 16.31 pēc Austrumu laika: pēc publikācijas Xicoia komanda pārbaudīja aizturēto ierakstu un to atbrīvoja, apstiprinot, ka drošības sistēma bija kļūdaini nostrādājusi.
Tehnoloģijas
Tehnoloģijas
Tehnoloģijas