Character AI baigia savo pokalbių roboto patirtį vaikams

Paaugliai bando išsiaiškinti, kur jie tinka pasaulyje, besikeičiančiame greičiau nei bet kuri kita karta prieš juos. Jie trykšta emocijomis, yra labai stimuliuojami ir nuolat prisijungia prie interneto. O dabar dirbtinio intelekto įmonės suteikė jiems pokalbių robotus, skirtus niekada nenustoti kalbėti. Rezultatai buvo katastrofiški.

Viena įmonė, kuri supranta šią pasekmę, yra „Character.AI“ – AI vaidmenis vaidinantis startuolis, kuriam gresia teismai ir viešas pasipiktinimas po to, kai po ilgų pokalbių su AI pokalbių robotais jos platformoje nusižudė mažiausiai du paaugliai. Dabar Character.AI keičia savo platformą, kad apsaugotų paauglius ir vaikus, o tai gali turėti įtakos startuolio rezultatams.

„Pirmas dalykas, dėl kurio nusprendėme kaip Character.AI, yra tai, kad pašalinsime galimybę jaunesniems nei 18 metų naudotojams dalyvauti atviruose pokalbiuose su AI mūsų platformoje“, – „TechCrunch“ sakė Character.AI generalinis direktorius Karandeep Anand.

Atviras pokalbis reiškia nevaržomą pokalbį pirmyn ir atgal, kai vartotojai ragina pokalbių robotą ir jis atsako pateikdamas tolesnius klausimus, kurie, ekspertų teigimu, yra skirti vartotojui palaikyti. Anandas teigia, kad tokio tipo sąveika – kai AI veikia kaip pokalbio partneris ar draugas, o ne kaip kūrybinė priemonė – yra ne tik rizikinga vaikams, bet ir nesuderinama su įmonės vizija.

Startuolis bando pereiti nuo „AI kompaniono“ prie „vaidmenų žaidimo platformos“. Užuot kalbėję su AI draugu, paaugliai naudos raginimus bendradarbiaujant kurti istorijas ar kurti vaizdinius elementus. Kitaip tariant, tikslas yra perkelti įsitraukimą iš pokalbio į kūrybą.

Character.AI palaipsniui panaikins paauglių pokalbių roboto prieigą iki lapkričio 25 d., pradedant nuo dviejų valandų dienos limito, kuris palaipsniui mažėja, kol pasieks nulį. Siekiant užtikrinti, kad šis draudimas liktų jaunesniems nei 18 metų naudotojams, platformoje bus įdiegtas vidinis amžiaus tikrinimo įrankis, kuris analizuoja vartotojų elgesį, taip pat trečiųjų šalių įrankius, tokius kaip „Persona“. Jei šie įrankiai nepavyks, Character.AI naudos veido atpažinimą ir asmens tapatybės patikrinimus, kad patikrintų amžių, sakė Anandas.

Šis žingsnis yra susijęs su kitomis paauglių apsaugos priemonėmis, kurias įdiegė Character.AI, įskaitant tėvų įžvalgų įrankio pristatymą, filtruotus personažus, ribotus romantiškus pokalbius ir pranešimus apie praleistą laiką. Anandas pasakė „TechCrunch“, kad šie pakeitimai prarado didelę dalį jaunesnių nei 18 metų amžiaus vartotojų, ir jis tikisi, kad šie nauji pakeitimai bus vienodai nepopuliarūs.

„Galima daryti prielaidą, kad daugelis mūsų paauglių naudotojų tikriausiai bus nusivylę… todėl tikimės, kad tam tikras nuosmukis įvyks ir toliau“, – sakė Anandas. „Sunku spėlioti – ar visi jie visiškai susitrauks, ar kai kurie iš jų pereis prie šių naujų patirčių, kurias kūrėme pastaruosius beveik septynis mėnesius?

Vykdydamas Character.AI pastangas paversti platformą iš į pokalbius orientuotos programos į „visavertę turiniu grindžiamą socialinę platformą“, startuolis neseniai pristatė keletą naujų į pramogą orientuotų funkcijų.

Birželio mėnesį Character.AI išleido AvatarFX – vaizdo įrašų kartos modelį, kuris vaizdus paverčia animaciniais vaizdo įrašais; Scenos, interaktyvios, iš anksto užpildytos siužetinės linijos, kuriose vartotojai gali įsitraukti į pasakojimus su savo mėgstamais personažais; ir srautai – funkcija, leidžianti dinamiškai sąveikauti tarp bet kurių dviejų simbolių. Rugpjūčio mėn. Character.AI pristatė bendruomenės kanalą – socialinį kanalą, kuriame vartotojai gali dalytis savo personažais, scenomis, vaizdo įrašais ir kitu platformoje sukurtu turiniu.

Pareiškime, skirtame jaunesniems nei 18 metų vartotojams, Character.AI atsiprašė už pakeitimus.

„Žinome, kad dauguma iš jūsų naudojasi Character.AI, kad padidintų savo kūrybiškumą taip, kad neperžengtų mūsų turinio taisyklių ribų“, – rašoma pareiškime. „Mes nesiimame šio žingsnio, kad pašalintume neribotą veikėjų pokalbį, bet manome, kad tai yra teisingas dalykas, atsižvelgiant į iškilusius klausimus apie tai, kaip paaugliams sekasi ir turėtų bendrauti su šia nauja technologija.

„Mes neišjungiame programos jaunesniems nei 18 metų amžiaus asmenims“, – sakė Anandas. „Uždarome tik atvirus pokalbius jaunesniems nei 18 metų asmenims, nes tikimės, kad jaunesni nei 18 metų naudotojai pereis prie šių kitų funkcijų ir kad laikui bėgant tos funkcijos gerės. Taigi dvigubai sumažinsime AI žaidimus, trumpus AI vaizdo įrašus ir AI pasakojimus apskritai. Tai yra didelis statymas, kad sugrąžinsime jaunesnius nei 18 m.

Anandas pripažino, kad kai kurie paaugliai gali plūsti į kitas AI platformas, tokias kaip „OpenAI“, leidžiančias jiems turėti neribotus pokalbius su pokalbių robotais. „OpenAI“ taip pat neseniai sulaukė kritikos, kai paauglys po ilgų pokalbių su „ChatGPT“ atėmė sau gyvybę.

„Labai tikiuosi, kad pirmaujantys pavyzdžiai nustato pramonės standartą, kad jaunesniems nei 18 metų asmenims atviri pokalbiai tikriausiai nėra tinkamas kelias ar produktas“, – sakė Anandas. „Manau, kad mums reikia daryti kompromisus. Turiu šešerių metų vaiką ir noriu, kad ji augtų labai saugioje aplinkoje su dirbtiniu intelektu atsakingai.

Character.AI priima šiuos sprendimus prieš reguliavimo institucijoms prispaudžiant ranką. Antradienį senjorai Joshas Hawley (R-MO) ir Richardas Blumenthalas (D-CT) pareiškė, kad priims teisės aktus, uždrausančius dirbtinio intelekto pokalbių robotų kompanionus būti prieinamiems nepilnamečiams, gavus tėvų skundus, kurie teigė, kad produktai pastūmėjo jų vaikus į seksualinius pokalbius, savęs žalojimą ir savižudybę. Anksčiau šį mėnesį Kalifornija tapo pirmąja valstija, kuri reguliavo dirbtinio intelekto kompanioninius pokalbių robotus, laikydamas įmones atskaitingus, jei jų pokalbių robotai neatitiks įstatymų saugos standartų.

Be šių platformos pakeitimų, Character.AI teigė, kad įsteigs ir finansuos AI Safety Lab – nepriklausomą ne pelno siekiančią įmonę, kurios tikslas – naujoviškas ateities AI pramogų funkcijų saugos suderinimas.

„Pramonėje vyksta daug darbo kodavimo, kūrimo ir kitų naudojimo atvejų“, – sakė Anandas. „Mes nemanome, kad dar pakankamai daug darbo su agentinėmis AI varančiomis pramogomis, todėl saugumas bus labai svarbus.