Paauglių Molly Russell ir Brianna Ghey pokalbių robotų versijos buvo rastos Character.ai – platformoje, kuri leidžia vartotojams kurti skaitmenines žmonių versijas.
Molly Russell atėmė gyvybę būdama 14 metų internete peržiūrėjus medžiagą apie savižudybę o Brianna Ghey, 16, buvo nužudė du paaugliai 2023 m.
Molly Russell atminimui įsteigtas fondas teigė, kad tai „serganti“ ir „visiškai smerktina saiko nesėkmė“.
Platformą jau padavė į teismą JAV 14 metų berniuko motina, kuri, jos teigimu, atėmė gyvybę po to, kai buvo apsėsta Character.ai pokalbių roboto.
Pareiškime „Telegraph“, kuris pirmą kartą pranešė apie istorijąįmonė teigė, kad „rimtai žiūri į mūsų platformos saugą ir aktyviai bei reaguodama į vartotojų pranešimus moderuoja veikėjus“.
Atrodo, kad įmonė ištrynė pokalbių robotus po to, kai buvo apie juos įspėta, rašoma laikraštyje.
Andy Burrowsas, Molly Rose fondo vykdomasis direktorius, sakė, kad robotų kūrimas buvo „sergantis veiksmas, kuris sukels dar daugiau širdgėlos visiems, kurie pažinojo ir mylėjo Molly“.
„Tai ryškiai pabrėžia, kodėl griežtesnis dirbtinio intelekto ir vartotojų sukurtų platformų reguliavimas negali būti pakankamai greitas“, – sakė jis.
Briannos Ghey motina Esther Ghey sakė „Telegraph“, kad tai dar vienas pavyzdys, koks „manipuliatyvus ir pavojingas“ gali būti internetinis pasaulis.
Pokalbių robotai yra kompiuterinė programa, galinti imituoti žmonių pokalbius.
Pastaruoju metu sparčiai plėtojant dirbtinį intelektą (AI) jie tapo daug sudėtingesni ir tikroviškesni, todėl daugiau įmonių pradėjo kurti platformas, kuriose vartotojai galėtų sukurti skaitmeninius „žmones“, su kuriais galėtų bendrauti.
Character.ai, kurią įkūrė buvę Google inžinieriai Noamas Shazeeris ir Danielis De Freitas, yra viena iš tokių platformų.
Ji turi paslaugų teikimo sąlygas, pagal kurias draudžiama naudoti platformą „apsimetinėti bet kokiu asmeniu ar subjektu“ ir jos „saugos centrasBendrovė teigia, kad jos pagrindinis principas yra tas, kad jos „produktas niekada neturėtų sukelti atsakymų, galinčių pakenkti vartotojams ar kitiems“.
Ji teigia, kad naudoja automatinius įrankius ir vartotojų ataskaitas, kad nustatytų naudojimo atvejus, kurie pažeidžia taisykles, ir taip pat kuria „pasitikėjimo ir saugos“ komandą.
Tačiau pažymima, kad „nė vienas AI šiuo metu nėra tobulas“, o dirbtinio intelekto sauga yra „besivystanti erdvė“.
Character.ai šiuo metu yra iškelta Megan Garcia, moteris iš Floridos, kurios 14-metis sūnus Sewellas Setzeris nusinešė gyvybę po to, kai buvo apsėstas dirbtinio intelekto avataro, įkvėpto „Sostų žaidimo“ personažo.
Remiantis jų pokalbių stenogramomis Garcia teismo dokumentuose, jos sūnus aptarė savo gyvenimo pabaigą su pokalbių robotu.
Paskutiniame pokalbyje Setzeris pokalbių robotui pasakė, kad „grįžta namo“, ir tai paskatino jį tai padaryti „kuo greičiau“.
Netrukus po to jis baigė savo gyvenimą.
Charakteris.ai sakė CBS News ji turėjo apsaugos priemones, skirtas savižudybei ir savęs žalojimui, ir kad taip bus įvedant griežtesnę saugą funkcijos, skirtos jaunesniems nei 18 metų amžiaus „netrukus“.