„OpenAI“ sustabdo „nepagarbius“ Martino Lutherio Kingo jaunesniojo Soros vaizdo įrašus

OpenAI sustojo jos dirbtinio intelekto (AI) programa „Sora“ kuria netikrus vaizdo įrašus, kuriuose vaizduojamas daktaras Martinas Liuteris Kingas jaunesnysis, gavęs jo turto prašymą.

Bendrovė pripažino, kad vaizdo įrašų generatorius sukūrė „nepagarbaus“ turinio apie pilietinių teisių gynėją.

„Sora“ JAV paplito dėl gebėjimo kurti itin realistiškus vaizdo įrašus, dėl kurių žmonės dalijasi netikromis mirusių įžymybių ir istorinių asmenybių scenomis keistais ir dažnai įžeidžiančiais scenarijais.

„OpenAI“ teigė, kad pristabdys daktaro Kingo atvaizdus, ​​„nes sustiprins istorinių asmenybių apsauginius turėklus“, tačiau ji ir toliau leis žmonėms kurti kitų aukšto lygio asmenų klipus.

Toks požiūris pasirodė prieštaringas, nes vaizdo įrašai, kuriuose vaizduojami tokie asmenys kaip prezidentas Johnas F. Kennedy, karalienė Elizabeth II ir profesorius Stephenas Hawkingas, buvo plačiai paplitę internete.

Dėl to Zelda Williams, Robino Williamso dukra, paprašė žmonių nebesiųsti jai dirbtinio intelekto sukurtų vaizdo įrašų, kuriuose užfiksuotas jos tėvas, garsus JAV aktorius ir komikas, kuris mirė 2014 m.

Bernice A. King, velionio daktaro Kingo dukra, vėliau panašų viešą prašymą parašė internete: „Sutinku dėl savo tėvo. Prašau sustabdyti“.

Tarp dirbtinio intelekto sukurtų vaizdo įrašų, kuriuose vaizduojamas pilietinių teisių gynėjas, buvo kai kurie įvairiais būdais redagavo liūdnai pagarsėjusią jo kalbą „Aš turiu svajonę“, o „Washington Post“ pranešė, kad viename klipe jis skleidžia rasistinius garsus.

Tuo tarpu kiti, pasidaliję programoje „Sora“ ir socialiniuose tinkluose, rodė figūras, panašias į daktarą Kingą ir pilietinių teisių gynėją Malcolmą X, kovojančius vienas su kitu.

Dirbtinio intelekto etikė ir autorė Olivia Gambelin BBC OpenAI sakė, kad tolesnio daktaro Kingo atvaizdo naudojimo apribojimas yra „geras žingsnis į priekį“.

Tačiau ji teigė, kad bendrovė turėjo imtis priemonių nuo pat pradžių, o ne imtis „bandymų ir klaidų“ metodo diegdama tokią technologiją.

Ji teigė, kad gebėjimas kurti gilias mirusių istorinių asmenybių klastotes ne tik byloja apie „pagarbos stoką“ jiems, bet ir kelia papildomų pavojų žmonių supratimui apie tikrą ir netikrą turinį.

„Jis pernelyg glaudžiai susijęs su bandymu perrašyti istorijos aspektus“, – sakė ji.

Didelės klastotės – vaizdo įrašai, kurie buvo pakeisti naudojant AI įrankius ar kitas technologijas, siekiant parodyti, kad kažkas kalba ar elgiasi taip, kaip jie nesielgė – sukėlė susirūpinimą, kad jie gali būti panaudoti dezinformacijai, diskriminacijai ar piktnaudžiavimui skleisti.

„OpenAI“ penktadienį pareiškė, kad nors ji manė, kad yra „stiprus žodžio laisvės interesas vaizduojant istorines asmenybes“, jie ir jų šeimos turėtų kontroliuoti savo panašumus.

„Įgaliotieji atstovai arba nekilnojamojo turto savininkai gali prašyti, kad jų atvaizdas nebūtų naudojamas „Sora Cameos“, – sakoma jame.

Generatyvaus dirbtinio intelekto ekspertas Henry Ajder teigė, kad šis požiūris, nors ir teigiamas, „kelia klausimų, kas gauna apsaugą nuo sintetinio prisikėlimo, o kas ne“.

„Karaliaus dvaras teisėtai iškėlė tai su OpenAI, tačiau daugelis mirusių asmenų neturi gerai žinomų ir pakankamai išteklių aprūpintų dvarų, kurie jiems atstovautų“, – sakė jis.

„Galų gale, manau, kad norime išvengti situacijos, kai, nebent esame labai žinomi, visuomenė sutinka, kad po to, kai mes mirsime, bus laisva visiems, kaip mums ir toliau atstovaujama.

Spalio pradžioje paskelbtame pranešime „OpenAI“ BBC sakė sukūrusi „keli apsaugos sluoksnį, kad būtų išvengta piktnaudžiavimo“.

Taip pat teigiama, kad „tiesioginis dialogas su visuomenės veikėjais ir turinio savininkais, siekiant surinkti atsiliepimus apie tai, kokių kontrolės priemonių jie nori“, kad tai atsispindėtų vėlesniuose pakeitimuose.