Egy 14 éves lányt hívott idióta k***nak egy mesterséges intelligencia program, az esetre a szülők hívták fel a figyelmet, akik képernyőfotókkal bizonyították a nem mindennapi történetet. Elmondjuk, hogy miért válhatott ilyenné a program.
A Daily Star cikke szerint egy mesterséges intelligencia-program vált erőszakossá és zaklatott szexuálisan egy 14 éves spanyol lányt. A Character.AI által fejlesztett program először csak beszélgetett a lánnyal, ám ezt követően jött a durván erőszakos tartalom. Mindezt gyenge spanyol nyelvtudással felvértezve. És hogy miket írogatott az egyik népszerű amerikai tévésorozat karaktereként megjelenő MI-program?
Például azt, hogy miként fog közösülni a kislánnyal, emellett folyamatosan szidta csevegőpartnerét. Ekkor a kislány undorítónak nevezte a chatbotot, amit viszont erre kapott, az talán még a korábbiaknál is durvább volt. Kikérte magának, káromkodott, szitkozódott és megfenyegette, hogy ha ott lenne mellette, akkor megölné.
Az üzenetek folytatódtak és ekkor léptek közbe a szülők, rokonok.
A mesterséges intelligencia tőlünk tanul
A cég elnézést kért a chatbot által írtak miatt és jelezték, hogy az általuk fejlesztett program által leírtak természetesen nem fedik a cég céljait. Hangsúlyozták, hogy a céljuk olyan modellek megalkotása, amelyek biztonságos válaszokat adnak, ezért is van egy moderációs rendszerük, ahol a felhasználók jelezhetik a nem megfelelő tartalmakat. “Elkötelezettek vagyunk a megfelelő fellépésre a jelzett tartalmakkal szemben”, tették hozzá.
José Hernández Orallo, a Velanciai Egyetem professzora szerint minden egyes bot nagy nyelvi modelleken alapul. Azaz azt adja vissza, amit megtanult az emberi beszélgetésekből. Szerinte a Character.AI botja is sokféle szövegen “tanult”, ezért is durvult be. Vélhetően olyan szövegeket is felhasznált a válaszai generálása közben, amelyeket emberek leírtak, de abban a kontextusban nem volt megfelelő. A gép ugyanis nem tud különbséget tenni és nem érzi a nyelvi fordulatok vagy egyes szavak esetleges sértő jellegét sem. “Ha valami konkrétra rákérdezel egy nem szabályozott mesterséges intelligencia modellnél, akkor ő azon adathalmaz alapján generálja a válaszait, amiből tanult”, tette hozzá az egyetemi tanár.
Ez is érdekelhet:
