Internet în brațe în timp ce utilizatorul 4Chan folosește simulatorul de voce AI pentru a falsifica vocea Emma Watson, o face să citească autobiografia lui Hitler
Foștii angajați ai Google și Palantir au lansat împreună startup-ul Elevenlabs, care își propunea să creeze falsuri audio de înaltă calitate ale celebrităților prin instrumentul lor de clonare a vocii AI. Dar lansarea lor beta s-a inversat curând, mulți abuzând de vocile celebrităților, inclusiv Emma Watson, prin instrumentul de clonare a vocii AI.
Mulți fani au fost înfuriați de utilizarea lipsită de etică și imorală a instrumentului AI după ce unii troli au abuzat de vocile lor preferate de celebrități pentru a face comentarii scandaloase. Dar startup-ul i-a asigurat pe toți că își vor schimba modelul pentru a evita alte probleme.
Fanii s-au înfuriat după ce utilizatorul 4Chan a folosit greșit vocea Emma Watson prin instrumentul AI
Introducerea instrumentului de clonare a vocii AI de la Elevenlabs a dat foc internetului după ce numeroși troli au exploatat utilizarea acestui instrument gratuit. Deși mulți au folosit software-ul pentru a genera conținut sănătos, o parte a internetului a abuzat de instrument pentru a le face pe celebrități să arunce insulte rasiale și comentarii scandaloase și utilizarea abuzivă a a lui Emma Watson vocea a fost ultima picătură.
Recent. Placa de bază a raportat abuzul extrem al software-ului AI pentru a crea un sunet fals profund ofensator. Dar paharul care a rupt spatele cămilei a fost un utilizator 4Chan, care a generat un clip al Harry Potter vedeta Emma Watson citind lupta mea , autobiografia dictatorului nazist Adolf Hitler.
Fanii au fost înfuriați de această utilizare lipsită de etică a software-ului despre Emma Watson și alte celebrități renumite, inclusiv Joe Rogan, Robin Williams, etc. abuz de instrumentul lor de clonare a vocii.
Citește și: Regizorul „Prizonierul din Azkaban” i-a cerut trio-ului Harry Potter să scrie un eseu despre personajul lor – Emma Watson a scris 16 pagini, Daniel Radcliffe a avut un rezumat de 1 pagină, Rupert Grint nu a scris una
Elevenlabs promite că va evita abuzurile suplimentare ale instrumentului AI
Startup-ul a fost copleșit de răspunsul pozitiv la ei la început, deoarece mulți foloseau instrumentul de clonare a vocii AI pentru o creație sănătoasă. Dar compania s-a confruntat curând cu o problemă după ce trolii au început să exploateze software-ul în scopuri nefaste. Elevenlabs a asigurat internetul că analizează în profunzime chestiunea și află posibilele soluții.
Deși creatorii lui Elevenlabs au recunoscut că pot urmări până la utilizatorii care abuzează de puterea instrumentului AI, ei caută măsuri de siguranță suplimentare pentru a evita această problemă. Creatorii au împărtășit diferite idei pentru a rezolva problema, care include o introducere a verificării manuale pentru fiecare clonare și verificarea completă a ID-ului utilizatorului prin plată sau orice altă metodă.
Deși testarea beta a Startup-ului a avut un început mixt, cu mulți fani furioși pentru utilizarea neetică a vocilor celebrităților prin instrumentul AI, în special Emma Watson. Dar oamenii au recunoscut și startup-ul pentru că nu a îndepărtat situația și a luat măsuri active pentru a face față acestor troli de pe internet.
Sursă: Viciu
