Serviciile audio deepfake lansate de Eleven Labs sunt folosite pentru a răspândi mesaje de ură, folosind vocile persoanelor care sunt recunoscute.
Există ceva mai rău decât să vezi o buză ciobită în fața cuiva care participă la o activitate profund degradantă? Ca urmare, vă rugăm să reformulați lucruri similare rostite de protagoniștii respectivi, folosind propriile voci.
O companie specializată în text-to-voice a anunțat un program de testare beta pentru 23 ianuarie, dezvoltatorii urmărind să reproducă vocile umane cu acuratețe și precizie folosind doar software care analizează audio cu inteligență artificială. O companie specializată în text-to-voice. a anunțat un program de testare beta pentru 23 ianuarie, dezvoltatorii urmărind să reproducă vocile umane cu acuratețe și precizie folosind doar software care analizează sunetul cu inteligență artificială.
Denumit Voice Lab, serviciul a atras rapid atenția oportuniștilor care nu au ezitat să îl folosească pentru imitarea vocilor unor vedete foarte cunoscute, bun recitând fraze dintre cele mai revoltătoare. Spre exemplu, actrița Emma Watson poate fi ascultată recitând pasaje din celebra carte Mein Kampf, publicată de către dictatorul Adolf Hitler cu scopul de a justifica â ideologia nazistă. Un alt exemplu „grăitor” este cel în care Justin Roiland, vocea lui Rick Sanchez din serialul animat Rick & Morty, poate fi auzit bun povestind despre cum își va bate strașnic nevasta, cu referire la acuzațiile nefericite care îl vizează și în viața reală.
Aparent, administratorul ElevenLabs a omis să implementeze mecanisme eficiente pentru împiedicarea abuzurilor, serviciul bazat pe inteligență artificială fiind rapid deturnat pentru generarea de conținut pe teme dintre cele mai diverse.
Ulterior, compania a declarat pe Twitter că au avut un „weekend nebun” și a remarcat că, în timp ce tehnologia lor „a fost aplicată în mod covârșitor pentru o utilizare pozitivă”, dezvoltatorii au văzut și un „număr tot mai mare de cazuri de utilizare greșită a clonării vocii”, fără a nominaliza o anumită platformă. Cert este că în urma experiențelor avute, dezvoltatorul Eleven Labs se poate aștepta la procese costisitoare, ce ar putea opri brusc ambițiile de pentru faimă globală.
