04/01/2025
Ieri am avut „plăcerea” să văd un prototip de model IA care imită perfect vocea oricărei persoane și funcționează pe Whatsapp prin mesaje vocale. Este antrenat cu conținut audio al vocii unei persoane și învață relativ ușor cm să imite vocea, tonul, inflecțiunile și orice alte caracteristici unice ale unei persoane. Modelul, cel puțin în forma actuală, nu are nicio măsură de transparență. Adică, dacă vorbești pe Whatsapp cu un bot, poți poți crede că vorbești cu o persoană pe care o cunoști. Poți fi păcălit de acest model? Bineînțeles. Poți fi prejudiciat de acest bot? Da. Te poate convinge acest bot să îi trimiți bani sau date personale? Dacă nu ești atent sau ți se exploatează emoții (e.g., metoda accidentului), da.
Un astfel de instrument nu este rău în sine. Însă, un astfel de model va putea fi folosit în scopuri maligne, de exemplu pentru a manipula oamenii, pentru a-i înșela, pentru a exploata vulnerabilități sau pentru a le denatura comportamentul. Aceste acțiuni sunt interzise de art. 5 lit. a) și b) din Actul IA (Regulamentul 1689/2024). Prevederile intră în vigoare pe 1 februarie 2025, și începând cu august 2025, introducerea pe piață, punerea în funcțiune sau utilizarea unor astfel de sisteme manipulatoare pot conduce către amenzi administrative de până la 35 000 000 EUR sau, în cazul în care autorul infracțiunii este o întreprindere, de până la 7 % din cifra sa de afaceri mondială totală anuală pentru exercițiul financiar precedent (art. 99 alin. (3) AI Act). Atenție! Acest lucru nu înseamnă că sistemele IA care imită voci sunt interzise, ci că astfel de sisteme sunt interzise dacă sunt dezvoltate cu funcții pentru manipulare sau dacă sunt utilizate în astfel de scopuri. Nu bot care imită vocea, care este transparent și care imită voci, nu va fi interzis atât timp cât nu face rău nimănui.
Acest model poate fui uitilizat și în scopuri bune: dublaje în filme, asistenți vocali mai naturali, tehnologii pentru cei care și-au pierdut vocea, etc. Dar poate fi folosit și pentru a manipula, înșela, sustrage sume de bani și informații personale. Dacă un astfel de sistem ajunge pe mâinile cui nu trebuie, scenariile negative sunt infinite.
Se vorbește des despre etica în AI. Unii dezvoltatori nu vor să audă, iar programatorii devin inconfortabili. Totuși, aceasta nu este o discuție doar despre etică și legalitate. Nu este doar despre a face lucrurile corect și de a nu fi amendat, ci despre a nu distruge omenirea. Tot ieri mi-a apărut în feed, întâmplător, o pagină de Facebook plină de cu imagini și video-uri false. Chipurile unor femei reale erau suprapuse peste corpurile altora, în ipostaze provocatoare, pretinzând că își caută parteneri. Am analizat mai bine chipurile și am observat că ele erau preluate, cel mai probabil, din selfie-uri de pe internet. Nu era o acțiune izolată de defăimare, ci aceste materiale erau postate pe scară largă, pe mai multe pagini și grupuri de Facebook, prezentând sute de mii de femei și inserând link-uri către anumite site-uri pe care, din motive de securitate, nu le-am accesat. Cel mai probabil erau site-uri cu scopul de a sustrage informații personale sau bani. Am fost uimită să observ cât de mulți bărbați răspundeau provocărilor și nu distingeau că erau imagini false.
Pe măsură ce inteligența artificială se dezvoltă, oamenii își pierd creativitatea, atitudinea critică și voința. Intimidați de inteligența algoritmilor, mulți se resemnează și se refugiază în ceea ce îți mai poate oferi astăzi digitalul: „iluzia” unei comunități de oameni care „gândesc” ca tine. Orice om se frustrează, în felul lui, când află că este „tras în piept” și că oferă prea mult în schimbul întregii vieți. Adevărul este că am pierdut controlul asupra datelor personale. Nu le mai putem recupera. Modelele IA au fost deja antrenate cu datele noastre, iar ștergerea datelor din aceste sisteme este aproape imposibilă. Nu ni s-a cerut consimțământul. Utilizarea IA în scopuri benefice este rară. Modelele IA se hrănesc cu datele noastre și, poate, cândva, ne vor imita vocea sau ne vom găsi chipul într-un deepfake. Acestea sunt riscuri reale. GDPR ne oferă instrumente de control, precum ștergerea datelor, dar aceste instrumente nu sunt accesibile oricui. Oamenii din România abia dacă știu să scrie corect, darămite să înțeleagă semnificația cuvântul „drept”. Dar e important să facem pași mici și să nu forțăm lucrurile. Fiecare învață în ritmul lui. Toți evoluăm, chiar dacă nu cu viteza luminii. Legat de AI, e important să conștientizăm problema și să ne trezim. Cu toate acestea, trezirea e dificilă când algoritmii ne-au separat în bule și azi citești doar conținutul care „îți place”.
