O videoconferință de 25 de milioane de dolari

În 2024, un angajat al companiei de inginerie Arup din Hong Kong a participat la o videoconferință în care păreau să fie prezenți directorul financiar și mai mulți colegi. I s-a cerut să efectueze o serie de transferuri. Le-a făcut: aproximativ 200 de milioane de dolari Hong Kong, echivalentul a circa 25 de milioane de dolari americani.

Persoanele care apăreau în apel erau, în realitate, reprezentări artificiale – deepfake.

Atacatorii nu au avut nevoie să compromită conturile celor impersonați. Au reprodus suficient de credibil imaginea și vocea unor persoane cu autoritate în organizație. Angajatul a considerat interacțiunea autentică și a efectuat transferurile. Incidentul a fost confirmat de companie și documentat de South China Morning Post.

Cazul spune multe despre vulnerabilitățile identității digitale.

Timp de decenii, securitatea identității a însemnat în principal protejarea datelor, parolelor și mecanismelor de autentificare. AI adaugă acum o problemă mai dificilă: capacitatea de a reproduce identitatea unei persoane, de a-i utiliza credibilitatea și, tot mai frecvent, de a acționa în numele ei.

Este important ”Cine poate avea acces la identitatea mea”? Da, dar începe să conteze la fel de mult cine mă poate reprezenta, ce autoritate îi pot delega și cine poate acționa în numele meu.

Aici cred că se află una dintre schimbările importante pe care AI le aduce securității identității: relația dintre identitate, autentificare și autorizare devine tot mai greu de separat de problema delegării.

Riscul

AI nu domină (încă) statisticile incidentelor cibernetice.

Raportul ENISA Threat Landscape 2026, bazat pe incidentele observate în cursul anului 2025, arată că atacurile DDoS cu impact redus au reprezentat aproximativ 51% dintre cazurile înregistrate. AI este prezentată mai degrabă ca factor de amplificare a unor amenințări existente decît ca origine a unei categorii complet noi de atacuri.

O parte dintre cele mai importante riscuri asociate AI provin tocmai din transformarea unor metode pe care le cunoaștem deja. Frauda, impersonarea și ingineria socială pot deveni mai accesibile, mai ușor de automatizat și mai greu de identificat.

În cazul identității digitale, cred că sînt cel puțin cinci dimensiuni în care se pot manifesta consecințele.

1. Dimensiunea economică

Identitatea digitală este mecanismul prin care accesăm resurse financiare, aprobăm tranzacții, semnăm contracte și exercităm drepturi patrimoniale.

Cazul Arup arată cît de vulnerabile pot deveni procesele de autorizare atunci cînd identitatea și autoritatea unei persoane sînt reproduse convingător. Nu a fost necesară compromiterea credențialelor persoanelor imitate. A fost suficientă crearea unei aparențe de legitimitate.

Problema va deveni mai complexă odată cu extinderea utilizării agenților AI care pot efectua operațiuni economice în numele utilizatorilor.

Să presupunem că un astfel de agent primește acces la un cont și autorizația de a executa anumite tranzacții. Dacă efectuează o plată care respectă limitele tehnice stabilite, dar nu corespunde intenției utilizatorului, simpla autentificare corectă nu rezolvă problema responsabilității.

Trebuie să putem distinge între identitatea titularului, sistemul care execută operațiunea și autoritatea efectiv delegată.

Într-o economie în care deciziile vor fi executate tot mai frecvent de sisteme autonome, securitatea identității devine inseparabilă de securitatea autorizării.

2. Dimensiunea biometrică

Ne deblocăm telefonul prin recunoaștere facială și ne confirmăm identitatea la bancă folosind un selfie video.

Biometria oferă avantaje reale. În același timp, caracteristicile pe care le utilizează au o particularitate importantă: multe sînt observabile și pot fi colectate din surse publice. Chipul și vocea unei persoane apar în fotografii, videoclipuri sau înregistrări. Aceste informații pot fi utilizate pentru construirea unor reprezentări sintetice.

Ghidul NIST SP 800-63A-4 – Digital Identity Guidelines: Identity Proofing and Enrollment tratează distinct două categorii de atacuri.

• Un atac de prezentare presupune utilizarea unui obiect sau material falsificat în fața senzorului biometric. Poate fi vorba despre o fotografie, o mască ori un alt mijloc de imitare.
• Un atac de injectare digitală presupune introducerea unor date manipulate direct în fluxul tehnic de verificare, fără ca acestea să provină în mod autentic de la senzor.

Diferența este importantă, deoarece măsurile de protecție nu sînt identice. Un sistem care verifică prezența unei persoane reale în fața camerei poate rămîne vulnerabil dacă fluxul video este înlocuit înainte să ajungă la mecanismul de verificare.

Mai există o dificultate. Parolele compromise pot fi schimbate. Caracteristicile biometrice, în general, nu.

O reprezentare sintetică a unei persoane poate fi reutilizată atît timp cît sistemele de verificare rămîn vulnerabile la acel tip de falsificare. De aceea, biometria nu ar trebui să constituie singura dovadă a identității. Ea trebuie integrată în arhitecturi care verifică autenticitatea întregului proces, nu doar asemănarea dintre o imagine și un model biometric.

3. Dimensiunea reputațională

Un videoclip fals îmi poate atribui declarații pe care, deși corecte, nu le-am făcut. O înregistrare audio sintetică poate compromite credibilitatea unui manager, a unui profesor, a unui funcționar sau a unui reprezentant instituțional. Există un efect și mai subtil.

Robert Chesney și Danielle Citron l-au descris în 2019, în studiul Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security, prin conceptul de liar’s dividend.

Pe măsură ce falsificarea conținutului devine tot mai credibilă, crește și posibilitatea contestării unor dovezi autentice prin simpla afirmație că acestea ar fi fost generate artificial. O persoană confruntată cu o înregistrare reală poate încerca să o discrediteze invocînd existența tehnologiilor deepfake. Problema nu privește, prin urmare, doar producerea falsului, ci și deteriorarea încrederii în materialele autentice.

Uniunea Europeană a răspuns acestor riscuri prin Regulamentul privind inteligența artificială – AI Act (UE 2024/1689). Articolul 50 introduce obligații de transparență pentru anumite categorii de conținut generat sau manipulat artificial, inclusiv deepfake-uri. Obligațiile au devenit aplicabile la 2 august 2026. Regulamentul (UE) 2026/1744 prevede o perioadă tranzitorie, pînă la 2 decembrie 2026, pentru conformarea anumitor furnizori existenți la obligațiile de marcare prevăzute la articolul 50 alineatul (2).

Identificarea unui fals nu garantează recuperarea credibilității unei persoane. Un material poate produce prejudicii înainte ca autenticitatea sa să fie clarificată. În plus, marcarea conținutului sintetic nu rezolvă singură problema atribuirii unor declarații sau acțiuni.

Protejarea reputației digitale va depinde tot mai mult de mecanismele prin care putem demonstra proveniența și integritatea informațiilor.

4. Dimensiunea comportamentală

Identitatea noastră digitală nu este alcătuită numai din informațiile pe care alegem să le publicăm.

Lăsăm în urmă date despre felul în care comunicăm, preferințele noastre, relațiile profesionale, obiceiurile de consum și momentele în care sîntem activi online. Corelate și analizate, aceste informații contribuie la construirea unor profiluri individuale detaliate.

GDPR definește profilarea ca o formă de prelucrare automatizată a datelor personale utilizată pentru evaluarea anumitor aspecte referitoare la o persoană. AI extinde posibilitățile de analiză și utilizare a acestor profiluri.

Să luăm un exemplu.

Un atacator obține cîteva zeci de mesaje profesionale trimise de un coleg și utilizează un model AI pentru a-i reproduce stilul de comunicare. Mesajul fraudulos rezultat poate include expresiile, formulele de adresare și referințele familiare destinatarului. Credibilitatea atacului nu depinde neapărat de complexitatea lui tehnică. Familiaritatea limbajului poate fi suficientă pentru a reduce suspiciunea.

Imitarea stilului cuiva nu înseamnă imitarea persoanei. Pentru o fraudă însă nici nu e nevoie de mai mult.

Problema protecției datelor rămîne importantă și într-un alt sens. Anul acesta EDPB (European Data Protection Board) a publicat pentru consultare proiectul Guidelines 03/2026 on web scraping in the context of generative AI. Documentul analizează implicațiile colectării automate a datelor personale de pe internet pentru dezvoltarea sistemelor de AI generativă, inclusiv riscurile memorării și reproducerii unor informații personale.

Controlul asupra identității digitale presupune, prin urmare, și capacitatea de a limita utilizarea nejustificată a datelor din care pot fi construite reprezentări despre noi.

Cu siguranță nu putem controla toate concluziile pe care alții le formulează pe baza comportamentului nostru. Putem solicita reguli clare privind colectarea, prelucrarea și utilizarea datelor personale.

5. Dimensiunea autonomiei

Aceasta mi se pare dimensiunea cu cele mai importante implicații pentru viitor.

Agenții AI nu se mai limitează la formularea unor răspunsuri. Pot naviga între aplicații, compara oferte, gestiona informații, transmite mesaje și executa operațiuni în limitele accesului acordat. O parte dintre aceste sisteme utilizează conturile și credențialele persoanelor pe care le asistă. Iar aici apare o vulnerabilitate distinctă.

În analiza Back to the Future: Why Agentic AI Needs a Strong Identity Foundation, publicată pe blogul NIST în vara aceasta, este discutat riscul utilizării credențialelor personale de către agenții AI. Atunci cînd agentul și utilizatorul operează prin aceeași identitate tehnică, devine mai dificil să stabilim cine a executat o operațiune și în baza cărei autorizații. Autorii atrag atenția asupra necesității unor mecanisme de identificare și autorizare adaptate agenților autonomi.

Luna trecută NIST a publicat Design Tenets for Agent Identity Management Systems, unde sînt prezentate zece principii de proiectare pentru administrarea identității agenților AI, între care separarea identităților, delegarea controlată, limitarea accesului și trasabilitatea acțiunilor.

Aceste materiale nu sînt standarde, ci orientări de proiectare dar indică o problemă pe care o vom întîlni tot mai des.

Imaginează-ți că autorizezi un agent AI să cumpere bilete de avion pentru o deplasare, cu un buget maxim de 500 de euro. Agentul găsește un bilet de 480 de euro și îl cumpără. Nu a depășit bugetul. Nu a încălcat limitele tehnice ale autorizării. Dar biletul este pentru o dată pe care nu ai fi ales-o, deoarece presupune anularea unei întâlniri importante. Operațiunea a fost executată conform unor reguli, însă rezultatul nu corespunde intenției tale. Cine răspunde pentru consecințe? Cum poate fi demonstrată intenția inițială? Ce nivel de autonomie i-a fost acordat agentului și cît de simplu poate fi retrasă autorizația?

Răspunsurile nu țin exclusiv de securitatea accesului. Ele privesc relația dintre identitate, consimțămînt, delegare și responsabilitate.

Trebuie să putem distinge între persoana care deține drepturile, identitatea digitală prin care aceasta este autentificată și identitatea operațională a agentului care execută acțiuni în numele său.

Tot anul acesta National Cybersecurity Center of Excellence, din cadrul NIST, a publicat documentul conceptual Accelerating the Adoption of Software and Artificial Intelligence Agent Identity and Authorization. Documentul a lansat o consultare privind aplicarea standardelor și bunelor practici de identitate și autorizare la agenții software și AI. Apoi în septembrie, NIST a publicat un rezumat al comentariilor primite, indicînd ciclul de dezvoltare software drept primul domeniu de implementare vizat.

Aceste inițiative tratează în principal probleme tehnologice și organizaționale. Eu mă gîndesc la nevoiea de a le extinde asupra autonomiei individuale și a drepturilor. Cu cît autonomia operațională crește, cu atît devine mai importantă capacitatea de a stabili și verifica limitele autorității delegate.

Extinderea lor asupra autonomiei individuale și a drepturilor fundamentale este interpretarea pe care o propun.

Cu cît autonomia operațională crește, cu atât devine mai importantă capacitatea de a stabili și verifica limitele autorității delegate.

Ce a (mai) adus nou AI?

Dreptul individului de a controla informațiile despre sine nu este un concept nou.

În 1983, Curtea Constituțională Federală a Germaniei a consacrat, în contextul recensămîntului populației, principiul autodeterminării informaționale. Hotărîrea din 15 decembrie 1983 (BVerfGE 65, 1) constituie unul dintre reperele fundamentale ale dezvoltării protecției moderne a datelor personale. Ulterior, conceptul de self-sovereign identity, sistematizat de Christopher Allen în 2016 în The Path to Self-Sovereign Identity, a promovat arhitecturi în care utilizatorii exercită un control mai mare asupra identităților și credențialelor digitale.

Regulamentul european eIDAS 2 (UE 2024/1183) continuă această direcție prin dezvoltarea cadrului european pentru identitatea digitală. Portofelul european de identitate digitală urmărește să ofere utilizatorilor posibilitatea identificării electronice și a prezentării controlate a atributelor digitale într-un cadru interoperabil la nivelul Uniunii Europene.

Aceste mecanisme sînt importante și reprezintă punctul de plecare al discuției. Ele abordează predominant probleme legate de identificare, autentificare, administrarea atributelor și controlul asupra utilizării credențialelor.

Primele semnale că statele încep să trateze și problema delegării există deja. În iunie 2026, guvernul Estoniei a susținut propunerea consiliului consultativ Eesti.ai de a atribui agenților AI identități digitale proprii, distincte de cele ale persoanelor sau organizațiilor pe care le reprezintă. Utilizatorul ar putea stabili dacă agentul doar consultă date, pregătește un document, inițiază o plată sau acționează în limita unui anumit plafon financiar. Premierul Kristen Michal a rezumat miza: trebuie să fie clar cine acționează, în numele cui, cu ce drepturi și cine răspunde.

Propunerea se află însă într-un stadiu incipient și nu clarifică încă modul în care se stabilește răspunderea atunci cînd un agent autorizat produce un prejudiciu. Iar abordarea rămîne una administrativă și tehnică: delegarea este tratată ca problemă de infrastructură a statului digital, nu ca expresie a unui drept al persoanei asupra propriei identități.

Delegarea digitală a autorității exista, desigur, și înainte de apariția AI generative. Diferența este dată de gradul de autonomie operațională.

Un agent AI poate interpreta un obiectiv, alege între mai multe opțiuni și executa o succesiune de acțiuni fără aprobarea explicită a fiecărui pas. Această evoluție complică relația dintre ceea ce utilizatorul a autorizat, ceea ce agentul a înțeles și ceea ce a executat efectiv.

Aici văd necesitatea extinderii discuției despre suveranitatea identității digitale.

Prin acest concept înțeleg dreptul și capacitatea efectivă a unei persoane de a controla modul în care identitatea sa este utilizată, reprezentată și asociată cu autoritatea delegată unor sisteme digitale, inclusiv agenților AI.

În practică, delegarea către un agent ar trebui să respecte cîteva condiții:

• Să fie explicită. Utilizatorul trebuie să înțeleagă ce operațiuni autorizează.
• Să fie limitată. Drepturile agentului trebuie restrînse în funcție de scop, resurse și durată.
• Să fie verificabilă. Acțiunile trebuie să poată fi asociate cu agentul care le-a executat și cu autorizația acordată.
• Să fie revocabilă. Utilizatorul trebuie să poată retrage autoritatea delegată, iar revocarea să împiedice operațiunile viitoare neautorizate.

Nu susțin că fiecare dintre aceste principii necesită adoptarea unui drept fundamental nou. O parte sînt deja reflectate în concepte juridice și mecanisme tehnice existente. Întrebarea care mă frămîntă este dacă actualul cadru de protecție oferă garanții suficiente atunci cînd sistemele artificiale dobîndesc o autonomie operațională tot mai mare.

O problemă de securitate, dar și de libertate individuală

În economia industrială, protejarea proprietății a reprezentat una dintre preocupările centrale ale securității individuale. Economia informațională a adăugat protecția datelor și controlul accesului la resurse digitale. Inteligența artificială aduce în prim-plan o altă problemă:

controlul asupra reprezentării persoanei și asupra acțiunilor executate în numele său.

Cele cinci dimensiuni se leagă între ele: frauda economică poate porni de la impersonarea biometrică; compromiterea reputației poate fi facilitată de reproducerea comportamentului; Iar un agent AI care dispune de autorizații excesive poate produce consecințe economice și juridice fără ca utilizatorul să fi anticipat acțiunile sale.

Din acest motiv, protecția identității digitale nu mai poate fi tratată exclusiv ca problemă de securitate cibernetică. Ea privește și încrederea instituțională, exercitarea drepturilor, responsabilitatea juridică și autonomia persoanei.

Nu știu cît de repede vor evolua capacitățile agenților AI sau ce nivel de autonomie vor dobîndi. Avem însă suficiente indicii pentru a considera că mecanismele de identificare și autorizare trebuie adaptate acestei evoluții.

A proteja identitatea digitală înseamnă tot mai mult a păstra controlul asupra celor care ne pot reprezenta și asupra autorității pe care le-o acordăm. Dar sînt suficiente drepturile și mecanismele actuale sau dezvoltarea AI justifică recunoașterea explicită a suveranității asupra propriei identități digitale ca drept fundamental?

Cred că subiectul trebuie discutat înainte ca delegarea deciziilor către agenți AI să devină o practică obișnuită, iar limitele responsabilității să fie stabilite abia după apariția incidentelor.