OpenAI a publicat, joi, primul său raport despre modul în care instrumentele sale de inteligență artificială sunt folosite pentru operațiuni de influență sub acoperire, scrie The Guardian. Raportul arată cum compania a zădărnicit campaniile de dezinformare provenite din Rusia, China, Israel și Iran.

Atacatorii au folosit modelele generative de inteligență artificială ale companiei pentru a crea și a publica conținut de propagandă pe platformele de social media, precum și pentru a-și traduce conținutul în diferite limbi. Potrivit raportului, niciuna dintre campanii nu a câștigat popularitate și nici nu a ajuns la un public larg.

Dezvoltarea rapidă a domeniului inteligenței artificiale generative a condus la o preocupare larg răspândită în rândul cercetătorilor și factorilor de decizie politică cu privire la potențialul său de a crește cantitatea și calitatea dezinformării online. Companiile de inteligență artificială, cum ar fi OpenAI, care face ChatGPT, au încercat să atenueze preocupările și să pună limite tehnologiei lor.

OpenAI a susţinut că cercetătorii săi au găsit şi interzis conturi asociate cu cinci operaţiuni de influenţă sub acoperire în ultimele trei luni, care proveneau de la un amestec de actori statali şi privaţi.

Cum erau folosite instrumentele OpenAI

În Rusia, două operaţiuni au creat şi răspândit conţinuturi care criticau SUA, Ucraina şi mai multe ţări baltice. Una dintre operaţiuni a folosit un model OpenAI pentru a depana codul şi a crea un robot care a postat pe Telegram.

Actorii iranieni au generat articole care atacau SUA şi Israelul, conţinutul acestora fiind tradus în engleză şi franceză, menţionează sursa citată.

Potrivit The Guardian, raportul arată că inteligenţa artificială nu a fost singurul instrument folosit în campaniile de dezinformare. ,,Materialul generat de AI a fost doar unul dintre multele tipuri de conţinut postate, alături de formate mai tradiţionale, cum ar fi texte scrise manual sau meme-uri copiate de pe internet”, se menţionează în raport.

În ultimul an, inteligenţa artificială a început să fie mai des utilizată pentru a influenţa politica şi opinia publică. Deepfake audio, imagini generate de AI şi campanii bazate pe text au fost toate folosite pentru a perturba campaniile electorale.

Câțiva distribuitori de dezinformare interziși de OpenAI pe platforma sa sunt deja cunoscuți deopotrivă experților și forțelor de ordine. În martie, Departamentul Trezoreriei SUA a sancționat doi ruși care se presupune că erau în spatele uneia dintre campaniile descoperite de OpenAI, iar Meta l-a interzis pe Stoic de pe platforma sa anul acesta pentru încălcări ale politicii.

Raportul subliniază că AI generativă este folosită în campaniile de dezinformare ca mijloc de îmbunătățire a anumitor aspecte ale creării de conținut, cum ar fi crearea de mesaje mai persuasive într-o limbă străină, dar nu este singurul instrument de propagandă.

„Toate aceste operațiuni au folosit inteligența artificială într-o oarecare măsură, dar niciuna nu a folosit-o exclusiv. În schimb, conținutul generat de inteligență artificială a fost doar unul dintre multele tipuri de conținut pe care le-au publicat, alături de formate mai tradiționale, cum ar fi textul scris de mână sau meme-urile copiate de pe Internet”, se arată în raport.

OpenAI a declarat că intenționează să publice în mod regulat rapoarte similare privind operațiunile de influență sub acoperire și să elimine conturile care încalcă politicile sale.