Americká spoločnosť OpenAI vo štvrtok oznámila, že zmarila dve vplyvové operácie pochádzajúce z Ruska a Iránu. Účty z týchto krajín údajne využívali ChatGPT na podporu fiktívnych novinárskych osobností aj na prevádzkovanie podvodného think-tanku, ktorý šíril protiukrajinskú propagandu.
„Tieto subjekty využili na to, aby do svojich cieľových skupín vnášali geopolitické posolstvá súvisiace s konfliktmi,“ uviedla OpenAI vo svojom blogu o operáciách, ktoré využívali falošné krytie. Účty vytvorené v Rusku používali ChatGPT na rôzne úlohy a zameriavali sa na krajiny Latinskej Ameriky. Podľa OpenAI bolo cieľom veľkej časti ich aktivít zrejme poškodiť povesť Ukrajiny. Údajne sa pokúšali ovplyvniť aj politické dianie v Argentíne a Bolívii.
Ruská operácia „prispela k napätiu vo vzťahoch medzi Ukrajinou a Poľskom“ a zapojila nič netušiacich ľudí do činnosti takzvaného Centra sociálneho výskumu (SRC). Fiktívny think-tank najímal zamestnancov v Latinskej Amerike a podvádzal regionálne inštitúcie. „Dostupné dôkazy naznačujú, že zamestnanci SRC v Latinskej Amerike si neboli vedomí toho, že pracujú pre ruskú skupinu,“ uviedla OpenAI. Dodala, že SRC je výsledkom „najkomplexnejšieho pokusu o prevádzkovanie krycej identity“, aký za posledné dva a pol roka odhalila.
Iránska operácia zahŕňala sedem profilov údajných novinárov. Každý sa vydával za osobu zo západnej krajiny vrátane Spojených štátov a profily slúžili na šírenie dlhých článkov v médiách po celom svete. OpenAI identifikovala takmer 100 textov uverejnených alebo distribuovaných v približne tucte malých až stredne veľkých internetových médií, ktoré sa všeobecne venovali medzinárodnému dianiu, geopolitike a udalostiam na Blízkom východe.
Jednou z fiktívnych osobností bol Ervin B. Hoskins. Mal účty na sieťach X a Instagram a uvádzal o sebe, že je „americkým nezávislým spisovateľom“. Podľa informácií z X účet vznikol v západnej Ázii. Údaje Instagramu naznačovali, že tamojší účet sídlil v Iráne. Oba účty už boli zrejme pozastavené.
Ruská aj iránska operácia vo veľkej miere využívali umelú inteligenciu na prípravu interných správ a podľa OpenAI boli nezvyčajné aj svojím potenciálnym dosahom. Ich obsah sa totiž dostal nielen na sociálne siete, ale aj do tradičných médií.
„Umelá inteligencia môže takýmto operáciám pod falošným krytím poskytnúť väčší rozsah, efektívnosť, jazykovú plynulosť a redakčné schopnosti. Tieto výhody môžu prevádzkovatelia využiť na zneužitie nič netušiacich obetí, ako sú zamestnanci alebo redaktori, a umiestniť svoj obsah pre publikum, ktoré nemá ani tušenie, kto za ním stojí, ani aké boli jeho motívy,“ upozornila OpenAI.