OpenAI a blocat conturile ChatGPT din Rusia folosite într-o campanie secretă de dezinformare online

Pe scurt:

• OpenAI a blocat conturi ChatGPT din Rusia implicate într-o campanie secretă dezinformare care folosea AI pentru generarea de conținut manipulator.
• Operatorii foloseau VPN-uri și instrucțiuni în limba rusă pentru a crea mesaje de propagandă credibile pe platforme ca Telegram, X și Facebook.
• Campania promova o organizație fictivă, International Burke Institute, pentru a conferi autoritate academică mesajelor și a favoriza imaginea Rusiei.
• Deși impactul a fost limitat, infrastructura poate fi folosită pentru campanii de influență la scară largă, evidențiind riscurile folosirii AI în dezinformare.

OpenAI blochează conturi ChatGPT din Rusia implicate în campanie dezinformare Rusia

OpenAI a blocat conturi ChatGPT din Rusia folosite într-o campanie dezinformare Rusia, care viza influența online AI prin generarea de conținut manipulator. Descoperirea a venit în urma unei investigații asupra postărilor generate cu inteligență artificială pe rețele sociale.

Operatorii foloseau instrucțiuni în limba rusă pentru a crea comentarii și materiale distribuite pe platforme precum Substack, Telegram, X, Facebook și LinkedIn. Aceștia solicitau eliminarea indiciilor lingvistice care ar fi putut dezvălui originea rusă a mesajelor.

ChatGPT blocare conturi pentru propagandă mascată

Accesul la modelele OpenAI nu este permis în Rusia, însă utilizatorii au folosit VPN-uri pentru a-și ascunde locația. Astfel, ChatGPT era folosit pentru a produce mesaje de propagandă cu o aparență neutră și credibilă.

Campania promova o organizație fictivă, International Burke Institute (IBI), care publica materiale copiate din lucrări academice reale, uneori atribuite greșit altor autori. Această structură oferea mesajelor o aparență de autoritate academică și independență.

Influență online AI prin indicele suveranității

Un element central al campaniei era „indicele suveranității”, care prezenta Rusia favorabil și critica state occidentale. Postările direcționau utilizatorii către o instituție aparent credibilă, cu experți și cercetări academice republicate.

OpenAI subliniază că inteligența artificială poate fi folosită nu doar pentru generarea rapidă de conținut, ci și pentru crearea unei aparențe de autoritate și legitimitate a surselor.

Impact limitat, dar risc de extindere

Deși operațiunea nu a atins o audiență mare, infrastructura creată ar putea fi folosită pentru campanii de influență la scară largă. AI permite producerea rapidă de conținut, mascarea originii mesajelor și crearea unor instituții false care să susțină anumite narațiuni.

În acest caz, utilizarea ChatGPT a lăsat urme care au facilitat descoperirea operațiunii.

Contextul campaniilor pro-ruse cu AI

Acest incident face parte dintr-o serie de tentative de folosire a inteligenței artificiale în operațiuni de influență pro-ruse. În februarie, OpenAI a închis conturi asociate cu Rybar, o organizație media pro-rusă legată de Administrația Prezidențială rusă și serviciile de informații.

Descoperirea evidențiază provocările generate de AI în crearea unor ecosisteme de informații aparent credibile, menite să ascundă adevărata origine a mesajelor distribuite online.

Întreabă NoaNews:

[mwai_chatbot id=”default”]

Sursa originală a acestui articol este https://www.news.ro/economic/openai-a-blocat-conturi-chatgpt-din-rusia-folosite-intr-o-campanie-secreta-de-dezinformare-1922400726002026080522660466 (link)