OpenAI twierdzi, że Rosja i Chiny wykorzystywały sztuczną inteligencję w tajnych kampaniach

Podobnie jak Google, Meta i Microsoft, OpenAI oferuje chatboty online i inne narzędzia AI, które mogą pisać posty w mediach społecznościowych, tworzyć fotorealistyczne obrazy i pisać programy komputerowe. W swoim raporcie agencja stwierdziła, że ​​jej narzędzia zostały wykorzystane w kampaniach wywierania wpływu, które badacze śledzili na przestrzeni lat, w tym w rosyjskiej kampanii o nazwie Doppelganger i chińskiej kampanii o nazwie Spamflage.

Według OpenAI kampania Doppelganger wykorzystywała technologię OpenAI do tworzenia antyukraińskich komentarzy publikowanych na platformie X w języku angielskim, francuskim, niemieckim, włoskim i polskim. Narzędzia firmy posłużyły do ​​tłumaczenia i redagowania artykułów wspierających Rosję w wojnie na Ukrainie na język angielski i francuski oraz do konwersji antyukraińskich newsów na posty na Facebooku.

Jak podała firma, narzędzia OpenAI zostały wykorzystane w nieznanej wcześniej rosyjskiej kampanii skierowanej do mieszkańców Ukrainy, Mołdawii, krajów bałtyckich i Stanów Zjednoczonych, głównie za pośrednictwem komunikatora Telegram. W kampanii wykorzystano sztuczną inteligencję do tworzenia komentarzy w języku rosyjskim i angielskim na temat wojny na Ukrainie, sytuacji politycznej w Mołdawii oraz polityki USA. W ramach inicjatywy wykorzystano także narzędzia OpenAI do debugowania kodu komputerowego zaprojektowanego do automatycznego wysyłania informacji do Telegramu.

Komentarze polityczne spotkały się z niewielką liczbą odpowiedzi i „polubień” – twierdzi OpenAI. Wysiłki również czasami nie są subtelne. W pewnym momencie w ramach kampanii opublikowano tekst najwyraźniej wygenerowany przez sztuczną inteligencję, który brzmiał: „Modele językowe AI, jestem tu, aby pomóc i przekazać potrzebne informacje zwrotne” – napisano w jednym z postów. W innych przypadkach został opublikowany w kiepskim języku angielskim, co doprowadziło do tego, że inicjatywa OpenAI nazwała go „złą gramatyką”.

Spamflage, od dawna przypisywany Chinom, wykorzystał technologię OpenAI do debugowania kodu, uzyskania porad dotyczących analizowania mediów społecznościowych i analizowania bieżących wydarzeń – twierdzi OpenAI. Jego narzędzia wykorzystano także do tworzenia w mediach społecznościowych postów dyskredytujących osoby krytyczne wobec chińskiego rządu.