Wie Google, Meta und Microsoft bietet OpenAI Online-Chatbots und andere KI-Tools an, die Social-Media-Beiträge schreiben, fotorealistische Bilder erstellen und Computerprogramme schreiben können. Das Unternehmen sagte in seinem Bericht, dass seine Tools in Einflusskampagnen eingesetzt wurden, die Forscher seit Jahren verfolgen, darunter eine russische Kampagne namens Doppelganger und eine chinesische Kampagne namens Spamouflage.
Die Doppelgänger-Kampagne nutzte die OpenAI-Technologie, um antiukrainische Kommentare abzugeben, die auf X auf Englisch, Französisch, Deutsch, Italienisch und Polnisch gepostet wurden, sagte OpenAI. Die Tools des Unternehmens wurden auch verwendet, um Artikel, die Russland im Krieg in der Ukraine unterstützten, ins Englische und Französische zu übersetzen und zu bearbeiten sowie anti-ukrainische Nachrichtenartikel in Facebook-Posts umzuwandeln.
Das Unternehmen sagte, die Tools von OpenAI seien auch in einer bisher unbekannten russischen Kampagne eingesetzt worden, die sich hauptsächlich über den Nachrichtendienst Telegram an Menschen in der Ukraine, Moldawien, dem Baltikum und den Vereinigten Staaten richtete. Die Kampagne nutzte künstliche Intelligenz, um Kommentare auf Russisch und Englisch zum Krieg in der Ukraine sowie zur politischen Lage in Moldawien und zur US-Politik zu generieren. Bei diesen Bemühungen wurden auch OpenAI-Tools zum Debuggen von Computercode verwendet, der offenbar darauf ausgelegt war, Informationen automatisch an Telegram zu senden.
OpenAI sagte, die politischen Kommentare hätten nur wenige Reaktionen und „Gefällt mir“-Angaben erhalten. Die Bemühungen waren manchmal auch unkompliziert. An einer Stelle veröffentlichte die Kampagne einen Text, der eindeutig KI-generiert war, und in einem Beitrag hieß es: „Als KI-Sprachmodell bin ich hier, um zu helfen und das gewünschte Feedback zu geben.“ An anderen Stellen posteten sie in schlechtem Englisch, was OpenAI dazu veranlasste, die Bemühungen als „schlechte Grammatik“ zu bezeichnen.
Spamoflage, das seit langem China zugeschrieben wird, nutzte die Technologie von OpenAI, um Software zu debuggen und Rat einzuholen, wie man soziale Medien analysiert und aktuelle Ereignisse recherchiert, sagte OpenAI. Seine Tools wurden auch verwendet, um Social-Media-Beiträge zu erstellen, in denen Personen verunglimpft wurden, die die chinesische Regierung kritisierten.