OpenAIは、ロシアやイランなどによる「AI生成の架空組織・架空人物を用いた影響工作」に利用されたアカウントを停止しました。これは、AI技術が悪用され、地政学的なメッセージを標的に送るプロパガンダ活動が活発化している現状に対応したものです。
OpenAIがアカウント停止に至った背景
脅威アクターによる影響工作は、単にAIツールを使うだけでなく、従来の手法や技術とAIを組み合わせて行われるのが特徴です。彼らは、架空の人物や組織を巧妙に生み出し、発信元を隠蔽しながら、地政学や紛争に関するメッセージを特定の標的に送出していました。
この活動の具体的な事例として、ロシアとイランの二つの工作が確認されています。
ロシアによる事例：「Dark Clark作戦」
ロシアによる工作活動は「Dark Clark(ダーク・クラーク)作戦」と呼ばれています。この名称は、脅威アクターがミア・クラークという架空の人物を介し、自称・調査プラットフォーム「社会調査センター(SRC)」を支配し、活動実績報告書を用いて自分たちの活動をあたかももっともらしく見せかけていたことに由来します。この作戦の標的はラテンアメリカ各国であり、ウクライナや現地指導者層を貶める偽情報が拡散されました。偽情報の一部は、ロシアで活動している民間軍事会社・ワグネルグループの後継とされるPolitologyやLa Companiaといった組織によるものだと指摘されています。
イランによる事例：「偽りの署名作戦」
イランの工作は「偽りの署名作戦」と呼ばれています。これは、脅威アクターが7つの異なる名義で生成した記事を売り込むという手口を用いていました。この作戦では、ペルシャ語でプロンプトを入力し、ペルシャ語と英語のコンテンツを生成していました。生成されたコンテンツは、SNSのコメント、長文記事、さらには編集者向けの売り込み文面となる内部報告書の推敲などに使われていました。その結果、工作に用いられた著者名義の記事が、世界各国の十数件のメディアで100本近く公開・転載されるという結果を招きました。
偽情報拡散の潜在的な到達範囲を分類
OpenAIは、偽情報がどのように拡散したかを6つのカテゴリーに分類し、その深刻度を評価しています。
この分類は、単なる拡散の規模だけでなく、情報がどのレベルにまで到達したかという観点を含んでいます。
- カテゴリー1・2: 単一のプラットフォーム内での拡散が主であり、爆発的に拡散したかどうかで区別されます。
- カテゴリー3・4: 複数のプラットフォームにわたる拡散が確認され、爆発的な拡散の度合いで区別されます。
- カテゴリー5: 影響が政治家や著名人といった、より高い層にまで及んだケースを指します。
- カテゴリー6: 意思決定に影響を与えるレベルの拡散を指します。
OpenAIは、2024年初頭以降に摘発した30件の影響工作の事例を、主な拡散手段（SNS、ウェブサイト、外部出版物）と、上記の拡散尺度（カテゴリ1～6）で分類し、公開しています。
この分類から、偽情報がSNSの偽アカウントだけで拡散させるのには限界がある一方、何らかの方法で偽情報を外部のメディアに潜り込ませることができれば、その潜在的な到達範囲が広がる傾向が確認されています。
考察
※ここからは、上記の公開情報をもとにした筆者による考察です。
今回のOpenAIによるアカウント停止と、詳細な影響工作の分類は、AI技術がもはや単なるコンテンツ生成ツールではなく、高度な情報操作のためのインフラとして利用されている現実を浮き彫りにしています。
特に注目すべきは、偽情報が単なるSNSのコメント欄に留まらず、外部の信頼性の高いメディアの記事として「署名」を偽装して掲載されるという点です。これは、情報操作の目的が「注目を集めること」から「権威付けを行い、人々の意思決定プロセスに影響を与えること」へと高度化していることを示唆しています。
まとめ
OpenAIは、ロシアやイランなどによるAI生成の架空人物を用いた影響工作アカウントを停止し、その活動様式を詳細に分類・公開しました。脅威アクターは、AI技術を駆使し、架空の人物や組織を創出し、偽情報を多層的な経路（SNSから外部メディアまで）を通じて拡散させています。この事実は、AIプラットフォーム側が、単なる技術的なガバナンスだけでなく、地政学的な影響工作という観点から、より厳格な監視と対策を講じる必要性を示しています。
出典
元記事: https://gigazine.net/news/20261009-openai-disrupted-russian-operation-dark-clark/（GIGAZINE）
この記事は上記の公開情報をもとに、内容を整理して作成しています。
