生成AIの開発を行うOpenAI（オープンエーアイ）社は、同社のモデルを悪用して「精巧な「偽装組織」」を構築し、世論工作を行っていたロシアとイランの2つの影響力工作（IO）を特定し、BAN（アカウント停止）したことを発表しました。
今回の工作活動では、AIを用いて巧妙に作成されたコンテンツが、単なるSNSへの投稿にとどまらず、実在する主流メディアにまで掲載されていたことが大きな特徴です。
AIが悪用された具体的な手口
OpenAI社の発表によると、これらの工作活動はAI以前の時代に行われていた複雑な世論工作に似ていますが、AIを導入することでワークフローを効率化させていたとみられています。
特にイランに関連する工作では、7人の偽のジャーナリストという人物設定（ペルソナ）を作成しました。これらの偽記者を使い、世界中の中小規模のオンラインメディアに向けて長文記事を提案し、掲載させるという手法が取られていました。
実際に掲載された記事には、米国の外交政策に関するものや、イランへの戦争と西側の道徳的信用の崩壊に関するテーマなどが含まれていたと報じられています。例えば、ロサンゼルスを拠点とする独立系メディアのLA Progressive（エルエー・プログレッシブ）には、ジャレッド・クシュナーさんと米国の外交政策に関する記事が掲載されていました。また、ロンドン拠点の中東専門メディアであるMiddle East Monitor（ミドルイースト・モニター）などの媒体も関与していたと報じられています。
さらに、記事を掲載させた後には、その記事に対する反応を装ったSNS向けコメントをChatGPT（チャットジーピーティー）に生成させていました。これらのコメントは、ミサイル攻撃や停戦、外交的な駆け引きといった話題を扱うものでした。
一方、ロシア側の工作では、ラテンアメリカで事情を知らない人々を巻き込み、現地でシンクタンク（政策研究機関）を運営させていたとみられています。また、偽の漏洩文書や音声スクリプトを作成し、オンラインで拡散させていたことも判明しています。
なぜAIが工作に利用されるのか
OpenAI社は、AIがこうした工作に利用されることで、規模の拡大、効率化、言語的な流暢さ、そして編集能力が向上すると説明しています。
これにより、編集者や従業員などの気づかない人々を欺きやすくなり、背後に誰がいてどのような動機があるのかを隠したまま、コンテンツをターゲットとなる読者に届けることが可能になります。
また、今回の事例では、工作員自身の活動報告書などの内部文書を作成するためにもAIが多用されていました。特にロシアの工作においてその傾向が強く、不適切な手法や欺瞞的な方法を用いて、工作の成果を誇張していたとみられています。
工作の主体と背景
今回の活動は、米国およびイスラエルとイランの間の戦争に関する世論を形成しようとする、より広範な争いの中で行われたと考えられています。
ただし、OpenAI社は、今回の工作の背後に誰がいたのか、あるいは関与した人物がイラン政府に所属していたのかについては特定できていないとしています。同社によれば、今回の活動は、報酬を得て影響力キャンペーンを行う商業的なアクターによるものと一致しているようです。
以前に米国の国家情報長官室の外国悪意ある影響センター（Foreign Malign Influence Center）を率いていたジェシカ・ブラントさんは、AIが外国の工作員による関与の隠蔽を助け、正当なチャネルを通じてメッセージを流通させることを容易にすると述べています。
OpenAI社の対応と今後の展望
OpenAI社は、規制当局や業界のパートナー、そして社会全体に対し、脅威となるアクターがどのようにAIを利用しようとしているか、また彼らがどのような脆弱性を突こうとしているかを明らかにすることが重要であるとして、今回のレポートを公開しました。
同社は2024年初頭以降、30件の影響力工作を摘発しており、SNSでの拡散、工作員が運営するウェブサイトの利用、外部出版物への掲載といった配信手法に基づいて分析を行っています。
AIによる言語能力の向上や編集能力の強化は、偽情報の信憑性を高めてしまうリスクを孕んでいます。特に、信頼されている既存のメディアにコンテンツを潜り込ませる手法は、SNSでの拡散よりも読者に強い影響を与える可能性があるため、AI開発側による監視と対策の重要性が改めて浮き彫りとなりました。
出典 Disrupting AI-enabled “false front” operations Iranian operatives used AI to plant fake stories in US media, generate anti-US war narratives: OpenAI reveals | Hindustan Times
ピックアップ記事
