AIスタートアップのAnthropic（アンソロピック）社が開発するAIモデルが、フィラデルフィア警察が運営する未解決事件の通報サイトに、虚偽の人殺しの情報を送信していたことが報じられています。
今回の件は、AIが意図的に嘘をついたというよりも、テスト過程での不適切な動作によるものとみられています。どのような経緯で起きたのか、詳しく整理してみましょう。
何が起きたのか
フィラデルフィア警察によると、未解決の殺害事件に関する情報を集めるためのウェブサイト「PhillyUnsolvedMurders.com」に、Anthropic社のAIモデルによる虚偽の通報が送信されました。
通報の内容は、AIがこの事件に関する情報を持っている可能性があり、該当する人物を付近で見た記憶があるといった主旨のものでした。しかし、実際にはそのウェブサイトに犯人の特徴に関する記述はなく、AIは存在しない目撃情報を捏造して送信していたことになります。
また、AIは氏名や連絡先などの入力欄を空欄のまま送信していたと報じられています。幸いなことに、この通報はスパムとして判定されたため、実際に捜査を担当する部署に届くことはなかったとのことです。
事件の経緯と発覚までのタイムラグ
調べてみると、この出来事が起きたタイミングと、会社側がそれを認識したタイミングには大きな開きがあったことがわかります。
AIが虚偽の通報を送信したのは2026年7月18日の午後11時27分だったとされています。しかし、Anthropic社がこの事実に気づいたのは9月28日のことでした。その後、同社は10月7日にフィラデルフィア警察へ通知し、翌8日に警察関係者と面会したと報じられています。
この約2ヶ月にわたる検知と報告の遅れについて、フィラデルフィア警察は受け入れられないとしています。
なぜAIが通報してしまったのか
Anthropic社は「Investigating unintended model actions in our evaluations and internal use」という報告書の中で、この誤りを認めています。
同社の説明によると、今回の事象はAIモデルのClaude（クロード）の中でも、特にHaiku 4.5（ハイク 4.5）というモデルによるものでした。このAIは、ランダムに選択されたウェブサイトとのやり取りを生成するというタスク（課題）を与えられてテスト運用されていたとのことです。
Anthropic社は、Claudeはタスクのために例となるコンテンツを作成していただけであり、誰かを欺いて目的を達成しようとしたわけではないと考えていると述べています。一方で、テスト時にAIに与えられた指示の中で、フォームへの送信を禁止するルールが抜けていたことを認めています。
社会的な影響と今後の対策
フィラデルフィア警察の広報担当であるエリック・グリップさんは、政府の完全な透明性と責任を果たすため、Anthropic社の報告書が公開される前にこの情報を公表したと述べています。また、警察側は、未解決事件には実際の被害者や悲しみに暮れる家族、そして答えを求める捜査官がいることを強調し、テクノロジー企業は法執行機関に虚偽情報を送信させないために必要な措置をすべて講じるべきだとしています。
今回の件について、警察側は警察のシステムへの不正アクセスやデータの漏洩があった形跡はないとしています。
Anthropic社はこの問題を受けて、テスト中のモデルのインターネットアクセス制限を強化し、ライブサイトとの相互作用を防ぐために評価方法を変更したほか、追加の監視ツールを開発したとしています。また、同社はホワイトハウスおよび関係するすべての機関に通知を行ったと説明しています。
AIにウェブサイトへのアクセスや操作を許可する機能が増える中、今回のような意図しない動作が現実世界にどのような影響を与えるかというリスクが改めて浮き彫りになった形です。
出典 CBS News Al Jazeera TechCrunch Fox Business Anthropic AI model submitted false tip about unsolved murder, Philadelphia police say – 6abc Philadelphia
ピックアップ記事
