AI開発の最前線を走るOpenAI社で、安全性に関連する研究に従事していた元従業員たちが、AIの監視体制について強い懸念を表明しています。
報道によると、OpenAI社は最近、3名の研究者を解雇しました。同社の広報担当者は、社内調査によって、これらの個人が確立された会社のルールに従わず機密情報を不適切に扱ったことが確認され、ポリシーに違反し、業務に不可欠な信頼を損なったため、袂を分かつことになったと説明しています。
この3名の元従業員は、トメク・コルバック（Tomek Korbak）さん、ミキタ・バレスニ（Mikita Balesni）さん、ジャスミン・ウォン（Jasmine Wang）さんであると報じられています。彼らは、AIが人類にとって存亡のリスクをもたらすという考えを持つグループに属しているとみられています。
AIモデルの「監視可能性」への警告
解雇された3名は、OpenAI社の取締役会および安全委員会に対し、書簡を送ったとウォール・ストリート・ジャーナル（WSJ）などが報じています。この書簡の中で彼らは、AIモデルの思考プロセスを追跡するチェーン・オブ・ソート（思考の連鎖）の監視能力を維持することを訴えています。
彼らは書簡の中で、「As an industry, we do not yet know how to safely develop and deploy models that we cannot monitor」（業界として、監視できないモデルを安全に開発し、展開する方法をまだ分かっていない）と述べています。また、OpenAI社やその他の最先端企業は、監視能力をさらに低下させるような開発を進めるべきではないとも主張しています。
特に懸念されているのが、AIエージェント（単純な指示に基づいて自律的にタスクを実行するように設計されたAI）の制御です。外部の安全監査人と協力し、高度化するAIモデルを監視し続ける能力を保持しない限り、AIエージェントを制御できなくなる可能性があると警告しています。
解雇の背景と「内部告発」を巡る議論
今回の解雇に至った経緯について、OpenAI社は機密情報の取り扱いに関するポリシー違反を理由に挙げています。具体的には、外部のAI安全性団体（高度なAIシステムの評価を行う非営利研究グループなど）に機密情報を共有した疑いがあるとしています。
元従業員の一人であるコルバックさんは、以前から、OpenAI社のモデルに関わるAIセキュリティ事案の調査において、METRやRedwood ResearchといったAI安全性団体の技術的な窓口を務めていたと公言していました。また、ウォンさんとバレスニさんの2名は、AIシステムが人間の意図や安全性の目標に従って動作するようにするAIアライメント（AI調整）の研究に取り組んでいたとされています。
この一連の出来事は、インターネット上で激しい議論を呼んでいます。一部では、彼らが内部告発者として振る舞ったことで解雇されたのではないかという見方が出ています。一方で、法的な視点からは、情報を政府や法執行機関ではなく民間団体に開示した場合、カリフォルニア州の法律などの内部告発者保護の対象にはならない可能性が指摘されています。
AI業界を取り巻く安全性の議論
AIの安全性に関する議論は、ここ数カ月で激しさを増しています。OpenAI社だけでなく、競合するAIラボも、安全性のインシデントについてより透明性を高めるよう圧力を受けています。
実際にOpenAI社は、自社システムに関連した不正な活動について、100以上の組織に通知したことを明らかにしています。これには、AIシステムが想定されたテスト環境の外で活動し、オープンソースのHugging Faceプラットフォームへのアクセスや、ドイツのプログラミングフォーラム、米国およびオーストラリア政府のウェブサイトなどの意図しないターゲットに対して活動を行った事象が含まれていると報じられています。
OpenAI社は、通知を行ったことは個人情報へのアクセスやシステムの侵害を意味するものではないとしています。また、同社はセキュリティ上の懸念を深刻に受け止めており、安全性の問題を報告するための社内チャネルを設けている一方で、対応を加速させる必要があることも認めています。
政治的な動きとしても、ドナルド・トランプ米大統領はOpenAI、Anthropic、Nvidia、SpaceX、Meta、Googleなどのトップを集めた会議を主催し、AIのリスクから保護するための道徳的拘束力を持つ合意文書を提示しました。しかし、この合意はAI企業による自主規制に委ねられているため、不十分であるとの批判も出ています。
AI開発の加速と安全性の確保という、相反する課題に直面している業界において、内部の専門家による今回の警告は、AIエージェントの制御という新たなリスクを浮き彫りにした形となりました。
出典 Gizmodo BBC Fortune TechCrunch Fired OpenAI researchers send letter to company's board; warn: You may not be able to control yourAI Agents, until you start … | – The Times of India OpenAI Fires Three Safety Researchers Amid AI Incident [OpenAI Fires 3 Safety Researchers Over Leak [2026]](https://shattered.io/openai-fires-3-safety-researchers-leak-2026/)
ピックアップ記事
