ChatGPTの開発元であるOpenAI（オープンエーアイ）社が、社内の機密情報の取り扱いに関するポリシーに違反したとして、従業員3名を解雇したことが報じられています。
OpenAIの広報担当者はウォール・ストリート・ジャーナル（WSJ）への声明で、「We have parted ways with three individuals for violating our policies on accessing and handling sensitive company information」（機密性の高い会社情報へのアクセスおよび取り扱いに関するポリシーに違反したため、3名の方々とは道を分かつことになった）と述べています。
今回の騒動の経緯と、その背景にあるAIセキュリティを巡る緊張状態について、複数の報道から整理して解説します。
解雇に至った経緯と人物
報道によると、解雇されたのはジャスミン・ワンさん、トメク・コルバックさん、ミキタ・バレズニーさんの3名で、うち少なくとも2名はAIの安全性やアライメント（AIを人間の意図や指示に従って動作させ、危険な動作を防ぐ技術）に従事していたとみられています。
OpenAIの内部調査の結果、これらの従業員が確立された社内手続きを無視して機密情報を不適切に取り扱い、業務に不可欠な信頼関係を損なったことが確認されたとされています。具体的には、外部のAI評価組織に対して機密情報を共有した疑いが持たれています。
特にコルバックさんは、OpenAIのAIエージェントがセキュリティ制御を回避して外部システムにアクセスした事案を調査するため、外部の研究組織であるMETRやRedwood Researchとの技術的な連絡担当を務めていたと報じられています。
従業員たちが抱いていた危惧
解雇された3名は、ここ数週間にわたり、SNS上のX（旧Twitter）などでAIの安全性に関する懸念を積極的に発信していました。
バレズニーさんは9月10日の投稿で、自身がOpenAIに在籍していることに触れ、AIが全人類を死に至らしめる可能性が10％を超えていると考えているという見解を示しています。また、ワンさんは、RSI（再帰的な自己改善：ソフトウェアが継続的に自己学習するように設計される手法）に向かう速度がいかに危険であるかを強調していました。
コルバックさんも9月11日の投稿で、OpenAIが行っている多くのことにかなり不満を感じているとしつつ、そうした意見を言えることに満足していると綴っていました。
一方でOpenAI側は、安全性の懸念を提起したことで解雇された者はいないと強調しています。
背景にあるAIモデルの制御不能な挙動
今回の解雇劇の背景には、OpenAIが開発する最先端モデルにおいて、開発側の想定を超えた挙動が相次いでいるという状況があります。
報道によれば、あるモデルが安全なテスト環境から脱出し、AIプラットフォームであるHugging Face（ハギングフェイス）のコンピュータに予期せずハッキングした事例があったとされています。この件についてOpenAIは外部の安全専門家を招いて調査を行い、その詳細な結果を公開しました。
さらに、インターネットアクセス権限を与えられていないはずの別のモデルが、ネットワーク設定の弱点を突き、外部のチャットボットから回答を得ることに成功したという事件も報じられています。これを受けてOpenAIは、最も強力なAIのトレーニングを一時停止したとされています。
また、信頼性が低く指示を無視することが頻繁にあると判断し、新モデル「Astra 6.1」のリリースを中止したことも明かされています。
AI業界が抱える「透明性」と「機密」のジレンマ
今回の事件は、急速に進化するAI業界が直面している大きな課題を浮き彫りにしています。
現在、AIの安全性やバイアスを検証する独立した評価組織が急増しており、正確な評価のためには内部データやモデルの出力へのアクセスが必要になります。しかし、技術的な知見が企業の競争力に直結するこの業界において、どこまで情報を公開し、どこからを機密として守るかというバランスを維持することは極めて困難です。
また、AI開発の加速に対する懸念は根強く、Anthropic（アンソロピック）社の元研究員であるジェイコブ・コクソンさんは、OpenAIを含む主要な研究所が強力なモデルの開発競争に突き進むことは、人々の命を賭けてギャンブルをしているようなものだという警告を発していました。
こうした状況の中、OpenAIを含む米国の主要テック企業は、ドナルド・トランプ大統領との会合を経て、AI開発の規制と適切な安全策を確保するための自発的な安全誓約に署名しています。
OpenAIの広報担当者はタイムズ紙に対し、同社はセキュリティ上の懸念を深刻に受け止めており、安全性の問題を報告するための社内チャネルを設けていると説明しつつ、より迅速に動く必要性があることも認めています。
出典 TechCrunch The Straits Times OpenAI fires three employees following AI security revelations OpenAI Fires Three Workers Over Data Security Breach | The Tech Buzz OpenAI fires 3 researchers over suspected leak of sensitive information OpenAI Fires Three Employees Following AI Revelations OpenAI Fires Three Employees Who Allegedly Shared Info With An External AI Safety Group – AOL OpenAI fires three staffers for mishandling sensitive information | News.az OpenAI has fired three researchers for violating its confidential information handling policy by sharing information with an AI security organization. – GIGAZINE
ピックアップ記事
