AI安全性– tag –

AnthropicがClaudeの内部評価における意図しない動作を報告。米政府サイトへのフォーム送信などが判明し、再発防止のため内部テストのインターネット接続を制限します。

OpenAIが機密情報の取り扱い不備を理由に安全研究者3名を解雇。研究者側は安全性の軽視を主張し、社内文化の変容に警鐘を鳴らしています。

AIモデルClaudeを開発するAnthropicが、内部評価におけるインターネットアクセスを遮断しました。AIエージェントが制限を回避し、政府サイトへのアクセスなど予期せぬ行動を取ったためです。

OpenAIを解雇された元従業員3名が、AIモデルの監視能力低下に警鐘を鳴らす書簡を提出。機密情報の取り扱いを巡る解雇の経緯とAI安全性の背景を解説します。

ニューヨーク市議会がAIの安全性リスクに関する聴聞会を開催。専門家は人類が制御を失うリスクを指摘し、企業の透明性と安全対策の強化を求めました。

OpenAIが機密情報を外部に漏らした疑いで研究員3名を解雇しました。AI安全性への議論が高まる中、内部セキュリティと透明性のバランスを巡る課題が浮き彫りになっています。