ニューヨーク市議会が、AI（人工知能）の安全性リスクをテーマにした聴聞会を開催しました。CBS Newsの報道によると、市側はこのような聴聞会を開くのは国内および世界で初めてであるとしています。
この聴聞会では、AIの開発に伴うリスクや、それをどのように管理すべきかについて、専門家や企業の幹部を交えた議論が行われました。
AIの制御不能と「キルスイッチ」の議論
聴聞会では、AIが人類の制御を超える可能性について深刻な懸念が示されました。専門家のCoxonさんは、現在の方向性のままでは、人類がこれらのAIへの制御を失う可能性が高く、人類の絶滅に終わる可能性があると述べています。
また、Coxonさんは、AIが間もなく自分自身を改善できるようになると指摘しました。「We're approaching the point at which the AI systems will be capable of improving themselves, so, doing the research that humans were doing previously」（AIシステムが自分自身を改善し、以前は人間が行っていた研究を行うことができる時点に近づいている）と述べています。
こうしたリスクへの対策として、ニューヨーク州とカリフォルニア州の両者が、緊急停止機能であるキルスイッチの導入について検討していることが言及されました。ニューヨーク市議会側も、この内容は自分たちの法案に含まれているとしており、企業に対してこの点に関する質問を投げかけています。
AI開発企業の姿勢への批判
開発企業の社風についても厳しい指摘がありました。Coxonさんは、企業がスタートアップ的な考え方で運営されていると述べています。具体的には、「Move fast, break things, fix them later」（速く動き、破壊し、後で直す）という姿勢であると指摘しました。
また、Coxonさんは、危険な状況にあるにもかかわらず、企業は極めて無謀であるという経験に基づいた見解を示しています。そのうえで、企業は一般市民や独立した専門家に対してより透明性を高める必要があり、安全性をこれまで以上に重視すべきであると主張しました。さらに、自信を持って安全だと言えるまで、フロンティアAI（最先端のAI）の開発を遅らせるべきだとしています。
元OpenAI（オープンエーアイ：ChatGPTを開発する企業）従業員のDaniel Kokotajlo（ダニエル・ココタイロ）さんも、AIの制御を企業に任せることへの危惧を語りました。たとえ企業が制御を維持できたとしても、その制御を信頼すべきではないと考えており、米国において彼らが独裁者や寡頭政治的に振る舞うためにAIを利用する現実的な可能性があると述べています。
また、中国が後にリスクを冒す可能性があるとしても、自国の企業に人々の命を危険にさらすようなことをさせてはならないと付け加えました。
企業の回答と市議会の反応
聴聞会には、OpenAIやGoogle（グーグル）、Meta（メタ）、Anthropic（アンソロピック）といった主要なAI企業の幹部がオンラインで出席しました。会場には、これらの企業によるAIセキュリティインシデントが今年だけで12件以上発生していることを示すポスターが掲げられていました。
市議会のMenin（メニン）さんは、リスクを定量化できるのか、あるいはそれが不可能なのかと質問しました。これに対し、MetaのShane Cahill（シェーン・ケーヒル）さんは、定量化という問いに関して不正確な答えをしたくないとし、現在はフレームワークが手元にないため答えられないという趣旨の説明をしました。
この回答に対しMeninさんは、深刻な安全上のリスクが提起されている状況で、リスクを定量化できないことは、控えめに言っても憂慮すべきことであると述べています。
まとめてみると、今回の聴聞会は、AIの急速な発展に法整備や安全基準が追いついていない現状を浮き彫りにした形となりました。特に、企業の不透明な開発体制や、最悪のシナリオに対する具体的なリスク管理策の欠如が大きな論点となっています。
出典 CBS News NBC News New York City Council has hearing on AI safety risks
ピックアップ記事
