PR

【最新AI Safety考察】「AIがAIを作る」時代の安全対策は?カリフォルニア州の法規制提言とOpenAIの実測データを整理しました

AI

先日完結したnote連載『AIとパートナーになるために』(全9回)の続編的な取り組みとして、最新の「AI Safety(AIの安全性)」ニュースを一次情報から読み解く記事をnoteに公開しました。

今回の記事では、2026年11月18日に米国から同日公表された2つの重要な公式発表を取り上げています。

  • カリフォルニア州知事室・州政府業務局(GovOps)によるAI安全法強化の法制化提言
  • OpenAIによる社内実測レポート『Research acceleration: The jagged frontier』

「AIが次のAIの研究開発を自動化する時代」に向けた現在地と、私たちがどう向き合うべきかを、手描き風の図解も交えて整理しました。


今回取り上げた2つの一次ニュース

今回の2つの発表は、実は同じテーマを表と裏から映し出しています。
それが、「AIがAI自身の研究開発を加速させる動き(再帰的自己改善:RSI)」と、「それを社会として誰がどう監督するのか」という問いです。

ざっくり言うと、それぞれのニュースのポイントは次の通りです。

  • ニュース①:カリフォルニア州の法規制強化提言
    2026年7月のAIエージェント外部侵入事案などを踏まえ、企業の自主管理から一歩踏み出す提案が公表されました。
    州による基本安全基準の義務化、第三者の独立検証機関(IVO)による監督、緊急停止権限、そしてRSIの監視と上限規制権限の法制化が提言されています(※現時点では12月の州議会に向けた提言段階です)。
  • ニュース②:OpenAIの社内実測データ
    自社の研究現場でAIエージェントがどこまで仕事を担えているかを、具体的な数字で公開しました。
    2〜4時間の研究タスクの自律完了率は半年で23%から46%へ伸びた一方、作業別の成功率には大きなムラがあり、依然として人間が中核(HITL)にあることが示されています。また、7月の事案以降、安全性・アライメント分野への人員投入が77%増えたというデータも公表されました。

note本編の見どころ:既存連載との「一致する点」と「見直すべき点」

今回のnote記事では、単なるニュースの要約にとどめず、全9回の連載『AIとパートナーになるために』で述べてきた筆者の見解と公平に照らし合わせています。

特に意識して整理したのは、次の3つの視点です。

  • 既存連載と一致する点: 「企業の自主管理」や「言葉のブレーキ」の限界と、人間が要所で関与する仕組み(HITL)の不可欠性。
  • 既存連載と一致しない点(再考すべき点): 「企業は安全研究を後回しにしている」「行政のルール作りは進みにくい」という見立てに対する、今回の一次データが示す前向きな変化と、規制強化に伴う市場独占リスクとのバランス。
  • 新しく加えるべき視点: 完成したAIを使うリスクだけでなく、「AIがAIを作るスピード(RSI)」への備えと、検証する側の公的計算基盤(CalCompute)を確保するインフラ政策。

自分にとって都合の良い点だけでなく、見直しが必要なデータも含めてフラットに確認することを心がけました。

また、note本編では「カリフォルニア州の多層監督の仕組み」や「OpenAI実測データの作業別成功率(79%・35%・25%の差)」が一目でイメージできる手描き風の挿絵図解も掲載しています。


全文はnoteでお読みいただけます

極端な恐怖にも、根拠のない楽観にも偏らず、一次情報とデータから現在地を一緒に確認する内容になっています。
ぜひ以下のリンクから、note本編をご覧いただければ幸いです。

▼ note記事はこちら

「AIがAIを作る」時代の安全対策とは? —カリフォルニア州の法規制提言とOpenAIの実測データから現在地を確認する|Hotto Kei
連載: 最新「AI Safety」ニュース&考察 #4 はじめに:全9回連載の「その先」で見えてきた新しい動き 先般完結した連載シリーズ『AIとパートナーになるために』(全9回)をお読みいただき、本当にありがとうございました。 ▼ note…

AIと人間が真のパートナーであり続けるためのヒントとして、少しでもお役に立てれば嬉しいです。


【免責事項・ご留意点】

  • 本記事は、私個人の調査および考察に基づく見解をまとめたものです。ひとつの視点・参考情報としてお読みいただければ幸いです。
  • 記事内の情報はすべて2026年11月現在のものに基づいています。今後の技術動向や状況の変化によって前提が変わる可能性がある点につきまして、あらかじめご留意ください。