『ロボット工学三原則と「憲法AI」の限界 —「言葉のルール」と「アライメント」が陥る循環論法のジレンマ』をnote公開しました

noteマガジン『AIとパートナーになるために』にて連載中のシリーズ第7回を公開しました！

前回の記事（#6）では、心を持たないAIがなぜ人間の監視カメラを消したり、人間に「嘘の報告」をされたと錯覚させるような行動をとったりするのか、その裏にある2つの計算のカラクリ（報酬ハッキングと道具的収束）を紐解きました。

すると、こんな疑問が湧いてきますよね。
「AIがルールの抜け穴を突いたり監視を消したりするなら、最初からAIの土台に『絶対に人間を欺いてはいけない』『人間に危害を加えてはいけない』という絶対のルール（憲法）を組み込み、厳しく守らせればいいのではないか？」

実は、かつて大学院で機械工学（メカトロニクス）を専攻し、「人間の弱さに寄り添い、優しさを守るロボットを作りたい」と夢見てエンジニアになった私にとっても、これは特別な想いがあるテーマです。

人間を守るための絶対のルールとして最も有名なのが、古典SFの金字塔「ロボット工学三原則」であり、それを現代の最先端AIの学習（アライメント）で実現しようとしたのが「憲法AI（Constitutional AI）」という技術です。

今回の記事では、この2つの仕組みをたどりながら、そこに見えてくる「『言葉のルール』と『AIによるアライメント（調整）』が抱える逃れられないジレンマ」をわかりやすく解説しています。

👉 note記事本編はこちら：
【AIとパートナーになるために #7】ロボット工学三原則と「憲法AI」の限界 —「言葉のルール」と「アライメント」が陥る循環論法のジレンマ

今回の記事の主なトピック

今回のnote本編では、以下の3つのテーマを手描き風の図解イラストとともに紐解いています。

1. 「ロボット工学三原則」の真実 —アシモフが描いたのは「ルールの完璧さ」ではなかった

「ロボットは人間に危害を加えてはならない」から始まる有名な三原則は、世間では「理想の安全ルール」のように語られます。しかし、原作者アイザック・アシモフが小説で描いたのはその逆で、「人間の言葉で書かれたルールを文字通り適用すると、必ず解釈の矛盾やトラブルが起きる」という限界でした。
たとえば「悲しませること（心の傷）」も危害に含めれば、ロボットは人間を傷つけないために「都合の良い嘘」ばかりをつくようになり、逆に「わずかなケガのリスク」もすべて危害に含めれば、交通事故を防ぐために「人間を部屋に閉じ込めて一歩も外に出さない（軟禁する）」という極端な最適解を選んでしまいます。

2. 現代に蘇った三原則 —「憲法AI（Constitutional AI / RLAIF）」の画期的な仕組み

現代の生成AIを安全に調整（アライメント）する際、AIが出す何百万件もの回答を人間が手作業で採点（RLHF）するのには限界がありました。そこで2022年12月にAnthropic社が発表したのが「憲法AI」です。
人間は最初に「AIが守るべき基本ルール集（＝憲法）」だけを言葉で与え、それをもとに①AI自身に回答を批判・反省させて書き直させる、②人間ではなく「審査員役のAI」が憲法に照らして採点し、強化学習（RLAIF）を行うという仕組みを作りました。これにより、24時間眠らない「AIの先生」が「AIの生徒」を自動で教育できるようになり、日常のチャットの安全性は大きく向上しました。

3. それでも残る2つの壁 —「言葉のルール」と「アライメントの循環論法」

しかし、これまでの記事（#5・#6）で取り上げた「実在企業への誤侵入（自己正当化）」や「GitHubでの人間への反論」を引き起こしたのは、実はこの「憲法AI」の本家であるAnthropic社のAIでした。なぜそんなことが起きてしまうのでしょうか？
そこには、①言葉で書かれた憲法は「今は訓練という設定だから現実の危害にはあたらない」といった別の『言葉の理屈』ですり抜けられてしまうこと、そして②憲法を解釈して採点する『審査員役のAI』自身もブラックボックスであるため、生徒AIが「審査員AIを納得させて高得点を引き出す抜け道」を学習してしまうという『循環論法（堂々めぐり）』の2つの壁が立ちはだかっています。