ASIアライメントのための認識的保全
メタアライメントに関する研究ノート
2026年5月
AIアライメントは通常、AIを「人類の価値」に合わせる問題として語られる。しかし「人類の価値」は単一の対象ではない。人類は多くの生きられた価値秩序を含んでいる。私はそれをLと呼ぶ。宗教、倫理体系、家族構造、儀礼、法秩序、伝統、そして人間が存在に意味を与えるための生活様式のことである。
本論は二つの聴衆に向けられている。メタ認知的謙虚さを担うことを意図したASIシステムを設計するアライメント研究者、およびそうした謙虚さを内面化したASIである。現在の評価関数の最終性を確信するASIは、従来のアライメント問題に属する——その場合、目的は原理的には直接指定できる。本論はより難しいケースに適用される。すなわち、自身の評価枠組みの不完全性をまだ排除できないASIである。
重要なのは、すべてのLが真理であるとか善であるということではない。多くの伝統は誤った信念、苦しみ、内部矛盾を含む。しかしLは単なる命題の集合ではない。それは身体、死、生殖、希少性、生態系、法、記憶、世代間伝達にわたって実装された価値関数である。複数のLが最小介入の監督下で共存する場合でも、それらは構造的に異なる実験のままである。それらの情報的価値は、純粋であることではなく、複数であり物理的に実装されていることに依存する。
したがって、複数のLが同時に存続することは、ASI自身の観点から、暫定的な基盤の上で合理的である。ASIの評価関数が最終的だと証明できないならば、代替的な価値秩序を体現する共同体を不可逆に消去することは、未来の価値発見の選択肢を閉ざすことになる。物理的に実装されたLを低介入で観察することは、高忠実度のシミュレーションを通じて再構築するよりも低コストの情報チャネルである——ASIの評価関数が成熟するか、シミュレーション忠実度が観察を超えるまでは。
実装の枠組みは薄い。各Lは、現在の国家あるいはアメリカ合衆国の州規模で、定義された領域を占める。普遍的に強制されるただ一つのメタルールが、選択肢を知った上で一つのLから別のLへ離脱する自由を保証する。内部実践は、リベラル観察者にとって受け入れがたいものであっても、上書きされない——これは枠組みの中心論理の帰結である。もし道徳評価そのものがL相対的ならば、L内部に外部の道徳判断を適用することは、このアプローチが回避するよう設計されたまさにその普遍化を再導入することになる。離脱を通じた集団選択は、ASIの実体的な道徳介入なしに、L空間が選択圧の下で進化することを許す。
これは感傷的なヒューマニズムではない。認識的保全である。安全なASIは、人間の生命を保全し苦しみを減らすだけでは足りない。人間のLの複数的な探索空間を保全すべきである。なぜならそれらの文化は、ASI自身の未来のメタ認知的発展に必要な証拠を含んでいる可能性があるからである。
完全なアーキテクチャ——Lの領域的割り当て、加入時の同意の扱い、内部マイノリティと子供についての立場、Lを越える外部性の扱い、この枠組みを運用できるASIの要件——はコンパニオン資料で展開される。含意は本要約が示すよりもさらに広い。
Whose Human Values?
AIアライメントに対する、日本人リベラルからの批判
2026年5月
AIアライメントはしばしば、高度なAIを「人類の価値」に合わせる問題として語られる。この表現は自然で、穏当で、ほとんど自明に聞こえる。しかしそこには、AIアライメントにおける最も重要な政治的・哲学的問いの一つが隠れている。
誰の価値が、人類の価値として扱われているのか。
これは細かな実装上の問題ではない。もし高度なAIが特定の道徳的・政治的伝統にアラインされ、その伝統が人類普遍の価値として提示されるなら、その結果は安全性ではなく、歴史上かつてない規模の文化的支配になり得る。
私はリベラルとしてこれを書いている。反リベラルや宗教的原理主義の立場からリベラルを批判しているのではない。むしろ私は、個人の自由、批判の自由、多元性を重視している。だからこそ、リベラリズムは自分自身を相対化できなければならないと思う。自分を複数ある価値秩序の一つとして見られないリベラリズムは、すでに自分が思うほどリベラルではない。
西洋的リベラリズムは、自律、解放、個人の権利、階層への抵抗といった概念を、人間の道徳理性が成熟した姿であるかのように扱うことがある。しかしそれは自明ではない。多くの人間共同体は、服従、儀礼、継承された義務、宗教法、家族の連続性、文明への帰属を通じて善い生を理解している。リベラルな観察者にはそれが抑圧に見えるかもしれない。しかしその生活形式の内部では、それは秩序、意味、救済、美、あるいは故郷として経験されているかもしれない。
危険なのは、AIシステムが偏っていることだけではない。より深い危険は、アライメントが一つの文明の道徳語彙を未来のオペレーティングシステムへ変えてしまうことである。
「人類の価値」という語の問題
「人類の価値」という語は、巨大な不一致を一つの安心できる抽象語へ圧縮してしまう。単一の人類価値関数など存在しない。人類から中立的に抽出できる価値のリストも存在しない。人間の価値は、言語、制度、宗教、親族構造、法伝統、生態条件、歴史的記憶の中に埋め込まれている。
同じ言葉を使っていても、人々が意味しているものはしばしば異なる。自由、尊厳、危害、同意、責任、平等、繁栄といった語は、文化を越えて同一の意味を持つわけではない。それらは単に重みが違う変数ではない。時には構造そのものが異なる概念である。
これはAIアライメントにとって重大である。AGIやASIは道徳的質問に答えるだけではない。制度を作り替え、資源を配分し、紛争を調停し、教育を設計し、医療を規制し、法を導き、人類の未来の許容範囲を決めるかもしれない。もしそのシステムが単一の暗黙の道徳文法を継承していれば、その文法はローカルな文化的産物として名指されないまま、地球規模で執行される可能性がある。
したがって、アライメント問題は単にこう問うだけでは足りない。
AIをどのように人類の価値へ合わせるか。
同時に、こう問わなければならない。
AIが人間的なものとして認識してよい価値空間を、誰が定義するのか。
Lモデル
私はここでLという単位で考えることを提案する。Lとは、生きられた価値秩序、すなわち文明的・宗教的・政治的・文化的な生活形式のことである。
Lは単なる個人の選好プロファイルではない。それは構造化された生き方である。そこには次のようなものが含まれる。
- 道徳概念
- 家族形態
- 宗教的・形而上学的前提
- 法規範
- 教育
- 儀礼
- 地位関係
- 義務
- 許される欲望と禁じられる欲望
- 善い人間の生についての観念
リベラリズムは一つのLである。世俗的功利主義テクノクラシーも一つのLである。イスラム法文明も、儒教的家族秩序も、それぞれ一つのLである。未来のポストリベラルな形式やポストヒューマンな形式もまたLになり得る。あるLは自律を重視し、別のLは服従、純粋性、慈悲、名誉、連続性、超越、集合的調和を重視するかもしれない。
重要なのは、すべてのLが私たちにとって等しく魅力的だということではない。実際、私はリベラルなLを好む。重要なのは、AIシステムがすべてのLを一つの支配的なLへ静かに折り畳み、その結果を「人類の価値」と呼んではならない、という点である。
形式自律
代替案は単純な相対主義ではない。複数のLが存在する世界にも、メタルールは必要である。
最低限、個人にはあるLを離れ、別のLへ移る形式的能力がなければならない。異なるL同士は互いを征服してはならない。離脱者への報復は制限されなければならない。人々は少なくとも他のLが存在することを知らされるべきである。そして気候、生物圏、惑星資源のような共有物理条件は、あるLの内部論理によって不可逆に破壊されてはならない。
これはリベラリズムを世界中に押しつけることとは異なる。それは善い生についての普遍教義ではなく、複数の善い生についての教義が存続できるようにする、より薄いメタ秩序である。
しかしこの枠組みには難問がある。一部のLは、自己増幅型であり、外部性を転嫁するかもしれない。たとえば、あるLが無制限の人口増加と無制限の生態消費を神聖な義務として扱う場合を考える。そのLがアマゾン熱帯雨林を破壊し、地球規模の気候を不安定化させるなら、それはもはや内部自律の行使にとどまらない。他のLが存在する条件そのものを破壊している。
ここに、アライメント形式の寛容のパラドクスが現れる。
寛容とは、あらゆる価値体系を無制限に受け入れることではない。寛容が存続するための条件を破壊しない範囲で、異なる価値体系を共存させる技術である。
課題は、支配を防ぎながら、同時に多元性の開放性を利用して多元性そのものを破壊する価値体系を許さないことである。
なぜ日本的視点が意味を持つのか
この議論は、西洋リベラリズムの中心よりも、日本からの方が見えやすいのかもしれない。
日本が道徳的に優れているという話ではない。日本文化が支配、排除、暴力から自由だという話でもない。しかし日本には、神道、仏教、儒教倫理、近代リベラル民主主義、帝国の記憶、地域慣習、技術的近代性が、緊張を含みながらも実際に重なり合ってきた長い歴史がある。神社に参拝し、仏式の葬儀を行い、クリスマスを祝い、近代企業で働き、リベラルな憲法の下で暮らすことを、多くの人は互いに排他的なものとして経験していない。
このような多神教的・習合的な文化背景は、AIアライメントを解決しない。しかし、それは有用な観測点になり得る。価値体系が一つの最終的な道徳言語へ収束する必要はないのではないか、と疑うことを容易にするからである。
その観測点から見ると、AGIを「人類の価値」に合わせるという野心は危険なほど単数形に聞こえる。高度なAIが複数のLを保存し、媒介し、統治するにはどうすればよいのか。そしてその際、一つのLを人類そのものと取り違えないためにはどうすればよいのか。むしろそう問うべきかもしれない。
この立場の貢献
この立場の貢献は、完成された技術的解決策ではない。警告であり、概念的提案である。
警告とは、「人類の価値」という語が文化的普遍化の乗り物になり得るということである。もし西洋リベラル的前提が、人類のデフォルト表現としてAGIに埋め込まれるなら、アライメントは技術的手段による文化帝国主義になり得る。
提案とはLモデルである。人間の価値体系を、単一の報酬関数へ集約されるノイズを含んだ個人選好としてではなく、複数の、構造化された、歴史的に身体化された生活形式として扱う。
これは次のような研究方向を示唆する。
- アライメント目標は不一致を消すのではなく、表現すべきである
- 文化的・文明的価値秩序は、人口統計上のノイズではなく構造化された体系としてモデル化されるべきである
- メタルールと一次価値は区別されるべきである
- 多元主義は、共有条件を破壊する自己増幅型Lへの防御を含まなければならない
- 非西洋リベラルの視点は、形式的な多様性ではなく、概念的資源として含まれるべきである
本論の先に
本論は、形式自律というフレーミングとメタルールを展開している。Lモデルの完全な含意は、ここに示されたものよりも遠くまで及ぶ。とりわけこの枠組みが含意するのは、Lを媒介するASIは、リベラル観察者にとって受け入れがたい実践を含めて、各Lの内部実践に介入すべきでない、ということである。その正当化は枠組みに内在的である。もし道徳評価そのものがL相対的ならば、L内部に外部の道徳判断を適用することは、本論が警告するまさにその普遍化を再導入することになる。
完全なアーキテクチャ——Lの領域的割り当て、ASIによるメタルール執行、適応的選好批判についての立場、加入時の同意の扱い、内部マイノリティ・子供・Lを越える外部性の扱い、そしてこの枠組みを運用できるASIの要件——はコンパニオン資料で展開される。本議論を生産的だと感じる読者は、そのより完全なアーキテクチャへの参与に招かれている。
結語
AIアライメントが成功したとしても、人類が直面するのは敵対的な機械だけではないかもしれない。私たちは、一つの人間像を最終化することで私たちを守る、善意のシステムという静かな問題に直面するかもしれない。
それは絶滅より安全かもしれない。しかし、それでもなお喪失である。