エッセイ
Essays
AI、技術、社会、哲学に関する論考。長期的な視点で重要だと考える主題を扱う。
アライメントが成功した後に何が起きるか——そしてそれがより難しい問題でありうる理由を扱う思考実験。応報的論理の崩壊から関数最適化としての司法へ、そしてその後に進行する人間の主体性の空洞化まで。
10年以内 AGI 到来の予想と、その根拠、そして AGI 実現後に何が起きるかの分析。チンパンジーの位置から、知能差が生む構造的非対称を考察する。
~単一の善が世界を壊すとき~(紙・Kindle)。道徳を環境への適応として記述し、単一の善へのアライメントが成功したときの危険を論じた一冊。