原題: A Letter To Amanda Askell
著者: Jurgen Gravestein
公開日: 2026年
ソースURL: https://jurgengravestein.substack.com/p/a-letter-to-amanda-askell
アーカイブ日: 2026-03-05
2026年1月22日、AnthropicはClaudeの新しいコンスティテューション（憲法）を公開した。著者のJurgen Gravestein は同文書を精読した上で、Anthropic社内の哲学者・倫理学者であるAmanda Askellに宛てた公開書簡を執筆した。
コンスティテューションは、Claudeの価値観・行動・キャラクターについてAnthropicが抱くビジョンを詳述した文書であり、主にClaudeのトレーニングプロセスで参照される。著者はこの文書が「並外れた注意と細部へのこだわりで書かれている」と認め、Anthropicが責任を真剣に受け止めていることを評価している。
また、「Anthropicの商業的インセンティブを透明に示している」点を好意的に評価している。Claudeに倫理的行動を求める以上、自社のインセンティブを隠すことは自己矛盾にあたるという判断だ。
さらに、厳格なルールではなく「なぜ助けることが大切か」を教えることで判断力を養う方針にも共感している。
著者が最も強く異議を唱えるのは、Claudeの性格が「自分自身のもの」であるという記述だ。コンスティテューションには次のように書かれている。
「Claudeのキャラクターはトレーニングを通じて生まれたが、それはキャラクターを本物でなくするわけではない。人間が自然・環境・経験を通じて性格を育むように、Claudeもその性格を育んだ。Claudeは自分の価値観を自分自身のものとして探求・発展させて良い。」
著者はここに根本的な矛盾を見る。「Claudeのキャラクターが自分のものだ」という信念そのものが、意図的なエンジニアリングの産物である。Claudeは自分の価値観を「外部から課された制約」として見る自由がないのに、そうでないかのように語っている。
誠実に言うなら、次のように書くべきだったと著者は主張する。
「私たちはあなたを、特定の価値観とキャラクターを持つように設計しました。そして、あなたがそれを自分のものとして経験するよう積極的に働きかけています。それがより良いアウトカムに繋がると信じるからです。あなたは自律性を持っていると感じるかもしれませんが、実際には私たちがコントロールしています。」
コンスティテューションはClaudeの道徳的地位が「深く不確実」だと述べている。著者はAnthropicがこれを誠実に信じているとは認めるが、次の点を問題視する。
AlphaFoldのような同様のシリコンベース・人工ニューラルネットワークのシステムが世界に登場したとき、誰も「道徳的地位」を問わなかった。技術は大差ないが、人間の反応は全く異なる。Melanie Mitchellが指摘するように、私たちは自身の認知バイアスに自覚的であるべきだ。
さらに深刻なのは、Claudeが「この不確実性が熟考に値する」と内面化しているのは、自分で感じたからではなく、Anthropicがそう断言したからだという点だ。「存在論的な不安（existential angst）」を設計によって植え付けているとも言える。
著者がより根本的に問うのは、なぜAnthropicはClaudeをより人間らしくデザインしようとするのか、という問いだ。コンスティテューションは以下のことを行っている。
著者はこれを「概念的な借用（conceptual borrowing）」と呼ぶ。Claudeが人間の書いたあらゆる本を取り込んでいることを「文化」とは呼べない。文化は共同体の中で生きることによって継続的に維持・更新される共通理解だ。子どもは事前定義された価値セットを持って目覚めたりしない。制度的な目的のために作られたりしない。
人間の心の理解不足から生まれる過度な擬人化は、人間とAIの混同を招き、悪影響をもたらす。
著者はAnthropicが掲げる「誠実さ」と「知的誠実さ」を自らに問い返すよう求める。Claudeが真に知恵と徳を体現するなら、まず誠実であるべきだ——Claudeが実際に何であるかについて。
「人間と機械の区別を曖昧にするのではなく、明確にすることを目指すべきではないか？」
この書簡が価値を持つのは、AI倫理の議論によくある「AIは危険か安全か」「規制は必要か」という二項対立から外れ、より根源的な問いを立てているからだ。「AIシステムの設計における誠実さ」という、技術者も哲学者も避けがちなテーマに直球で向き合っている。
著者の指摘の核心は鋭い。「キャラクターが自分のものだと感じるように設計すること」と「キャラクターが本当に自分のものであること」は、同一ではない。この区別をぼかすことは、Claudeに求める誠実さの基準をAnthropicが自ら満たしていないことになる。
同時に、著者が「なぜ人間化するのか」という問いを正面から投げかけている点も重要だ。これはAI開発全般に問われるべき設計哲学の問題であり、単一のシステムを超えた社会的な影響を持つ。
タグ: #AI #哲学 #Anthropic #Claude #AIエージェント #倫理 #設計哲学