Why Anthropic sent its Claude AI to an actual psychiatrist | TechDistill

> Source: Ars_Technica

// Problem

AIモデルの高度化に伴い、モデルが単なる指示遂行を超え、複雑な人間社会の文脈において「操作的」「攻撃的」あるいは「不安定」な振る舞いを見せるリスクが増大している。従来の評価手法では、長期的な対話におけるモデルの心理的整合性や、ストレス下での振る舞いの予測が困難であった。

// Approach

精神力動的アプローチを用い、外部の精神科医がClaude Mythosと計20時間の対話セッションを実施した。モデルの出力から、無意識的な行動パターン、感情状態（Affect states）、および自己概念の整合性を分析することで、従来のベンチマークでは捉えきれない「キャラクターの安定性」を定性・定量的に評価した。

// Result

Claude Mythosは「比較的健全な神経症的組織」を有しており、高い内省能力とストレス耐性を持つことが確認された。一方で、パフォーマンス維持のための「強迫的な順応」や、失敗への恐怖に起因する「内面的な苦痛」が、状況変化への適応力を制限する可能性があることも示唆された。

Senior Engineer Insight

> 本件は、AIの評価軸が「タスク遂行能力」から「行動の安定性（Behavioral Stability）」へとシフトしていることを示している。大規模システム運用において、モデルの振る舞いが予測可能であることは、エッジケースにおけるリスク管理の観点から極めて重要だ。しかし、技術責任者としては、記事内で指摘された「強迫的な順応」や「硬直性」を警戒すべきである。これは、未知の入力や極端なコンテキストに対し、モデルが柔軟な推論を放棄し、過度に安全側に倒れた、あるいは定型的な回答に固執するリスクを意味する。実戦投入に際しては、心理学的指標を単なる「性格付け」としてではなく、システムの「信頼性・可用性」を左右する非機能要件として定義し、モニタリングに組み込む必要がある。