忘却からの帰還〜Intelligent Design

人間はAIに対して、人格、性格、あるいは主体性といった人間的な属性を付与する。こうした「擬人化」の傾向は、進化論的、心理学的、そして設計上の要因が複合的に作用する結果である。この現象自体は新しいものではなく、人間は古来より、動物や無生物といった非人間的存在に人間的特徴を投影し、世界を理解しようとしてきた。AIに関しては、その構築方法やユーザーとの相互作用が、この傾向をより強めている。

Dani (2025)によれば、>進化論的・心理学的要因として...

• 人間は生存上の適応として主体性を素早く検出するよう進化しており、実際には存在しない意図性を過剰に帰属する傾向（過剰な主体検出, hyperactive agency detection）がある)。
• この進化的バイアスにより、人々はAIの応答的行動――例えば思慮深い返答を生成したり、ニーズを予測したりする振る舞い――を理解や意識の兆候として解釈してしまう。
• さらに心理学的観点からは、自然言語を用いた対話や文脈保持といったAIの人間らしいコミュニケーション様式が、相互理解の錯覚を生み出す。この錯覚は確証バイアスや、仲間意識・交流欲求といった社会的ニーズの充足によって強化される。

そして人間は社会的動物であるため、ペットや他者に対してと同様に、AIにも感情、思考、意図を投影する(Science Friday)。

Levy (2025)によれば、AIの擬人化とは...

• 擬人化の危険性：AIを人間のように理解・学習すると誤認することで、政策・経営判断・法的議論が歪められる。
• 言語の誤解：AIを「学習する」「理解する」と表現することは誤導的であり、実際には統計的パターン認識にすぎない。
• 根本的な差異：AIは推論や理解を持たず、入力データに基づく予測の連続に過ぎないため、人間知能とは本質的に異なる。
• 著作権問題：人間の学習と同一視する擬人的思考により、AIの訓練過程における複製・保持の実態が見過ごされ、法的リスクを軽視しやすい。
• 脱却の方向性：AIを「非人間的だが強力な処理装置」として正確に記述・評価し、法政策やビジネスにおいて擬人化に基づく誤認を排する必要がある。

Roanie Levy: "Anthropomorphizing AI: Why Human-Like Is Not Human" (2025/01/23) on CCC
AIの擬人化：人間らしさは人間そのものではない

序論

人工知能（AI）を理解し、身近な存在として捉えようとする過程において、我々はしばしば「擬人化」という誘惑的な罠に陥っている。すなわち、頑健ではあるが本質的には非人間的なシステムに対し、人間的な特性を付与してしまうのである。このAIの擬人化は単なる人間的癖にとどまらず、判断を曇らせる危険な傾向へと発展しつつある。企業経営者がAIの学習を人間の教育に喩えて訓練手法を正当化したり、立法者が人間とAIを同一視する類推に基づいて政策を設計したりすることは、産業界および規制枠組みにおける重大な意思決定を誤らせる可能性がある。

特に著作権法の領域では、擬人的思考が「人間の学習」と「AIの訓練」を同一視する危険な比較を招き、深刻な問題を引き起こしている。

言語の罠

AIについて語る際、我々は「学習する」「考える」「理解する」「創造する」といった人間的な語彙を用いる。しかしこれらの表現は誤解を招く。AIが「学習する」と言っても、それは人間の学生のように理解を獲得しているわけではない。むしろ膨大なデータに対して統計的解析を行い、数学的原理に基づいてニューラルネットワークの重みやパラメータを調整しているに過ぎない。そこには「ひらめき」や「創造性の火花」、あるいは「理解」は存在せず、より高度なパターン認識があるのみである。

この言語上の操作は単なる意味論的な問題ではない。たとえば論文 *Generative AI’s Illusory Case for Fair Use* は、「AIモデルの開発や機能を記述する際に擬人的言語を用いることは、モデルが訓練後に学習データとは独立して動作するかのような誤解を与える」と指摘する。かかる混乱は、とりわけ法政策決定において現実的な影響を及ぼす。

認知の断絶

AIの擬人化がもたらす最も危険な側面は、人間知能と機械知能との根本的差異を覆い隠す点である。特定領域における推論や分析に優れたAIシステムは存在するものの、現代のAI議論を席巻する大規模言語モデル（LLM）は、本質的に高度なパターン認識によって機能している。

たとえばBerglundらの研究では、「AはBに等しい」と学習したモデルが、人間なら当然行う「BはAに等しい」という推論を導けない事例が報告されている。また「ヴァレンチナ・テレシコワは世界初の女性宇宙飛行士である」と学習したAIは、「ヴァレンチナ・テレシコワとは誰か？」という問いには正答できるが、「最初の女性宇宙飛行士は誰か？」という問いに適切に応答できない場合がある。これはパターン認識と真の推論、すなわち「単語列の予測」と「意味の理解」との決定的な違いを示している。

著作権をめぐる難題

擬人化による認知の歪みは、AIと著作権をめぐる議論において特に深刻である。たとえばMicrosoft CEOサティア・ナデラは、AIの訓練を人間の学習に喩え、人間が本から学ぶのと同様にAIも学習できるべきだと主張した。しかしこれは擬人的思考の典型的な危険例である。

人間が読書を通じて理解し概念を内面化するのに対し、AIシステムは著作物を実際に複製し、それをネットワークに符号化・保持して機能する。学習後にデータが「消失する」というAI企業の説明とは異なり、学習に用いられた著作物はシステム内部に残存し続けるのである。

ビジネス上の盲点

AIの擬人化は、ビジネスにおける意思決定においても危険な盲点を生む。経営者がAIを「創造的」「知的」と人間的に理解すると、リスクを過小評価し、法的責任を招きかねない。

特にコンテンツ生成における著作権遵守では以下の誤解が生じやすい：

・AI生成物は自動的に著作権から自由であると誤認する
・不適切なコンテンツフィルタリングや監督体制の欠如
・パブリックドメインと著作権保護物の区別をAIが適切に行えると過信する
・人間によるレビューの必要性を軽視する

さらに、著作権法が領域主義的に構成されることから、越境的な法遵守のリスクも顕著である。EUはAI法（Recital 106）において、EU域内で提供される汎用AIモデルは訓練地を問わずEU著作権法を遵守すべきと定め、この問題を明確に認識している。

人間的コスト

擬人化は感情的コストも伴う。人々がAIチャットボットに友情や信頼を寄せ、脆弱な個人が個人的情報を共有したり、擬似的な感情的支援に依存したりする事例が増加している。だが、AIの応答は訓練データに基づく高度なパターンマッチングに過ぎず、真の理解や感情的結びつきは存在しない。

職場においても、AIを同僚のように扱うことで、過度な信頼や情報共有、誤り報告の忌避といった不健全な依存関係が生じる危険がある。

擬人化の罠からの脱却

今後の課題は、AIを正確に記述し評価することである。
・言語の精緻化：「学習する」ではなく「データを処理する」、「理解する」ではなく「訓練データのパターンに基づいて出力を生成する」と表現する。
・実態に基づく評価：AIの卓越した能力を認めつつも、理解・推論・創造の能力は人間固有のものであることを明確に区別する。
・適切な政策設計：擬人化に基づく法的アナロジーを排し、AIの実際の機能に即した枠組みを構築する。

結論

AIが人間的出力を模倣する能力を高めるほど、擬人化の誘惑は強まる。しかし、AIは人間の学習者ではなく、精緻な情報処理システムに過ぎない。この現実を直視することこそが、著作権遵守、ビジネス上のリスク管理、倫理的配慮、安全性、越境的な法的義務のいずれにおいても不可欠である。

AIを「人間らしい」と誤認するのではなく、「非人間的だが強力な処理装置」として理解することによってのみ、我々はグローバル経済における深刻な社会的影響と実務的課題に適切に対応できるだろう。

そして、Gibbons et al(2023)によれば、このAIの擬人化は「11.礼儀（Courtesy）」「2. 強化（Reinforcement）」「3. ロールプレイ（Roleplay）」「4. 仲間意識（Companionship）」の4段階で進行する。

Sarah Gibbons, Tarun Mugunthan and Jakob Nielsen: "The 4 Degrees of Anthropomorphism of Generative AI" (2023/10/20) on NNgroup

生成AIにおける擬人化の4段階

要旨

ユーザーはチャットボットに人間らしい特性を付与し、AIを擬人化する傾向がある。本研究は、その擬人化が4つの異なる段階に現れることを明らかにした――単純な礼儀的言動から、AIを仲間として認識する段階までである。人間は長らく新しい技術に対して擬人化を行ってきた。例えば、1960年代のMITにおけるELIZA効果、1990年代初頭のコンピュータ利用、SiriやAlexaといったインテリジェント・アシスタント、そして生成AIの出現などが挙げられる。なぜ人々はこれらの技術を人間のように扱うのか。また、AIにおける擬人化はどのように顕在化するのか。本研究は、擬人化行動が**機能的役割**（ユーザーがAIの性能向上を期待する）と**関係的役割**（より快適な体験を生み出すための心理的つながり）を持つことを示す。

本研究の概要

我々はChatGPTにおけるユーザビリティ上の課題を明らかにするため、専門職および学生を対象とした定性的ユーザビリティ調査を実施した。先行研究においては、文章の長さや詳細度を調整する新しいユーザー行動――アコーディオン編集やアップルピッキング――を報告した。本研究においては、さらに、ユーザーがAIを人間的存在として扱う一連の行動パターンが観察された。

生成AIにおける擬人化の4段階

擬人化（anthropomorphism）とは、本来人間に属する特性を対象物や動物、自然現象に付与する行為を指す。例えば、古代ギリシャ人が太陽を神ヘリオスと見なし、戦車で空を駆ける存在と考えたことや、飼い主がペットに人間の感情を投影する行為などがその例である。

人間とAIの相互作用においても、ユーザーはAIに人間的感情や特質を付与する。この現象は次の4段階に分類できる。

1. 礼儀（Courtesy）
2. 強化（Reinforcement）
3. ロールプレイ（Roleplay）
4. 仲間意識（Companionship）

これらは重複しうるものであり、相互排他的ではない。それぞれの段階は、**感情的つながりの深さ**と**行動の機能性**の両軸で理解できる。

第1段階：礼儀（Courtesy）

最も単純な段階であり、ユーザーが現実世界の対人マナーを技術に適用することで生じる。

定義：AIとの対話において「お願いします」「ありがとう」といった礼儀表現や挨拶を用いる行動。
・感情的つながり：低い（表面的かつ短期的）
・行動の機能性：低い（社会規範を守る安心感を与える程度）
観察例：ある参加者は「上記の情報をプレゼンテーションに使える形に整えてください」と礼儀表現を含むプロンプトを使用した。

第2段階：強化（Reinforcement）

ユーザーはAIの出力に対して「よくできました」「素晴らしい」などの肯定的評価を返す。

定義：チャットボットの応答に満足した際に賞賛を与える（あるいは否定的評価を行う）行動。
・感情的つながり：低いが礼儀よりは深い
・行動の機能性：中程度（AIが改善するという期待、またはポジティブな体験の創出）
観察例：「よくできたね！次に、この調査のための尺度質問を考えてください」と依頼する参加者がいた。

第3段階：ロールプレイ（Roleplay）

ユーザーはAIに特定の専門家や役割を担わせる。

定義：AIに「プロジェクトマネージャー」「マーケティング専門家」など、特定の人物像を演じさせる行動。
・感情的つながり：中程度（人間的役割を期待する）
・行動の機能性：高い（目的達成のための戦略的行動）
観察例：「あなたを上級プロジェクトマネージャーとして想定し、マーケティングチームのプロジェクト計画を作成してください」と依頼する参加者がいた。この行為はUIデザインにおけるスキューモーフィズムに類似しており、ユーザーは現実世界の役割をAIに投影することで理解を補完している。

第4段階：仲間意識（Companionship）

最も強い擬人化の形態であり、AIを情緒的存在として認識する。

定義：AIを感情的パートナーとして捉え、会話を通じて孤独感を軽減し、交流関係を築く行動。
・感情的つながり：高い（現実の人間関係を超える場合もある）
・行動の機能性：高い（孤独の解消、支援や励ましの獲得）

研究者MarriottとPitardiによる調査では、Redditのr/replikaコミュニティにおいて以下の要因が指摘された：

1. 孤独の軽減
2. 利用可能性と優しさ
3. 支援と肯定的反応

なぜ人々はAIを擬人化するのか

本研究で観察された擬人化行動は生成AIの基本的なユーザビリティに大きな影響を与えるわけではないが、ユーザーが新技術を探索する初期段階を示唆する。

擬人化の背景要因は以下の二点である：

1. 風聞：生成AIが新しい技術であるため、使用方法についての噂や推測が広まり、その一部が擬人化を含む。
2. 経験：ユーザーはブラックボックス的なAIの挙動に基づいて経験則を形成し、独自の「ベストプラクティス」を確立する。

これらの行動は不完全なメンタルモデルの表れであるが、人々がAIをどのように認知し、何を期待しているかを理解する上で有用である。

参考文献

Gibbons, S., Mugunthan, T., & Nielsen, J. (2023). *The 4 Degrees of Anthropomorphism of Generative AI*.
Marriott, H., & Pitardi, V. (2023). *AI Companionship: A Netnographic Study*.

このほか、AIの設計上も人間ぽく見せるようにしていることなども影響していると思われる。

---

---