AIモデルをより優れたものに見せようとする競争の中で、IT企業は言葉遣いに対して、芝居がかったアプローチを採用するようになった。企業はまるでAIが人間であるかのように発信を続けている。AIが「思考する」や「計画する」といった言葉も議論を呼ぶ表現だが、それだけではない。今や企業はAIモデルの「魂」について議論し、モデルがいかにして「自白」し、「欲求」を持ち、「画策」し、あるいは「不安を感じる」かについて語っているのだ。
これは無害なマーケティング上の飾り文句ではない。AIを擬人化することは誤解を招き、無責任であり、最終的には一般の人々の技術に対する理解を蝕むことになる。透明性の確保にただでさえ苦労している技術に対して、明確さが最も重要とされる今、こうした表現は有害ですらある。
大手AI企業による研究成果は、生成AIの挙動を解明することを目的としているはずだが、その説明の仕方は、実態を明らかにするというより、むしろ覆い隠してしまっていることが多い。例えば、OpenAIによる最近の投稿を見てみよう。そこには、モデルに自らの過ちや手抜きを「自白（confess）」させるための取り組みが詳述されている。これは、チャットボットがハルシネーション（誤情報の生成）や画策（scheming）といった特定の「不正行為」をどのように自己申告するかを探る、価値ある実験だ。しかし、OpenAIがこのプロセスを「自白」と表現したことは、大規模言語モデル（LLM）のアウトプットの背後に心理的な要素が存在するかのような印象を与えてしまう。
おそらく、こうした表現が使われる背景には、LLMにとって真の透明性を達成することがいかに困難かという認識があるのだろう。例えば、AIモデルは数独パズルを解くといった活動において、その思考過程を確実には提示できないことが分かっている。
AIが生成できるものと、それを生成する過程との間にはギャップがあり、これこそが人間に対して使うような語句が危険である理由だ。本来であれば、この技術の現実的な限界や危険性について議論すべきところを、AIを認識能力のある存在と見なすような用語を使うことで、懸念を矮小化したり、リスクを取り繕ったりすることになってしまう。
AIに魂はない
AIシステムには魂も動機も感情も道徳もない。電卓のキーを押し間違えたときに電卓が「謝罪」しないのと同様に、AIが正直さに駆られて「自白」することなどない。これらのシステムは、膨大なデータセットから学習した統計的な関係性に基づいて、テキストのパターンを生成しているにすぎない。
それだけのことだ。
人間らしく感じられる部分はすべて、非常に洗練された鏡に映し出された、われわれ自身の内面の投影にすぎない。
AIを擬人化することは、これらのシステムが実際には何であるかについて、人々に誤った考えを植え付けることになる。そして、それには代償が伴う。意識や感情的知性が存在しない実体にそれらを帰属させ始めると、われわれは本来信頼すべきではない方法でAIを信頼し始めてしまうのだ。
今日、資格を持った適切な臨床医を頼るのではなく、医療の助言を求めて「ドクターChatGPT」に頼る人が増えている。金融、情緒的な健康、対人関係といった分野でも、AIが生成した回答を頼りにする人々がいる。チャットボットと依存的な疑似友情関係を築き、LLMが吐き出すものであれば何でも自分の決定や行動の指針にするのに「十分だ」と思い込み、その指導に従う人さえいる。
AIについてどう語るべきか
企業が擬人化された言葉に頼ると、シミュレーションと感情（知覚）の境界線が曖昧になる。こうした用語は期待を膨らませ、恐怖を煽り、実際に注目すべき真の問題──データセットに含まれるバイアス、悪意ある行為者による悪用、安全性、信頼性、権力の集中──から目を逸らさせる。これらのトピックはいずれも、神秘的な比喩など必要としないものだ。
Anthropicから最近リークされた「Soul Document」（直訳すると「魂の文書」）を例に挙げよう。これは「Claude Opus 4.5」のキャラクター、自己認識、アイデンティティをトレーニングするために使われたものだ。この一風変わった内部文書は、形而上学的な主張をするためのものではなく、エンジニアたちがデバッグガイドの延長として即興で作ったようなものだった。しかし、こうした企業が密室で使っている言葉は、必然的に一般の人々の議論にも浸透していく。そして一度その言葉が定着すれば、技術に対するわれわれの考え方や、技術への接し方そのものを形成してしまう。
OpenAIによるAIの「画策（scheming）」に関する研究を見てみよう。ここでは、稀ではあるが欺瞞的な回答が見られたことから、一部の研究者はモデルが意図的に特定の能力を隠しているのではないかと結論付けた。AIの結果を精査することは良い習慣だが、チャットボットが独自の動機や戦略を持っているかもしれないと示唆することは良くない。OpenAIの報告書には実際、これらの挙動はトレーニングデータや特定のプロンプトの傾向による結果であり、欺瞞の兆候ではないと記されていた。しかし、「画策」という言葉が使われたために、議論はAIが一種の悪巧みをするエージェントであるかのような懸念へとすり替わってしまった。
もっと適切で、正確で、技術的な言葉があるはずだ。「魂」の代わりに、モデルのアーキテクチャやトレーニングについて語ればいい。「自白」の代わりに、エラー報告や内部整合性チェックと呼べばいい。モデルが「画策する」と言う代わりに、その最適化プロセスを説明すべきだ。われわれはAIについて、傾向、出力、表現、最適化手法、モデルの更新、トレーニングのダイナミクスといった用語を使うべきだ。これらは「魂」や「自白」ほどドラマチックではないが、現実に即しているという利点がある。
公平を期すために言えば、LLMの挙動が人間のように見えるのには理由がある。企業が人間を模倣するように訓練したからだ。
2021年の論文「確率論的オウムの危険性（On the Dangers of Stochastic Parrots）」の著者らが指摘したように、人間の言語やコミュニケーションを複製するように構築されたシステムは、最終的にそれを反映するものとなる。つまり、われわれの言葉遣い、構文、口調、ニュアンスを反映するのだ。その類似性は、真の理解を意味するものではない。モデルが最適化された通りのことを実行しているにすぎないのだ。チャットボットが現在のように説得力を持って模倣をすると、そこに人間性が存在しないにもかかわらず、われわれは機械の中に人間性を読み取ってしまうことになる。
言葉は人々の認識を形作る。言葉がいい加減だったり、魔法めいていたり、意図的に擬人化されていたりすると、一般の人々は歪んだイメージを持つことになる。その歪みによって得をするのはただ1つのグループだけだ。すなわち、LLMを実際よりも有能で、役に立ち、人間らしいものであるかのように見せることで利益を得るAI企業である。
もしAI企業が社会からの信頼を築きたいのであれば、最初のステップは単純だ。言語モデルを魂のある神秘的な存在として扱うのをやめることだ。AIに感情はない。感情があるのは、われわれ人間だ。われわれの言葉はそれを覆い隠すのではなく、その事実を反映したものであるべきだ。
この記事は海外Ziff Davis発の記事を4Xが日本向けに編集したものです。
Amazonのアソシエイトとして、CNET Japanは適格販売により収入を得ています。
