ELIZA効果は、1966年にMITのジョセフ・ワイゼンバウムによって開発された初期の自然言語処理プログラム「ELIZA」に由来する現象で、人間がコンピュータの応答を、実際には存在しない知性や感情が備わっているかのように解釈し、過剰に人間的な属性を投影してしまう心理的な傾向を指します。

この効果は、AIが単純なキーワードマッチングやパターン認識に基づいた応答しか生成していないにもかかわらず、対話相手である人間が、その応答の背後に深い理解や共感、意図を無意識に読み取ってしまう認知バイアスとして現れます。

具体的には、ELIZAが用いた「あなたの〜についてもっと教えてください」といった反復的な質問や、対話者の発言をオウム返しにする手法は、対話そのものを継続させることに成功しました。しかし、これはAIが対話の内容を真に理解しているわけではなく、プログラムされたルールに従っているに過ぎません。にもかかわらず、多くのユーザーはELIZAとの対話を通じて、まるで精神科医やセラピストと話しているかのような感覚を抱き、個人的な情報を打ち明けることさえありました。

このELIZA効果は、現代の対話型AIやチャットボット、特に大規模言語モデルにおいても重要な概念です。

ユーザーはAIの出力に対し、そのアルゴリズム的な性質を忘れ、あたかも人間とコミュニケーションしているかのように錯覚することがあります。

したがって、AI設計者は、この心理的効果がユーザーの期待を不必要に高め、誤解を招く可能性があることを認識し、AIの能力と限界を適切に開示する責任があると考えられます。