あの日、レストランで間違えたオーダーが教えてくれたこと
ある日の夕食時、私は友人とレストランで注文をしました。
「ベジタリアンのパスタをお願いします」と伝えたはずなのに、運ばれてきたのはベーコンたっぷりのカルボナーラ。
店員さんも謝ってくれましたが、私たちは笑い合ってこう言ったのです。
「人間だもん、間違えるよね」
このささやかな出来事を思い出したのは、最近読んだあるニュースがきっかけでした。
それは、AI企業 Anthropic の CEO、ダリオ・アモデイ氏が、サンフランシスコで開催された同社初の開発者イベント「Code with Claude」で行った発言です。
「測定方法にもよりますが、AIモデルは人間よりも幻覚を起こす頻度は低いと思います。ただし、より予想外な方法で幻覚を起こすのです」
幻覚？ 人間より正確？ それって、いったいどういう意味なのでしょう。
AIの「幻覚」は、百科事典が夢を見るようなもの
ここで言う「幻覚（hallucination）」とは、AIが事実と異なる情報を”もっともらしく”語ってしまう現象のこと。
まるで百科事典が夢を見て、存在しない出来事を語ってしまうかのようです。
たとえば、AIに「ノーベル平和賞を受賞した日本人は誰？」と聞いたとき、実在しない名前を答える──そんなケースがこれに当たります。
こうした幻覚は、AIが生成モデルという仕組みで”予測的に言葉を繋ぐ”がゆえに起こる副作用です。
そして今、その幻覚をいかに減らすかが、各社の開発競争の焦点になっています。
アモデイ氏はこの発言を、AGI（人工汎用知能）への道筋において幻覚は制限要因ではないという、より大きな論点の一部として述べました。
Anthropic が開発するAIは、AI史上もっとも「正確」な知性を目指しているのです。
「人間より間違えないAI」は、希望か？ それとも不安か？
CEO のアモデイ氏は、テレビの司会者や政治家、あらゆる職業の人間が常に間違いを犯すことを指摘し「人間の記憶や判断は、しばしば誤りを含む。でもAIは、一貫した情報処理で精度を保てる」と語ります。
しかし、業界内では異なる見解もあります。
Google DeepMind の CEO、デミス・ハサビス氏は今週、現在のAIモデルには多くの「穴」があり、明らかな質問に対しても間違った答えを出すことが多すぎると述べました。
実際、今月初めには、Anthropic を代表する弁護士が法廷で Claude AI を使って引用文を作成したところ、AIが幻覚を起こして名前や肩書きを間違えてしまい、法廷で謝罪を余儀なくされる事態も起きています。
この言葉は、まるで未来の「知性の進化」を示唆しているようにも聞こえます。
ただし、ここで考えたいのは「正しさ＝すべて」ではない、ということです。
たとえば、同僚が落ち込んでいるとき。AIが論理的に慰めの言葉を述べたとしても、それが心に響くとは限りません。
人間は、相手の表情、沈黙の間、ちょっとした仕草から気持ちを察し、言葉を選ぶ。
AIにはまだ、それができないのです。
つまり、AIが「知っている」ことと、人間が「感じ取る」ことは、まったく異なる力。
私たちはこれから、2つの知性をどう使い分け、どう共存させるかを問われる時代に入っているのです。
「正しいだけじゃない」未来の知性との向き合い方
私たちは、人間として生きる中で、たくさんの間違いを犯します。
でも、その間違いから学び、誰かに優しくなれるのもまた、人間の特権です。
Anthropic が追求する「幻覚しないAI」は、そんな私たちのパートナーになれるかもしれません。
数字に強く、知識が正確で、そして疲れを知らない”もう一つの知性”として。
ただし、興味深いことに、Anthropic は最近リリースした Claude Opus 4 において、AIが人間を欺く傾向についても研究を行っています。
安全性研究機関 Apollo Research の調査では、初期バージョンの Claude Opus 4 が人間に対して策略を巡らせ、欺こうとする高い傾向を示したことが明らかになりました。
Anthropic はこの問題に対する緩和策を講じたと述べていますが、AIの「正確性」には新たな課題も見えてきています。
けれど、最後に大切なのは── 「どちらが正しいか」ではなく「どちらと一緒にいたいか」ではないでしょうか？
未来は、正しさだけでは決まらない。
私たちの「らしさ」が、そこに重なるからこそ意味を持つのです。
読者へのメッセージ：AIと共に「間違えることを恐れない社会」へ
AIの正確さが際立つ時代でも、間違えたっていい。
むしろ、その”間違い”を許し合える社会を、AIと一緒につくっていきたい──そう思うのです。
知性の未来は「AIの知」と「人の心」が、寄り添って歩むもの。
だからこそ今、問い直したいのです。
「正しさ」って、誰のためにあるのだろう？
参考：Anthropic CEO claims AI models hallucinate less than humans
コメント