AIが知ったかぶりをやめた日──MIT 発スタートアップが起こす「ハルシネーション革命」

あなたの質問に、自信満々にウソをつくAI

「来週のパリで面白いイベント、何かある？」
ある日、AIにそう聞いてみたら、魅力的なイベント情報が返ってきた。
ところが、後で調べてみると、そんなイベントはどこにも存在しない――。

そんな経験、ありませんか？
実は、これはAI特有の現象で「ハルシネーション」と呼ばれています。
まるで夢でも見ているかのように、AIがもっともらしく作り話をするのです。

しかし今、MIT 発のあるスタートアップが「AIに知らないことを認めさせる」画期的な技術を開発中だというのです。

そのスタートアップの名前は「Themis AI」。
彼らが開発した「Capsa」プラットフォームの目標は、これまでのAIとは真逆とも言える存在──つまり「知ったかぶりをしないAI」を生み出すこと。

通常のAIは、膨大なテキストからパターンを学び、次に来る”それっぽい言葉”を予測して返す、いわば「とにかく話してしまう」タイプ。
でも Themis AI のシステムは違います。
自信がなければ、黙るか「それは分かりません」と正直に言うのです。

これはまるで、うっかり知ったかぶりしてしまう友人ではなく「それは分からないけれど、一緒に調べてみよう」と言ってくれる誠実な友人のよう。

こうした仕組みを実現するために、Themis AI は情報処理の際に混乱や偏見、不完全なデータがハルシネーションにつながるパターンを検出し、不確実性を明確に示す新しいAI設計を導入しています。

この技術が特に期待されているのが、医療・法律・教育といった「間違いが致命的になりかねない」分野です。

たとえば、医師が診断補助としてAIを使ったとき、AIが「おそらく○○病です」と誤って伝えてしまえば、治療の方向性が狂ってしまう恐れがあります。

でも、もしそのAIが「その症状については判断が難しい」と正直に言えたなら？
それは危険な誤診を回避し、人の命を守る判断につながるはずです。

実際、Themis AI は薬物発見の分野で、AIが確信を持てる薬剤候補のみに焦点を当てることで、時間とコストの大幅な節約を実現する研究成果を発表しています。

教育現場でも同様です。
生徒が質問したとき、AIが「わからない」と言ったうえで「こう調べればヒントが見つかるかも」と導けるとしたら、それはただの答え以上の価値を持つ”学び”になります。

かつて私たちは、AIに「なんでも知っていること」を期待していました。
しかし今、時代は変わろうとしています。

「完璧じゃなくてもいい。正直であってほしい」
そんな人間的な価値観が、AIにも求められるようになってきたのです。

2021 年に設立された Themis AI は、MIT 教授のダニエラ・ルス氏をはじめとする研究チームが、自動運転車の安全性向上から始まった研究を発展させ、現在では通信会社や石油・ガス会社でのネットワーク計画エラーの回避や複雑な地震データの解析にも応用されています。

Themis AI の挑戦は、単なる技術革新ではありません。
“分からない”という勇気が、AIと私たちの関係に新しい信頼の形を生み出そうとしています。

あなたがAIに何かを尋ねたとき「それはわかりません」と返されたら――それを失望と受け取りますか？
それとも、信頼のはじまりだと感じるでしょうか。