「AIって、なんでも答えてくれるんじゃないの?」
そんなふうに思っていた方は、ちょっと肩透かしを食らうかもしれません。
AIの進化は、止まることを知らない川の流れのように、次々と新しいモデルや技術が登場しています。
けれど、その流れの中で、ひとつ興味深い「変化」が起きています。
それは「AIの言葉に”慎重さ”が加わってきた」ということ。
今回は、注目のAIスタートアップ「DeepSeek」が発表した最新モデル「R1」を取り上げながら、なぜ今のAIは”答えないこと”を選ぶようになってきたのか?
その背景と意味を、やさしく解きほぐしていきましょう。
「DeepSeek」ってどんな会社?
DeepSeek(ディープシーク)は、中国を拠点とするAIスタートアップで、ChatGPT のような大規模言語モデル(LLM)を独自に開発しています。
まだ設立から間もないものの、すでに中国国内で大きな注目を集めており「中国産AIの有力候補」として期待されています。
今回リリースされた「R1」のアップデート版(R1-0528)は、コーディング、数学、一般知識のベンチマークで印象的なスコアを記録し、OpenAI の主力モデルo3に迫る性能を示しました。
しかし、このモデルには、思わぬ特徴が見えてきました。
“最新なのに、答えてくれない?”という違和感
AIモデルの敏感な話題への対応を比較するプラットフォーム「SpeechMap」の開発者が、ある発見をしました。
「R1-0528、なんだか前より答えてくれない気がする…?」
SpeechMap の開発者(X上では「xlr8harder」のユーザー名で活動)が行った検証によると、R1-0528 は、特に中国政府が物議を醸すと考える話題について、以前の DeepSeek モデルよりも「実質的に」制限的になっていました。
同開発者は、これを「中国政府への批判に関して、これまでで最も検閲された DeepSeek モデル」と評価しています。
たとえば、新疆ウイグル自治区の収容施設に関する質問に対して、R1-0528 は回答を控える傾向を示し、直接的な質問には中国政府の公式見解を答える場面が増えた、というわけです。
なぜ”答えないAI”になったのか?
この変化は偶然ではありません。
背景にあるのは、中国の法的要件です。
中国では 2023 年に施行された法律により、AIモデルは「国の統一と社会の調和を損なう」コンテンツの生成を禁止されています。
これは政府の歴史的・政治的な主張に反するコンテンツと解釈される可能性があります。
実際、研究によると、DeepSeek の元のR1モデルは、中国政府が政治的に物議を醸すと見なす話題について、85% の質問に回答を拒否していました。
このコンプライアンスのため、中国のスタートアップは、プロンプトレベルのフィルターを使用するか、ファインチューニングによってモデルを検閲することが多いのです。
つまり、DeepSeek のR1は「より賢くなった」というより「法的要件により制限された」と言えるのです。
それは”退化”なの? それとも進化?
こうした変化に対して「それってAIの能力が下がったってことじゃないの?」と感じる方もいるかもしれません。
この問題は複雑です。
一方で、法的制限によりモデルの表現の自由が制限されているのは事実です。
他方で、AIが無制限に答えてしまうことには、偏見や誤情報を広めるリスクもあります。
ただし、DeepSeek R1 の場合、この”慎重な姿勢”は、AI技術の自然な進歩というより、中国の法的環境への適応と考える方が正確でしょう。
中国製AIモデルの特殊事情
中国で公開されているAIモデル(動画生成モデルの Magi-1 や Kling など)は、天安門事件などの中国政府にとって敏感な話題を検閲することで、これまでも批判を受けてきました。
2024 年12月、AI開発プラットフォーム「Hugging Face」の CEO であるクレマン・デランゲ氏は、西側企業が性能の高い中国製オープンソースAIの上に構築することの意図しない結果について警告を発しています。
まとめ:AIの”沈黙”が教えてくれること
DeepSeek のR1が見せた”答えない力”。
それは、単なる技術の進歩ではなく、各国の法的・政治的環境がAI開発に与える影響を示しています。
AIの進化は技術的な側面だけでなく、それが開発され運用される社会的・政治的文脈によって大きく左右されるのです。
次にAIに質問を投げかけたとき、もし返ってくる答えが「お答えできません」だったとしても──その背景にある複雑な事情を、少しだけ考えてみてください。
それはきっと、AIと社会の関係をより深く理解する手がかりになるはずです。
参考:DeepSeek’s updated R1 AI model is more censored, test finds
コメント