一昔前のネットでは嘘を嘘であることを見抜けることが大切であったが、昨今のAI事情ではAIの回答を鵜呑みにせず、批判的に考えることが必要である。

しかし、

  1. 知識がなく、回答の問題点に気が付けない
  2. 回答によって理解したつもりになり、追加の疑問が生じにくくなる
    理論的で詳しいほど、理解できたように感じる
  • 流暢性バイアス

SNSやYoutubeと対話型AIによる情報提示の違い

  • SNS・Youtube
    • 発信者の存在が見える
    • 個人の意見として認識しやすい
    • 異論や対立が目に入る場合がある
      • 情報の取得時点ですでに複数人が口論していることは珍しくない
    • 複数の情報を比較する必要がある
      • 前後関係の把握など
  • 対話型AI
    • 多数の情報が1つの回答として統合される
    • 客観的な説明として受け取りやすい
    • 異論が提示されないまま回答が完結し得る
    • 1つの回答で理解が完結しやすい

SNS・Youtubeも偏った情報やエコーチェンバーの問題はあるが、対話型AIは様々な立場や解釈を、あたかも一つの整合的な説明であるかのように提示する。AIは多数派の見解から少数派の見解 、誤情報までもが、もっともらしい一つの回答にまとめられる。しかし、その背後にある意見の対立などは見えてこない。


Microsoft Researchなどによる2025年の研究では、319人の知識労働者を調査し、AIに対する信頼が高い人ほど、AIを利用する作業で批判的思考を行う程度が低いという関連が報告されました。

  • 説明が詳しいほど、誤った回答も信じやすくなる
    • 2025年の別の実験では、AIが説明を付けることで、正しい回答だけでなく、誤った回答への依存も増えることが確認されました。
    • 自己申告に基づく調査であり、AIが思考力を低下させたという因果関係の証明ではありません。Microsoft Research
  • 説明が詳しいほど、誤った回答も信じやすくなる
  • 難しい問題ほど、AIの説明を検証しにくい
    • 2024年の実験では、AIによる説明は簡単な判断では過信を減らしましたが、難しい判断になるにつれて効果が失われ、最も難しい問題では過信を増やす可能性が示されました。
      fortiss