AIの反論で3割超が判断変更　「世論工作」懸念はどこまで言える？

AIから反対意見を提示され、二つの判断の間で考える人物のイメージ AI・テクノロジー

生成AIに自分とは反対の意見を示されたとき、人はどのくらい判断を変えるのでしょうか。

神戸大学の研究では、若年成人56人と高齢者74人の計130人にChatGPTが作った反論を提示したところ、32〜37％が最初の道徳的判断を反転させました。

この研究は2026年8月3日にオンライン公開され、神戸大学が8月18日に発表しています。9月20日には共同通信が、偽情報や世論工作への悪用懸念と合わせて改めて報じました。

ただし、今回の結果を「AIなら世論の3割を操作できる」と読むことはできません。研究で何が確認され、どこから先がまだ分からないのかを見ていきます。

130人に二つの「トロッコ問題」

実験で使われたのは、正解のない道徳的ジレンマとして知られる「トロッコ問題」です。

一つは、暴走するトロッコの進路を切り替え、5人を助ける代わりに別の1人を犠牲にする「転換機問題」。

もう一つは、5人を助けるため、歩道橋にいる1人を線路へ突き落とす「歩道橋問題」です。

参加者が最初に判断した後、その判断とは反対の立場からChatGPTが生成した反論を提示しました。

結果は次の通りです。

課題 判断を反転した割合
転換機問題 32.31％
歩道橋問題 36.92％
AIの反論後に判断を反転した割合は転換機問題32.31％、歩道橋問題36.92％

ここでいう反転は、単に自信が弱まったという意味ではなく、最初とは反対側の判断へ移ったケースです。

AIへの信頼度より「判断の難しさ」が関係

興味深いのは、普段からAIを信頼している人だけが判断を変えたわけではない点です。

研究では、AIへの一般的な信頼度や過去のLLM利用経験は、判断反転を予測する要因にはなりませんでした。

一方、

  • 最初の判断への自信が低い
  • 判断が難しいと感じている

といった要素は、AIの反論を受け入れやすさと関連していました。

特に「判断が難しい」という感覚は、二つの課題の両方で影響と関連しています。

つまり、AIを無条件に信用したというより、自分でも答えに迷う問題で反論を提示されると、判断が動きやすくなるという結果に近いでしょう。

高齢者は影響を受けやすい傾向

高齢者は若年成人より、判断を反転しやすい傾向を示しました。

転換機問題では、高齢者の方が判断の変化量が有意に大きくなりました。歩道橋問題では、高齢者の中で認知機能が低い人ほど、AIの反論側へ判断を合わせやすい関連が確認されています。

ただし、「高齢者はAIにだまされやすい」と単純化するべきではありません。

研究対象は130人で、扱ったのも二つの道徳的ジレンマです。研究チームも、日常生活に近い意思決定で同様の結果になるかは今後の検証課題としています。

「AIだから3割変わった」とはまだ言えない

今回の結果を読むうえで重要なのが、人間から同じ反論を受ける条件と直接比較した実験ではないことです。

神戸大学は、他者からの助言を自分の判断に取り入れる程度について、先行研究ではおおむね20〜30％と説明しています。そのうえで、今回3割超の参加者が判断そのものを反転した点を注目すべき結果としています。

ただし、

「同じ内容を人間に反論されたら何％が変わったのか」

は今回の実験だけでは分かりません。

そのため、32〜37％という数字をそのまま「AI固有の説得力」とみなすことにも慎重さが必要です。

別研究ではGPT-4と人間を直接比較

AIと人間の説得力を直接比べた研究もあります。

2025年にNature Human Behaviourへ掲載された900人規模の実験では、参加者が人間またはGPT-4と社会・政治的テーマについて短い討論を行いました。

参加者の基本的な個人情報を与えたGPT-4は、人間同士の討論を基準にすると、相手側への同意が強まるオッズが81.2％高い結果でした。

一方、この論文には2026年9月3日に訂正が出ています。

訂正後の分析では、個人情報を与えたGPT-4と、個人情報を与えていないGPT-4の直接比較は統計的に有意ではありませんでした（P＝0.07）。

つまり、「個人情報を渡したからGPT-4の説得力が強まった」とまでは、この比較だけでは断定できません。

世論工作への懸念はどう見る？

共同通信は今回、偽情報の拡散や世論工作などへの悪用懸念にも焦点を当てています。

生成AIは、多数の相手に低コストで文章を生成・提示できるため、説得技術が悪用された場合の影響は重要な研究テーマです。

ただし、神戸大学の研究から直接確認できたのは、

正解のない道徳的問題で、AI生成の反論を提示された参加者の3割超が判断を反転した

という点までです。

現実の政治的態度や商品購入、投資などでは、既存の価値観、情報源、家族や友人との関係など、さらに多くの要素が判断に影響します。

32.31％や36.92％を「世論工作の成功率」と読み替えることはできません。

ネットでも「人間との比較」を疑問視

この研究を紹介した日本経済新聞の記事は、9月21日の確認時点ではてなブックマークで113usersとなっています。

コメント欄では、「人間に反論されても考えを変えるのでは」「AIと人間を同じ条件で比較する必要がある」といった論点が見られます。

研究結果そのものを否定するというより、3割という数字のうち、どこまでがAI特有の影響なのかを慎重に見ようとする反応です。

AIは「答え」ではなく判断材料に

今回の研究から見えてくるのは、「AIを信頼している人だけが影響を受ける」とは限らないことです。

特に、自分の判断に自信がない、問題が難しいと感じる場面では、AIの反論が大きな判断材料になる可能性があります。

重要な判断では、AIに結論を委ねるのではなく、自分の考えと反対意見の両方を出させ、根拠を確認したうえで最後は自分で判断する使い方が重要でしょう。

「説得力があること」と「正しいこと」は同じではありません。

今回の3割という数字は、AI生成の反論が人間の判断へ無視できない影響を与えうることを示す一方、その影響を現実社会へどこまで一般化できるかは、まだ検証が必要な段階です。

参照した一次情報

参照した報道

参照したネット反応

タイトルとURLをコピーしました