～生成AIの説得力が人の意思決定にもたらす影響とは～

MITxPRO

MITの提供する生成AIのオンラインコースより。

Pattie Maes教授

https://www.media.mit.edu/people/pattie/overview/

元々メディアアート&サイエンスがご専門のようですが、近年は生成AIを人の意思決定にどのように使うべきか、について研究されているようです。

最近の教授の研究について、一つご紹介しておきます。

AIが生成した欺瞞的説明、つまりユーザーをだますように仕向ける説明は、正確で正直な説明よりも多くの人に信じられやすく、誤ったニュースの見出しへの信念を強め、逆に正しい情報への信頼を弱めることがわかりました。

しかし、AIの説明が論理的に妥当でないと、その説得力は低くなり、信じられにくいことが分かりました。

AIが作る説明の中に論理的な誤りを見抜ける力をつけるため、論理的思考や批判的な考え方を身に着けることの大切さを示しています。

- 論文”説明を与える欺瞞的なAIシステムは、正直なAIシステムよりも説得力があり、誤った情報への信頼を増幅させる可能性がある (Deceptive AI systems that give explanations are more convincing than honest AI systems and can amplify belief in misinformation)”　より-