Modeling Reliance on XAI Indicating Its Purpose and Attention

前東 晃礼 Akihiro Maehigashi (静岡大学)，福地 庸介 Yosuke Fukuchi（NII），山田 誠二 Seiji Yamada（NII/SOKENDAI）

本研究では，そのプロセスの説明として目的や注目度を示すXAIを用い，これらの説明が人間のAIに対する信頼や利用にどのような影響を与えるかを調査した．本研究では，AIの注意を示すヒートマップを生成し，ヒートマップの解釈可能性の妥当性を確認する実験1を行い，目的およびヒートマップが依存（AIに依存する）および遵守（AIの回答を受け入れる）に与える影響を調べる実験2を実施した．構造方程式モデリング（SEM）分析の結果，(1)AIの利用目的表示は，AIの利用形態，依存・遵守，タスクの難易度によって信頼に正負の影響を与えること，(2)より難しいタスクではヒートマップを表示するだけで信頼に負に影響，(3)より難しいタスクではヒートマップの解釈性によって信頼に正の影響を与えることがわかった．