Empirical investigation of how robot’s pointing gesture influences trust in and acceptance of heatmap-based XAI

前東 晃礼 Akihiro Maehigashi（静岡大学），福地 庸介 Yosuke Fukuchi（NII），山田 誠二 Seiji Yamada（NII/総研大）

本研究では，ロボットの注意ヒートマップを表示しながらロボットがポイントジェスチャーを行うことが，ロボットの出力に対する人間の信頼や受容にどのような影響を与えるかを検討した．我々は，2種類の視覚タスクを用いた実験を実施した．これらのタスクでは，参加者はAIやロボットの回答を受け入れるか拒否するかを決定する必要があった．参加者は，AI注目ヒートマップ，AIポインティング付きヒートマップ（レーザードットカーソルとして表示），ロボットポインティング付きロボット注目ヒートマップ（棒付きタブレットに表示されたヒートマップの特定の場所をポインティング），またはヒートマップなしで回答を見ることができました．実験の結果，より難易度の高い課題において，ヒートマップの解釈可能性が低い場合，AIとロボットによる注意ヒートマップの指差しが，参加者の回答の受容性を低下させることが明らかになりました．また，ロボットがヒートマップを指差すことで，より難しいタスクでヒートマップの解釈可能性が高い場合，その答えの受容性が高まる可能性が示されました．さらに，ロボットの回答に対する受容性は，ロボットに対する感情的信頼と相関していた．本研究は，ロボットが注目ヒートマップを指し示すジェスチャーを用いることで，人間とロボットの相互作用における人間の行動や感情的信頼を制御できる可能性を示している．