Selectively Providing Reliance Calibration Cues With Reliance Prediction

福地 庸介 Yosuke Fukuchi（NII），山田 誠二 Seiji Yamada（NII/総研大）

意思決定に機械学習を応用した知的エージェントと人間が効果的に協働するためには，人間がエージェントにできること，できないことを理解し，過不足のない依存を避ける必要があります．この問題の解決策として，人間がエージェントの能力を評価するのに役立つRCC（Reliance Calibration Cue）を用いたコミュニケーションを通じて，人間の信頼度を調整することが挙げられます．これまでの研究では，RCCを継続的に提示することで信頼度を校正することが一般的であったが，エージェントがいつRCCを提供すべきかは未解決のままである．そこで，我々は，RCCを選択的に提供する手法であるPred-RCを提案する．Pred-RCは，認知的信頼性モデルを用いて，人間がエージェントにタスクを割り当てるかどうかを予測する．RCCがある場合とない場合の予測結果を比較することで，RCCが人間の信頼性に与える影響を評価する．Pred-RCを人間とAIのコラボレーションタスクでテストしたところ，RCCの数を減らしても人間の信頼性をうまく較正できることがわかった．