山田 誠二
国立情報学研究所教授
総合研究大学院大学 教授
東京工業大学 特定教授
HAI（ヒューマンエージェントインタラクション），IIS（知的インタラクティブシステム）の2つの研究分野を世界に先駆けて展開し，人とコンピュータシステム，マシンとの協調を目指して，人工知能，計算知能の方法を駆使したインタラクションデザインの工学的設計論を研究しています．
- HAI (Human-Agent Interaction)：人間と擬人化エージェント，人間とロボット，そしてエージェントを介した人間同士がうまく協調するためのインタラクションデザインを目指す新しい研究領域です．我々は，人間との協調作業を通じて，ユーザとながく付き合っていけるパートナーとしての擬人化エージェント，ロボットの実現に必要なインタラクションデザインのために，ちょっとした思いつきやセンスによる実装に留まるだけではなく，しっかりしたアルゴリズムや実験的検証に裏打ちされた設計論を開発することを目指しています．
- IIS (Intelligent Interactive Systems)：人間と機械学習・データマイニングシステムの知的なインタラクションデザインを目指す新しい研究領域です．我々のプロジェクトでは，人間の能力を最大限に活かす知的インタラクティブシステムの実現を最終ターゲットとして，従来の「人にやさしいマシン」から「人が適応しやすい知的システム」へのパラダイムシフトを基本的設計指針として，インタラクティブ機械学習・データマイニングアルゴリズムの開発から人間ーシステム間のインタラクションデザインまでの幅広いアプローチをとっています．
- 信頼較正 (trust calibration)：人間のAIに対する信頼(trust)を較正する信頼較正について様々なアプローチの研究を行っています．この研究プロジェクトは，山田が研究代表を務めるJST CREST『信頼されるAI』の山田チームとして行われています．詳しくは，山田CRESTのwebサイトをご覧下さい．
具体的な研究プロジェクトについては，研究プロジェクトをご覧下さい．
人工知能AIの健全な啓蒙・普及の一環として，山田はAIに関係する広いテーマで講演活動を行っています．ご希望の方は，山田 まで，直接メールをいただければ幸いです．．
山田の近況 (Only in Japanese)
JST CREST に採択されました！ 2021-9-25
山田が研究代表であるCREST提案が採択されました．来月から5.5年(2021.10～2027.3)の研究プロジェクトがスタートします．
テーマは，人間とAIの信頼校正 (trust calibration) で，適応的信念較正理論を構築して医療検診に応用します．以下が情報です．近々webページを公開予定．
・研究課題名：『納得感のある人間-AI協調意思決定を目指す信頼インタラクションデザインの基盤構築と社会浸透（研究代表者：山田誠二 (国立情報学研究所)）』
・CREST研究領域：『信頼されるAIシステムを支える基盤技術 [信頼されるAIシステム]（研究総括：相澤彰子 (国立情報学研究所)）』
・研究概要：「信頼されるAI」の目的の一つに，様々な場面における人間とAIの協調意思決定の実現があります．本研究では，人間とAIが互いに相手を適切に信頼できる関係の構築を目指して，人間の行動からAIに対する信頼レベルを判定し，人間自身による過信・不信の是正を促すことができる信頼較正AIを開発します．そして，人間-AI協調画像診断，人間-AI協調肺がん検診と1歳6ヶ月児協調健診において，大規模実験と実稼働を達成します．
人間に意図推定を促すAIエージェントの論文が Frontiers in AI に掲載 2021-9-20
中橋 亮さん（総研大D6），山田の下記論文が，Frontiers in Artificial Intelligenceにacceptされました．自らの行動（非明示的フィードバック）を人間に見せることで人間に自然な意図推定を促すことができるAIエージェントの研究です．
- Nakahashi, R., & Yamada, S. (2021-09). Balancing Performance and Human Autonomy With Implicit Guidance Agent. Frontiers in Artificial Intelligence, 4. DOI: https://doi.org/10.3389/frai.2021.736321
世界初のナッジエージェント論文がICSR2021にaccept 2021-8-30
杭 陳琳（コウ チンリン）さん（総研大D2），小野哲雄教授（北大），山田の下記論文が，The Thirteenth International Conference on Social Robotics (ICSR2021)にacceptされました．ナッジ技術を導入したビデオ刺激によって人間の利他性を促進することができるナッジエージェントに関する初の国際会議論文です．
サブゴールを使った強化学習の論文がIEEE Accessに掲載 2021-6-20
奥戸嵩登くん（総研大D4）と山田の下記論文が，IJCNN2021にacceptされました．．サブゴール知識を利用すたreward shapingにより強化学習を高速化するアルゴリズムSRS(subgoal-based reward shaping)の初のトップジャーナル論文です．この研究は，先にIJCNN2021で発表されたDTAの一つ前のアルゴリズムです．
- Okudo Takato and Seiji Yamada: Subgoal-based Reward Shaping to Improve Efficiency in Reinforcement Learning, IEEE Access, 13 pages (June, 2021) DOI: 10.1109/ACCESS.2021.3090364
強化学習論文がIJCNN2021にaccept 2021-4-10
奥戸嵩登くん（総研大D4）と山田の下記論文が，IJCNN2021にacceptされました．．サブゴール知識を利用する高速強化学習アルゴリズムDTA(dynamic trajectory aggregation)の初のトップカンファレンス論文です．この研究は，奥戸くんの博士論文研究のコアアルゴリズムなので，まずはよかったです．この後，一つ前のアルゴリズムSRSの論文が続きます．
IEEE Accessに適応的信頼較正の論文が掲載 2020-12-18
岡村和男さん（パナソニック，今秋総研大卒業）と山田の下記論文が，IEEE Accessに掲載されました．博士の研究成果の一部です．適応的信頼較正を様々な実験で検証しています．また，UMLでタスク分析をやっている点も興味深いと思います．さらに，この研究テーマは続きます．
- Kazuo Okamura, Seiji Yamada Empirical Evaluations of Framework for Adaptive Trust Calibration in Human-AI Cooperation (2020) 04 December 2020, DOI: 10.1109/ACCESS.2020.3042556
山田が監修した書籍が出版されました． 2020-3-20
山田が監修した下記の書籍が出版されました．小学校の図書館向けの本ですが，一般販売もあるようです．これを読んでAI研究者や開発者になろうと思う子どもたちが現れるといいなーと思います．
山田誠二（監修），『AIとともに生きる未来1 知ろうAIというプログラム (1)』，文溪堂，2020/2/3．
>> 過去のすべてのブログ