各種イノベーション・新発明・新技術など

582：荷主研究者：2021/06/05(土) 19:37:25: https://www.nikkan.co.jp/articles/view/00596955?isReadConfirmed=true
2021/4/29 05:00 日刊工業新聞
ＡＩの判断根拠説明、妥当性を評価　東北大・阪大が方法論

　東北大学の塙一晃研究員と乾健太郎教授、大阪大学の原聡准教授らの研究グループは、「説明可能な人工知能（ＡＩ）」が一般ユーザーに適切な判断根拠を示せるかどうかを評価する方法論を構築した。大量のデータを学習して分類するＡＩでは、分類に強く影響した訓練データを根拠として提示する。従来の手法では違う分類の訓練データを根拠に選んでしまうことがあると数理的に証明した。

　判断根拠の説明はユーザーがＡＩを信頼するための重要なプロセス。例えば動物判定ＡＩでは猫の写真を猫と判定する根拠として、訓練時に学んだ猫のデータを提示する。この根拠のデータ選びに犬や馬などの違う分類のデータを選ぶ可能性があることを証明した。

　ユーザーにとってはＡＩから「猫と判定した根拠は犬の写真を犬と学習したため」と説明されることになる。典型例から外れたデータの判断への影響度が大きく、根拠に選ばれることがあった。

　従来手法はＡＩ開発の不具合探しには使えるが、ユーザーから納得や信頼を引き出すのが難しくなる。データの類似度を基に根拠を選ぶ方が納得しやすくなる。成果は国際会議「ＩＣＬＲ２０２１」に採択された。

(2021/4/29 05:00)

新着レスの表示

※書き込む際の注意事項はこちら

※画像アップローダーはこちら

（画像を表示できるのは「画像リンクのサムネイル表示」がオンの掲示板に限ります）

掲示板管理者へ連絡無料レンタル掲示板