• Yuya Yoshikawa, Masanari Kimura, Ryotaro Shimizu, Yuki Saito, “Explaining Black-box Model Predictions via Two-level Nested Feature Attributions with Consistency Property,” The 34th International Joint Conference on Artificial Intelligence (IJCAI2025), Montreal, Canada, Aug. 2025 (to appear). [arXiv]
• Ryotaro Shimizu, Takashi Wada, Yu Wang, Johannes Kruse, Sean O’Brien, Sai HtaungKham, Linxin Song, Yuya Yoshikawa, Yuki Saito, Fugee Tsung, Masayuki Goto, Julian McAuley, “Disentangling Likes and Dislikes in Personalized Generative Explainable Recommendation,” The ACM on Web Conference 2025 (WWW2025), Sydney, Australia, Apr. 2025. [paper]
• Masato Saito, Hirofumi Haraguchi, Ikumi Nakajima, Shinya Fukuda, Chenghua Zhu, Norio Masuya, Kazunori Matsumoto, Yuya Yoshikawa, Tomoki Tanaka, Satoshi Kishigami, Leona Matsumoto, “A machine learning model for predicting fertilization following short-term insemination using embryo images,” Reproductive medicine and biology, Volume 24, Pages e12649-, Apr. 2025. [paper]

タイトル

Instance AttributionとFeature Attributionの一貫性制約を満たす集合関数の局所説明法

著者

吉川友也, 木村 正成（ZOZO Research）, 清水 良太郎（ZOZO Research）, 斎藤 侑輝（ZOZO Research）

概要

集合関数に対する局所説明では、集合の要素（インスタンス）がどのように寄与するかのInstance attribution (IA)と、各要素の特徴量がどのように寄与するかのFeature attribution (FA)の2つが考えられる。IAはそのインスタンスを構成する特徴のFAの合計と一致すると考えるのが自然であり、説明の一貫性の観点でも重要なことであるが、既存説明法を用いた場合、その一致性を達成することは困難である。本研究では、IAとFAの一貫性制約の下でこれらを同時に推定するモデル非依存の局所説明法を提案する。実験では、提案法を用いることでIAとFAが一貫した説明が可能になることを示すとともに、より少数の集合関数の実行回数で高精度な説明が得られることを示す。

講演タイトル

メタ動画データセットによる動作認識の現状と可能性

概要

人の動作認識の研究のため、規模や動作ラベルの粒度等が異なる様々な動画データセットが数多く公開されている。しかし、モデルを学習する際は単一のデータセットのみを用いることが多く、豊富なリソースを活かしきれていない。本講演では、動作ラベルの関係性を利用して複数のデータセットを繋げたMeta Video Dataset (MetaVD)を紹介し、複数のデータセットを利用して目的のデータセットに適した動作認識モデルを構築する取り組みを紹介する。また、MetaVDを活用した研究の今後の展望について議論する。

スライド

講演タイトル

説明可能AI：代表的手法と最近の動向

概要

最近の深層学習モデルは様々なAIシステムで実用化されているが、その中身はブラックボックスになりがちである。しかし、医療や自動運転等のハイリスクなAIシステムで使用する場合には、モデルの出力の根拠や振る舞いの透明性を確保することが重要である。これを実現する技術は説明可能AI (Explainable AI)と呼ばれている。本講演では、説明可能AIの概要及び代表的な手法を説明するとともに、最近の動向を紹介する。

スライド

論文情報

Yasunori Yamamoto, Shusaku Egami, Yuya Yoshikawa, Ken Fukuda, “Towards Semantic Data Management of Visual Computing Datasets: Increasing Usability of MetaVD,” Proceedings of the ISWC 2023 Posters, Demos and Industry Tracks co-located with 22nd International Semantic Web Conference (ISWC2023), Athens, Greece, Nov. 2023. [paper]

タイトル

説明器に忠実な説明をさせるための最適化法

発表者

吉川友也; 岩田具治 (千葉工業大学; NTT)

概要

予測に対する説明の品質は、説明の忠実性、すなわち、説明が予測モデルの振る舞いをどれだけ正しく反映しているかで評価されることが多い。 説明の忠実性を定量評価するために、画像に対しては挿入・削除メトリクスがよく用いられる。 本発表では、微分可能な挿入・削除メトリクスを導入し、これを正則化に利用することで、説明器が忠実な説明を出力できるように予測モデルを最適化する方法を提案する。

予測に対する説明の品質は、説明の忠実性、すなわち、説明が予測モデルの振る舞いをどれだけ正しく反映しているかで評価されることが多いです。 説明の忠実性を定量評価するために、画像に対しては挿入(Insertion)・削除(Deletion)メトリクスがよく用いられます。 この研究では、微分可能な挿入・削除メトリクスを導入し、これを正則化に利用することで、説明器が忠実な説明を出力できるように予測モデルを最適化する方法を提案しました。

本研究は、NTTコミュニケーション科学基礎研究所の岩田具治さんとの共同研究です。

以前の研究で、複数の動作認識データセットを用いた動作認識モデルの学習に活用することを目的として、Kinetics-700やActivityNet等の動作認識データセットの間で、動作クラス間の関係性を人手でアノテーションしたメタデータセットMetaVDを構築しました。 MetaVDを用いるとデータセット拡張により動作認識の汎化性能を上げられる可能性があるのですが、MetaVDでまだ考慮されていないデータセットに関してはその恩恵が受けられない状態でした。 そこで本研究では、動作クラスに紐づく言語情報と動画情報から動作クラス間の関係性予測の方法を提案し、MetaVD外の動作認識データセットをMetaVDに自動的に取り込める可能性を示しました。

講演タイトル

説明可能AIのこれまでとこれから

概要

複雑なAIの振る舞いを説明する「説明可能AI」は、AIの透明性を高めるために重要な技術の一つである。有名なところでは、LIME、SHAP、GradCAMといった手法があり、深層ニューラルネット等による予測の根拠を人間が理解できるように提示することが可能である。この他にも様々なアプローチが提案されているため、本講演では、説明可能AIのこれまでの話として、どのような説明可能AIの研究が行われてきたのかを紹介する。その上で、ChatGPTやStable Diffusion等の最近の生成AIの進展を踏まえて、これから先の説明可能AIの可能性や課題について議論する。

講演資料

講演動画