XAI(説明可能なAI)そのとき人工知能はどう考えたのか?
ひとこと紹介
LIME、SHAP、ICEなど、機械学習の解釈に関する幅広い技術を Python による実装例とともに解説したもの。
感想
なぜAIの出力に対する説明が必要か→どんな説明方法があるか→実際にどう説明していくか、と非常に読みやすい流れでした。手法に関しても表形式データ、画像データ、テキストデータそれぞれに対して解説されており、その網羅性がとてもありがたいです。大局的説明、局所的説明について詳しく述べられている点も初学者が迷子にならないことに役立っていると思います。説明手法の解説だけにとどまらない、説明の必要性の背景的な話や、モデリングと説明の実際の流れなど丁寧に書かれており大変重宝しております、もはや機械学習に手を伸ばしたい初学者の方はこの本から入るのもいいのではと思いました。細かいですが、Python の環境構築の部分を conda 等ではなく pyenv + venv で説明している点も個人的には好きなポイントでした。これにケーススタディのようなものがあったらさらに良かったかと思います。