2024.03.01 お役立ち情報

〇ＡＩ診断　正解でも「考え方が正しいとは限らない」 東北大　新たな訓練法開発で「医学的妥当性高めよ」

　東北大の研究グループは２月28日、人工知能（ＡＩ）による医用画像診断について、「答えは正しくても考え方が正しいとは限らない」と、医学的な妥当性に懸念があるとの研究成果を公表した。今後、新たな訓練法の開発など、さらなる検証と対策を進めることで、医用画像診断ＡＩの「落とし穴」をふさぎ、より安全性の高いＡＩの臨床応用つなげることに期待感を示した。

　ＡＩは、深層学習などの新技術により、医療分野でも画像診断に応用されており、専門医に匹敵する高い性能を示すとの報告も数多く寄せられている。
　東北大の研究グループは、「実際の臨床現場で同じ高性能を発揮できるのか」「深層学習モデルが注目した医用画像の特徴が、医学的所見とどの程度一致しているか」などの妥当性を検証するための研究に着手。法医学の死後画像を用いた溺水診断を例に、先行研究で高性能を達成した深層学習モデルの医学的妥当性を検証した。

　具体的には、深層学習モデルが注目した画像特徴を、可視化技術で特定し「注目領域」とし、放射線診断医の画像所見に基づいて注釈した画像領域を医学的な「重要領域」とを比較し、一致度合いを調べた。その結果、「注目領域」は、少ない場合だと30%しか専門医の「重要領域」と一致しないとのデータが示された。また80%程度一致する場合でも、深層学習モデルは、専門医が重要視すべき部分と大差があったことも確認された。

　研究グループは今回の結果について、「今回明らかになった齟齬は、これまでとは異なる検証方法の重要性を示すとともに、人工知能の性能評価の難しさの一端を実証した」と分析。今後、医学的に妥当な根拠を獲得させるための、新たな訓練法の必要性が明らかになったとし、より多角的な医学的基準に沿った訓練法への展開が期待されると結んだ。
研究グループは、東北大大学院医学系研究科医用画像工学分野の曾??助教、張暁勇非常勤講師（現・仙台高等専門学校総合工学科）、本間経康教授らがメンバー。研究成果は今月９日付で、医学画像分析の専門誌「Journal　of　Imaging　Informatics　in　Medicine」に掲載された。研究は、東北大大学院医学系研究科附属創生応用医学研究センター、スマート・エイジング学際重点研究センターと、日本学術振興会科研費から一部支援を受けている。

ＭＥジャーナル記事より