こんにちは

テレ朝ニュースでAIでギャンブル依存が判明する、というニュースをみました。この手のニュースは多少なりとも誇張されていることが多いので半信半疑ではあるのですが、事実だとすると知っておいたほうがよいことなので元の研究論文を確認してみました。論文がフリーアクセスなのもよいですね。下に論文のリンクを張っておきます。

ギャンブル症

過去にはギャンブル依存といわれていましたが、最近はこう表現することが多いです。（DSM；アメリカの学会の診断分類）これはギャンブルに対して心理的に依存し、生活が破綻してしまうまで渇望しのめりこんでしまう状態のことをいいます。

論文のこと

この論文はギャンブル症の人たちのMRIを機械学習というAIの手法を用いて、健常者とギャンブル症の人を分別することができた、というものでした。確かにすごいことなのですが、中身をみるとまだ注意が必要なところがありました。何点かあるのですが、

論文中は男性のみ

研究をする際に対象を選定するのですが、今回の論文中では男性のみとなってしまいました。男女においては脳の機能的な差があるとはいわれている（これも所説あるところですが、そもそも人によって脳の使い方が異なる、というレベルでバラエティがあるのでこの点が脳の画像研究の難しさですね）のでこのAIでは女性のギャンブル症に対応できない可能性があります。

AIの中身

論文中では脳を140の領域に分けて分析しています。しかし、この140のどこが、あるいはどことどこが関連してギャンブル症と判定できるか、などの情報については学習したAI自体を分析しないといけないのでわかりません。ここが機械学習だけでなく、ニューラルネットワーク等々AI全般のの弱点と思っています。結局何がどうなってAIが判断したかはすぐにはわからない、人間なら聞けばよいですが、現存のAIはこれに答えられません。AI自体の状態をAIが把握する機能の実装がないからです。つまり自我がない。ChatGPTとかはほとんど人間的な応答ができますが、まだこの点の解決ができていません。そういう意味で、今皆さんがいうAIは厳密には「人工知能」ではなくて「人工無能」なんですね。

診断の責任

AIの中身に付随して臨床で使う際に出てくる問題が診断に伴う倫理的な問題です。これは”ＡＩの中身”のところも影響します。仮にあなたが、AIでギャンブル症と判定されたとしましょう。ギャンブル症なので治療しましょう、と言われます。すぐに受け入れられるでしょうか。もしくは、家族などに検査しましょう、と検査を受け、ギャンブル症と判定されたとしましょう。脳の状態がギャンブル症のそれだから治療を受けよう、とすぐに思えますか。なぜこういう判定になったか聞きたくなりませんか？そしてそうではない、と反論したくなりませんか？反論したところでAIはそれについて何も答えてくれません。

検査としては優秀

検査としては非常に有用と思われます。ただ、むやみに使用することはトラブルのもとになりやすいので控えたほうが良いでしょう。採血などの検査と同じように、ちゃんと病歴を把握し事前確立を高めたうえで判定し、そのうえで医師が診断をする、という状況であれば何も問題ないと思います。

AIでの診断

ちょっと脱線しますが、この件にかかわらず、AIを用いた判定、とりわけ医療など割と重い責任を伴う判断、診断をについての責任問題に関してはまだあまり議論がされていません。AIは今後おそらく人間以上に的確に、論理的に物事を判断できるようになります。ただ、どんなにAIが優秀になったとしても責任を取ることはありません。（極論すればAIには人権がないため法的責任を持ちえない）AIによって医者がいらなくなる、とたまに聞きますが、この問題がある限り、医者は責任を取る存在、ハンコを押す存在として残ってゆくと思います。

 

https://www.ncbi.nlm.nih.gov/pmc/articles/PMC9322453/