AIからの健康アドバイスを信頼できる日は来るのでしょうか？

患者は、医師が次の診察で間違った情報を伝えると知っていれば、すぐに予約をキャンセルするでしょう。しかし、ChatGPT などの生成型人工知能モデルは、頻繁に「幻覚」を起こします。これは、テクノロジー業界用語で、作り話を意味します。では、なぜ医療目的で AI を使いたがるのでしょうか?

楽観的なシナリオは次の通り。AI ツールは、開発中のいくつかのモデルがすでに行っているように、精査された医学文献でトレーニングされるが、患者の記録やスマートウォッチのデータもスキャンする。そして、他の生成 AI と同様に、各ユーザーに合わせてパーソナライズされ、役立つほど正確なテキスト、写真、さらにはビデオを生成する。ディストピア版では、政府、保険会社、起業家がコスト削減のために欠陥のある AI を推進し、患者は人間の臨床医による治療を切望することになる。

現時点では、AIがすでにネット上で有害なアドバイスを吐き出していると非難されていることから、事態が悪化することは容易に想像できる。春の終わりには、全米摂食障害協会が、不健康な食習慣を推奨しているとユーザーから主張されたことを受けて、チャットボットを一時的に無効にした。しかし、米国では、症状を評価するためにAIを使用するアプリを今でもダウンロードできる。また、根本的な問題があるにもかかわらず、一部の医師は、患者とより思いやりを持ってコミュニケーションをとるためにこの技術を使用しようとしている。

ChatGPTやその他の大規模言語モデルは「非常に自信があり、非常に明瞭だが、間違いも非常に多い」とジョンズ・ホプキンス大学のコンピューターサイエンス教授マーク・ドレッゼ氏は言う。つまり、人々がAIの医療アドバイスを信頼できるようになるまでには、まだ長い道のりがあるのだ。

それでも、ドレッゼ氏はこの技術の将来について楽観的だ。同氏が最近発表した研究によると、ChatGPTはすでに、医師がRedditフォーラムで提供するアドバイスに匹敵するアドバイスを提供している。また、オープンソースAIプラットフォームであるHugging Faceでヘルスケアを専門とする機械学習エンジニアのケイティ・リンク氏は、将来の生成モデルは、診察に完全に取って代わるのではなく、医師の診察を補完する可能性があると話す。例えば、診察後に治療や病状をより詳しく説明したり、言語の壁による誤解を防いだりできる可能性がある。

さらに明るい展望として、ハーバード大学医学大学院の人工知能とヘルスケア研究者であるオイシ・バナジー氏は、複数のデータソースを統合する AI システムを思い描いています。写真、患者の記録、ウェアラブルセンサーからの情報などを使用して、「どこにいても誰にでも質の高いケアを提供できる」と彼女は言います。腕に奇妙な発疹がありますか? 彼女は、写真を分析し、最近の食事、位置データ、病歴を調べて適切な治療法を見つける皮膚科アプリを思い描いています。

医療AIが発展するにつれ、医療業界は増え続ける患者データを安全に保管しなければならない。しかし、責任ある進歩のために今から規制当局が基礎を築くことができると、MITの機械学習研究室を率いるマルズィエ・ガセミ氏は言う。多くの病院がすでに匿名化された患者データをグーグルなどのテクノロジー企業に販売している。ガセミ氏は、米国の機関が医療AIモデルを改善するために、その情報を国のデータセットに追加するよう各病院に義務付ける可能性があると示唆する。さらに、連邦政府の監査により、病院や医療団体が使用するAIツールの精度を審査し、低水準のソフトウェアに対する貴重なメディケアとメディケイドの資金提供を打ち切ることも可能だ。医師にもAIツールをただ渡すだけでなく、使い方について広範囲にわたるトレーニングを受ける必要がある。

AI 企業が組織や患者を誘惑して、正確な結果を出すことが信頼できないサービスに加入させようとするのは容易に想像がつく。議員、医療提供者、大手テクノロジー企業、起業家は慎重に前進する必要がある。人命がかかっているからだ。

AI 時代の生活について詳しくはこちらをご覧ください: