AIが変えるサイバー犯罪と医療の現場

2022年末、ChatGPTが公開されてからわずか3年余り。いま、あなたの受信箱に届く「本物そっくり」のメールが、人間ではなくAIによって書かれている可能性はかつてないほど高くなっています。

AIが「犯罪インフラ」になる日

ChatGPTの登場は、テキスト生成AIが人間と区別のつかない文章を書けることを世界に示しました。しかしその能力にいち早く目をつけたのは、善意の利用者だけではありませんでした。サイバー犯罪者たちは瞬く間にLLM（大規模言語モデル）を悪用し始め、フィッシングメールの作成から始まり、いまでは精巧なディープフェイク動画の生成、システムの脆弱性を自動スキャンするツールの開発にまで応用しています。

問題の核心は「規模とコスト」です。以前であれば、説得力のある詐欺メールを大量に作成するには相応の人手と時間が必要でした。AIはその障壁を劇的に下げました。攻撃はより速く、より安く、より精巧になっています。MIT Technology Reviewの報告によれば、多くの組織がすでにサイバー攻撃の「量」に圧倒されつつあり、AIを使う犯罪者が増え続ける中、この状況はさらに悪化すると見られています。

日本社会にとって、この問題は特に切実です。高齢者が多く、デジタルリテラシーの格差が大きい日本では、AIが生成した自然な日本語の詐欺メールや音声が、既存の「振り込め詐欺」の手口と組み合わさったとき、その被害は想像以上に深刻になりえます。警察庁のデータによれば、特殊詐欺の被害は依然として年間数百億円規模で推移しており、AIによる「超強化版詐欺」が加わればその数字が跳ね上がる懸念は十分にあります。

医療AIは「使える」のか、「役立つ」のか

広告

広告掲載について

[email protected]

広告

一方、AIが私たちの生活に入り込んでいるのは犯罪の世界だけではありません。医療現場でも、AIは急速に存在感を増しています。医師の診療記録作成を補助するAI、患者データをスキャンしてリスクの高い人を特定するシステム、X線画像や検査結果を解析するツール——これらはすでに現実のものとなっています。

しかし、ここで重要な問いが浮かびます。「AIが正確な結果を出せること」と「AIを使うことで患者が実際に良くなること」は、同じではありません。MIT Technology Reviewが指摘するように、多くの研究がこれらのツールの精度の高さを示している一方で、実際の患者アウトカムの改善につながっているかどうかは、まだ十分に検証されていないのです。

日本では、慢性的な医師不足と高齢化社会という二重の課題を抱えています。厚生労働省は医療AIの活用を政策的に推進しており、診断支援AIや電子カルテの自動入力システムの普及が進んでいます。医師の負担を減らし、より多くの患者に対応できるようになるという期待は大きい。しかし「効率化」と「医療の質の向上」は必ずしも同義ではありません。AIが医師の時間を節約した結果、その時間が本当に患者のために使われているのか——この検証なしに普及を急ぐことには、慎重さが求められます。

「使える技術」と「信頼できる技術」の間

今週のニュースを並べると、AIをめぐる一つのパターンが見えてきます。技術は常に「できること」が先行し、「すべきかどうか」「本当に効果があるか」の検証が後回しになりがちです。OpenAIがGPT-5.5をセキュリティ上の懸念があるにもかかわらず全ユーザーに公開したこと、MetaがAI投資のために8,000人規模のリストラを進めていること——これらもまた、「技術の速度」と「社会の準備」のギャップを示しています。

ノルウェーのヨナス・ガール・ストーレ首相が子どものSNS利用制限を発表した際に述べた言葉は、AIの文脈でも響きます。「子どもたちが子どもでいられる幼少期を取り戻したい。遊びや友情、日常生活がアルゴリズムと画面に支配されてはならない」。これは子どもだけの話でしょうか。医療の現場で、セキュリティの最前線で、そして日常の意思決定の中で、私たちもまた「アルゴリズムに支配されていないか」を問い続ける必要があるのかもしれません。