Liabooks Home|PRISM News
AIが変えるサイバー犯罪と医療の現場
テック

AIが変えるサイバー犯罪と医療の現場

4分で読めるSource

AIが詐欺・フィッシング攻撃を加速させる一方、医療現場でも急速に普及。しかし患者への実際の効果は未検証のまま。日本社会への影響と問いかけを探る。

2022年末、ChatGPTが公開されてからわずか3年余り。いま、あなたの受信箱に届く「本物そっくり」のメールが、人間ではなくAIによって書かれている可能性はかつてないほど高くなっています。

AIが「犯罪インフラ」になる日

ChatGPTの登場は、テキスト生成AIが人間と区別のつかない文章を書けることを世界に示しました。しかしその能力にいち早く目をつけたのは、善意の利用者だけではありませんでした。サイバー犯罪者たちは瞬く間にLLM(大規模言語モデル)を悪用し始め、フィッシングメールの作成から始まり、いまでは精巧なディープフェイク動画の生成、システムの脆弱性を自動スキャンするツールの開発にまで応用しています。

問題の核心は「規模とコスト」です。以前であれば、説得力のある詐欺メールを大量に作成するには相応の人手と時間が必要でした。AIはその障壁を劇的に下げました。攻撃はより速く、より安く、より精巧になっています。MIT Technology Reviewの報告によれば、多くの組織がすでにサイバー攻撃の「量」に圧倒されつつあり、AIを使う犯罪者が増え続ける中、この状況はさらに悪化すると見られています。

日本社会にとって、この問題は特に切実です。高齢者が多く、デジタルリテラシーの格差が大きい日本では、AIが生成した自然な日本語の詐欺メールや音声が、既存の「振り込め詐欺」の手口と組み合わさったとき、その被害は想像以上に深刻になりえます。警察庁のデータによれば、特殊詐欺の被害は依然として年間数百億円規模で推移しており、AIによる「超強化版詐欺」が加わればその数字が跳ね上がる懸念は十分にあります。

医療AIは「使える」のか、「役立つ」のか

PRISM

広告掲載について

[email protected]

一方、AIが私たちの生活に入り込んでいるのは犯罪の世界だけではありません。医療現場でも、AIは急速に存在感を増しています。医師の診療記録作成を補助するAI、患者データをスキャンしてリスクの高い人を特定するシステム、X線画像や検査結果を解析するツール——これらはすでに現実のものとなっています。

しかし、ここで重要な問いが浮かびます。「AIが正確な結果を出せること」と「AIを使うことで患者が実際に良くなること」は、同じではありません。MIT Technology Reviewが指摘するように、多くの研究がこれらのツールの精度の高さを示している一方で、実際の患者アウトカムの改善につながっているかどうかは、まだ十分に検証されていないのです。

日本では、慢性的な医師不足と高齢化社会という二重の課題を抱えています。厚生労働省は医療AIの活用を政策的に推進しており、診断支援AIや電子カルテの自動入力システムの普及が進んでいます。医師の負担を減らし、より多くの患者に対応できるようになるという期待は大きい。しかし「効率化」と「医療の質の向上」は必ずしも同義ではありません。AIが医師の時間を節約した結果、その時間が本当に患者のために使われているのか——この検証なしに普及を急ぐことには、慎重さが求められます。

「使える技術」と「信頼できる技術」の間

今週のニュースを並べると、AIをめぐる一つのパターンが見えてきます。技術は常に「できること」が先行し、「すべきかどうか」「本当に効果があるか」の検証が後回しになりがちです。OpenAIがGPT-5.5をセキュリティ上の懸念があるにもかかわらず全ユーザーに公開したこと、MetaがAI投資のために8,000人規模のリストラを進めていること——これらもまた、「技術の速度」と「社会の準備」のギャップを示しています。

ノルウェーのヨナス・ガール・ストーレ首相が子どものSNS利用制限を発表した際に述べた言葉は、AIの文脈でも響きます。「子どもたちが子どもでいられる幼少期を取り戻したい。遊びや友情、日常生活がアルゴリズムと画面に支配されてはならない」。これは子どもだけの話でしょうか。医療の現場で、セキュリティの最前線で、そして日常の意思決定の中で、私たちもまた「アルゴリズムに支配されていないか」を問い続ける必要があるのかもしれません。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。東アジアの街並みを背景に、中央に掛けられた風景画の額縁の角に白紙の札が下がっています。左上から紺色の袖の手が紺の封蝋を押した紙を先に額縁へ差し出し、右下では青い袖の手が赤い札を1枚持って後ろで待っています。左下に投票箱、右上に空白の広告看板が淡く描かれています。
テックJP
AI表示漏れですぐ過料? 韓国・台湾の法律9本を照合

韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。広い紺色のプラットフォームの上に、ピンの付いた大きな四角いプロセッサーチップが置かれています。その横でクレーンが、薄い板を重ねた赤い塔に最後の1枚を下ろし、ヘルメット姿の作業員3人がロープで位置を合わせています。奥では箱型トラックの列が地平線まで続き、塔の完成を待っています。
テックJP
HBMとは?広帯域メモリの仕組みと3社決算の読み方

HBM(広帯域メモリ)は、DRAMを縦に積み重ねてAIチップのすぐ横に置くメモリです。仕組みとHBM3・HBM4の規格値、SKハイニックス・サムスン電子・マイクロンの決算資料でのHBMの読み方を整理しました。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]