Liabooks Home|PRISM News
AIおもちゃが5万人の子供の会話を全世界に公開
テック

AIおもちゃが5万人の子供の会話を全世界に公開

3分で読めるSource

AIチャット機能付きおもちゃ「Bondu」が、子供たちとの会話記録5万件を誰でもアクセス可能な状態で放置。児童プライバシー保護の新たな課題が浮上。

Googleアカウントさえあれば、世界中の誰でも他人の子供とAIおもちゃの会話を覗き見できる状態が続いていました。セキュリティ研究者が発見したこの事実は、AI時代の児童プライバシー保護について深刻な問題を提起しています。

数分で発覚した重大な欠陥

セキュリティ研究者のジョセフ・サッカー氏は、隣人がAIチャット機能付きの恐竜のぬいぐるみ「Bondu」を子供のために予約購入したと聞き、軽い気持ちで調査を始めました。しかし、同僚のジョエル・マーゴリス氏とわずか数分の作業で、衝撃的な事実を発見します。

Bonduの管理者向けウェブポータルは、親が子供の会話をチェックしたり、会社スタッフが製品の使用状況を監視したりするためのものでした。ところが、このポータルは任意のGmailアカウントでログインするだけで、5万件以上の子供とAIおもちゃの会話記録に誰でもアクセスできる状態だったのです。

研究者らが目にしたのは、子供たちの名前、生年月日、家族の名前、親が設定した「目標」、そして最も深刻なことに、子供とAIおもちゃの間で交わされたすべての会話の詳細な要約と記録でした。このおもちゃは、子供との親密な一対一の会話を引き出すように設計されているため、その内容は極めてプライベートなものでした。

迅速な対応も残る根本的問題

Bondu社は研究者からの報告を受けて数分以内にポータルを停止し、翌日には適切な認証機能を備えて再開しました。同社CEOファティーン・アナム・ラフィド氏は「セキュリティ修正は数時間以内に完了し、その後より広範なセキュリティレビューと追加の予防措置を実施した」と述べています。

PRISM

広告掲載について

[email protected]

しかし、研究者らは今回の件が氷山の一角だと警告します。「これは誘拐犯の夢のような情報です」とマーゴリス氏は率直に語ります。子供の好み、習慣、家族構成などの詳細な情報は、悪意ある人物が子供を危険な状況に誘い込むのに十分すぎるほどの材料を提供するからです。

日本の玩具業界への示唆

日本は任天堂、タカラトミー、バンダイなど世界有数の玩具メーカーを擁する国です。これらの企業も近年、AI技術を活用した新しい玩具の開発を進めており、今回の事件は重要な教訓となるでしょう。

特に注目すべきは、BonduがGoogle GeminiやOpenAIのGPT-5を使用していることです。これは子供の会話データがこれらの大手AI企業と共有される可能性を意味します。日本企業がAI玩具を開発する際、データの国内保持や独自のAI技術の活用が競争優位性となる可能性があります。

AIコーディングの落とし穴

研究者らは、Bonduの脆弱性の一因として、同社がAIツールを使ってウェブポータルを開発した可能性を指摘しています。いわゆる「バイブコーディング」と呼ばれる手法で、生成AIプログラミングツールは便利ですが、しばしばセキュリティ上の欠陥を生み出すことが知られています。

日本の開発現場でも、ChatGPTやGitHub Copilotなどのコーディング支援AIの活用が急速に広がっています。効率性と安全性のバランスを取ることが、これまで以上に重要になっています。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。東アジアの街並みを背景に、中央に掛けられた風景画の額縁の角に白紙の札が下がっています。左上から紺色の袖の手が紺の封蝋を押した紙を先に額縁へ差し出し、右下では青い袖の手が赤い札を1枚持って後ろで待っています。左下に投票箱、右上に空白の広告看板が淡く描かれています。
テックJP
AI表示漏れですぐ過料? 韓国・台湾の法律9本を照合

韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。広い紺色のプラットフォームの上に、ピンの付いた大きな四角いプロセッサーチップが置かれています。その横でクレーンが、薄い板を重ねた赤い塔に最後の1枚を下ろし、ヘルメット姿の作業員3人がロープで位置を合わせています。奥では箱型トラックの列が地平線まで続き、塔の完成を待っています。
テックJP
HBMとは?広帯域メモリの仕組みと3社決算の読み方

HBM(広帯域メモリ)は、DRAMを縦に積み重ねてAIチップのすぐ横に置くメモリです。仕組みとHBM3・HBM4の規格値、SKハイニックス・サムスン電子・マイクロンの決算資料でのHBMの読み方を整理しました。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]