インスタグラム、親に「子供の自傷検索」を通知へ

メタが発表した新機能は、10代の子供が自傷や自殺関連の検索を繰り返すと親に警告を送る。デジタル時代の子育てに新たな課題を提起。

親として、子供のスマートフォンの向こう側で何が起きているか、本当に知りたいでしょうか？

メタは来週から、インスタグラムで10代の子供が自傷や自殺に関連する用語を繰り返し検索した際、親に警告を送る新機能を導入すると発表しました。この機能は米国、英国、オーストラリア、カナダで先行展開され、年内に他の地域にも拡大予定です。

デジタル監視か、必要な保護か

新機能は「短期間に自殺や自傷に明確に関連する用語を繰り返し検索しようとした」場合に作動します。ただし、これは親と子が監督機能にオプトインした場合のみ有効で、メタによると「大多数の10代は自殺関連の検索を試みない」とのことです。

日本では従来、家族の絆と暗黙の理解が重視されてきました。しかし、デジタルネイティブ世代の子供たちは、親世代が理解できないオンライン空間で多くの時間を過ごしています。2023年の厚生労働省統計では、10代の自殺者数は512人に上り、SNSが与える影響への懸念が高まっています。

この機能は一見、子供の安全を守る画期的な仕組みに見えます。しかし、より深い問題を浮き彫りにしています。アルゴリズムが子供の心の状態を判断し、親に「警告」を送る世界で、家族のコミュニケーションはどう変化するのでしょうか。

日本の教育現場では、子供たちの「心の声」を聞き取る努力が続けられています。スクールカウンセラーの配置や、担任教師による細やかな観察。これらの人間的アプローチと、AIによる監視システムは、果たして共存できるのでしょうか。

メタは今年後半にAIチャットボット向けの類似警告システムも導入予定です。技術が人間の感情や行動をより深く理解し、予測する時代が本格的に始まろうとしています。

興味深いのは、この機能が「オプトイン」制であることです。つまり、親と子の両方が同意して初めて機能します。これは技術的には簡単な実装ですが、社会的には複雑な問題を孕んでいます。

子供にとって、親に自分の検索履歴が監視されることへの同意は、真の同意と言えるでしょうか。一方で親にとっては、子供の危険信号を見逃すリスクと、プライバシーを尊重することのバランスをどう取るかという難しい選択です。

日本社会では、「察する文化」により、言葉にしなくても相手の気持ちを理解することが美徳とされてきました。しかし、デジタル空間では、この繊細なコミュニケーションが機能しにくくなっています。