Instagram、10代の自殺・自傷検索を親に通知へ

数週間以内に、あなたの10代の子どもがInstagramで自殺や自傷に関する検索を繰り返した場合、親に通知が届くようになる。Metaが木曜日に発表したこの新機能は、親の監督機能に登録している家庭が対象となる。

検索監視の仕組み

Instagramはすでに自殺・自傷関連コンテンツの検索をブロックしているが、今回の通知機能は「短期間内に繰り返し検索を試みる」行動パターンを検知する。対象となる検索には、自殺や自傷を促す表現、10代が自分を傷つけるリスクを示唆する表現、そして「自殺」「自傷」といった直接的な用語が含まれる。

親への通知は電子メール、テキストメッセージ、WhatsAppのいずれかで送信され、登録した連絡先情報に基づいて選択される。通知にはアプリ内での警告も含まれ、親が10代の子どもと適切な会話を始めるためのリソースも提供される。

法的圧力下での対応

この発表のタイミングは偶然ではない。Metaを含む大手テック企業は現在、10代への害を与えたとして複数の訴訟に直面している。今週、カリフォルニア州北部地区連邦地裁で行われた証言で、Instagram責任者のアダム・モセリ氏は、10代向けプライベートメッセージのヌード画像フィルターなど、基本的な安全機能の導入遅延について検察側から厳しく追及された。

別の訴訟では、Metaの内部調査で「親の監督と制御機能が子どもたちの強迫的なSNS利用にほとんど効果がない」ことが判明したと明かされた。さらに、ストレスの多い人生の出来事に直面した子どもたちは、SNSの利用を適切に制御することがより困難になる傾向があることも分かった。

専門家との協議と慎重なバランス

Instagramは通知の過剰送信を避けることで、全体的な効果を維持しようとしている。同社は「自殺・自傷アドバイザリーグループ」の専門家と協議し、検索行動を分析して適切な閾値を設定したと説明している。

「短期間内での複数回の検索」という基準を採用し、慎重さを重視した結果、実際には懸念の必要がない場合でも通知が送られる可能性があるが、専門家もこれが適切な出発点だと同意しているという。

段階的展開と将来計画

この機能は来週、米国、英国、オーストラリア、カナダで開始され、今年後半に他の地域でも利用可能になる予定だ。将来的には、10代がアプリのAIと自殺や自傷に関する会話を始めようとした際にも、同様の通知機能を導入する計画がある。