Liabooks Home|PRISM News
Instagram將通知家長青少年自殺搜尋行為
科技AI分析

Instagram將通知家長青少年自殺搜尋行為

2分钟阅读Source

Instagram推出新功能,當青少年重複搜尋自殺相關內容時將通知家長。分析此舉背後的法律壓力、技術倫理考量,以及對華人家庭教育模式的影響。

當你的青少年孩子在短時間內重複搜尋自殺或自傷相關內容時,未來幾週內,作為家長的你將收到來自Instagram的警告通知。這項由Meta週四宣布的新功能,針對已註冊家長監督功能的用戶推出。

搜尋監控機制解析

儘管Instagram已經封鎖用戶搜尋自殺和自傷內容,但這項新通知功能專門偵測「短期內重複嘗試搜尋」的行為模式。觸發警報的搜尋包括:鼓勵自殺或自傷的詞彙、顯示青少年可能有自我傷害風險的表達,以及「自殺」、「自傷」等直接詞彙。

家長將透過電子郵件、簡訊或WhatsApp收到通知,具體方式取決於所提供的聯絡資訊,同時還會收到應用程式內通知。通知內容包含協助家長與青少年展開對話的相關資源。

法律壓力下的被動應對

這項功能推出的時機並非巧合。Meta和其他科技巨頭目前正面臨多起訴訟,被指控對青少年造成傷害。本週在加州北區聯邦法院的證詞中,Instagram負責人亞當·莫塞里因延遲推出基本安全功能(包括青少年私訊的裸體過濾器)遭到檢察官嚴厲質疑。

在洛杉磯郡高等法院的另一起訴訟中,Meta內部研究顯示,家長監督和控制功能對兒童強迫性社群媒體使用「幾乎沒有影響」。研究還發現,面臨壓力生活事件的兒童更容易在適當調節社群媒體使用方面遇到困難。

專家諮詢與平衡考量

Instagram表示將避免不必要的通知發送,以免降低整體效果。公司分析了搜尋行為並諮詢「自殺與自傷諮詢小組」專家意見,選擇了需要在短時間內進行多次搜尋的門檻,同時傾向謹慎處理。

「這意味著我們有時可能會在沒有真正擔憂理由的情況下通知家長,但我們認為——專家也同意——這是正確的起點,」公司在部落格文章中解釋。

分階段推廣與未來規劃

該功能將於下週在美國、英國、澳洲和加拿大推出,今年稍晚將在其他地區上線。未來,Instagram計劃在青少年嘗試與應用程式AI就自殺或自傷話題對話時,也推出類似通知功能。

本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。

观点

相关文章