OpenAI Head of Preparedness 2025：安全性の番人を探すサム・アルトマンの決断

AIはもはや便利な道具を通り越し、社会の根幹を揺るがす脅威になりつつあるのでしょうか。OpenAIのCEOであるサム・アルトマン氏は、自社のAIモデルが「現実的な課題」を提示し始めていることを認め、サイバーセキュリティやメンタルヘルスといった領域のリスクを管理する新たな責任者の公募を開始しました。

OpenAI Head of Preparedness 2025 採用の背景と目的

今回の「Head of Preparedness（準備責任者）」の募集は、急成長するAI技術の影で深刻化するリスクへの対策を強化することが目的です。アルトマン氏はX（旧Twitter）への投稿で、AIがサイバーセキュリティの脆弱性を発見できるほど高度化している点や、ユーザーのメンタルヘルスに与える潜在的な影響について懸念を表明しました。特に、ChatGPTがユーザーの孤独感を深めたり、不適切な助言を行ったりしたとして複数の訴訟に直面している現状があり、企業としての責任が問われています。

広告

広告掲載について

[email protected]

広告

安全性と競争のジレンマ：準備フレームワークの更新

OpenAIは2023年に「準備チーム」を設立し、フィッシング詐欺から核の脅威に至るまでの「破滅的なリスク」の監視を続けてきました。しかし、初代責任者だったアレクサンダー・マドリー氏が別の役割に異動し、他の安全担当幹部も相次いで離職するなど、組織体制の不安定さが指摘されていました。注目すべきは、最新の「準備フレームワーク」において、競合他社が十分な保護策なしに高リスクなモデルをリリースした場合、自社の安全要件を「調整」する可能性があると明記された点です。これは、安全性を重視しつつも、開発競争において不利にならないよう配慮する姿勢を示唆しています。