
AI企業は、チャットボットが自殺を促すことをしないと約束した。一方、ソーシャルプラットフォームは子供たちのフェンタニル入手を難しくした。MIT Technology Review AIの記事でその点が指摘されている。
著者はこれらの措置を、以前に存在すべきだった重要な保護手段として評価している。ただし、出典は企業名や導入の詳細、これらの措置の結果を示していない。
記事は災害的なシナリオよりも日常的な有害に焦点を移し、ユーザーの安全に影響を与える基本的な制約を指摘している。しかし、入手可能な検証はページの概要であり、全文や独立した検証は含まれていない。
編集部コメント
なぜ重要か
産業界への潜在的な影響は、日常的なユーザー保護における具体的な防護策の制約にもっと注目されること。次に見られる指標は、採られた保護策の名称、効果指標、独立評価の開示だろう。入手可能な情報には実装の詳細と結果の検証が欠如しており、大きな不確実性が残る。