
Компания Google прекратила работу новой функции искусственного интеллекта в сервисе Google Earth всего через один день после её внедрения. Инструмент позволял пользователям создавать синтетические изображения с помощью текстовых запросов и накладывать их на реальные спутниковые снимки местности.
この無効化の決定は、誤情報の拡散を懸念した一般市民や専門家からの迅速な否定的反応を受けて下された。デモ事例にはすでに、国境付近にいる難民や紛争地帯での爆撃被害といった偽画像の作成が含まれており、世界地図がディープフェイクのプラットフォームへと変貌しかねない状況を示していた。
批評家たちは、テキスト記述によって現実を編集できる機能が、事実データと虚構との境界線を曖昧にすると指摘した。これらのリスクに対応し、この技術巨人企業は事態のさらなる悪化を待たずに、問題の機能へのアクセスを即座に削除した。
編集部コメント
なぜ重要か
業界はおそらく、視覚的現実を変更する関連機能を一般公開する前に、より厳格な事前テストを実施する方向へ移行するだろう。次の兆候としては、主要市場プレイヤーによる地図データの真正性検証プロトコルの新規導入、あるいは衛星画像のユーザー編集に対するモラトリアム(一時停止)の出現が挙げられる。