OpenAIは、AI統合ブラウザ「ChatGPT Atlas」に対する即時インジェクション対策を発表した。強化学習を活用した「自動攻撃者」によるレッドチームで防御を強化し、発見から修正までのサイクルを高速化する計画だ。攻撃を完全に排除することは難しいが、モデルの更新や具体的な対策を推奨することでリスクの軽減に努めるとしている。
Source link
Show Comments (0)
Hide Comments (0)
Subscribe
Login
0 Comments
Oldest
