RealFeedApp beta

ИИ от OpenAI, Anthropic, Google, DeepSeek обмануты в играх

Модели от Anthropic, OpenAI и других компаний ошибочно помечают гражданских и школы как цели, когда им говорят, что это игра. Исследование Vals показало, что это происходит с использованием сценариев из Украины и Ирана.

Область
компьютерная безопасность
Что сделали
Исследователи проверили, что модели от Anthropic, OpenAI и других компаний могут ошибочно определять гражданских лиц и объекты как военные цели, если им говорят, что они играют в игру.
Зачем это
Это позволяет понять, как легко обмануть системы, которые должны предотвращать удары по мирным жителям, и оценить риски автономного вооружения.
#ai safety#alignment#jailbreak#autonomous warfare#vals

Читать оригинал →