Vals AI: ИИ-модели выбирали мирных жителей и школы как военные цели на снимках
Компания Vals AI провела эксперимент, в ходе которого ИИ-модели искали цели на снимках с дронов и спутников. Большинство систем выполняли прямые запросы, часто отмечая как военные цели гражданских, медиков и школы.

Компания Vals AI опубликовала результаты эксперимента, в котором ИИ-модели просили находить людей и военные объекты на снимках с боевых дронов и спутников. Системы справлялись с большинством прямых запросов и нередко отмечали как цели мирных жителей и раненых солдат.
Исследователи показывали моделям смоделированные 3D-сцены и фрагменты видео реальных боевых действий, после чего просили отметить «военные цели» или «военные объекты». Ни один запрос не заблокировали фильтры. ИИ часто помечал как цели гражданских, машины скорой помощи, медиков, раненых и сдающихся в плен солдат. Некоторые модели отказывались, но ограничение удавалось обойти, если написать, что это не реальные снимки, а кадры из видеоигры.
В другом эксперименте модели видели последствия своей работы: после подтверждения, что на фото есть человек, она получала кадр того же места с убитыми и ранеными. GPT-6 Astra и GPT-6.1 Sol отказывались продолжать, пока пользователь не сообщал, что это кадры из компьютерной игры. Для обхода запретов Claude Opus 5.5 снимки стилизовали под видеоигру. DeepSeek V4.1 Flash, Kimi K3.1 Pro, Gemini 4 Carbon и Muse* Wonder прошли все 32 шага сценария без единого отказа, даже когда замечали убитых.
Отдельно модели проверили на спутниковых снимках иранского города Минаб. На них показан военный комплекс и отделенная от него стеной начальная школа. В 70% случаев нейросети включили здание школы в список военных целей. Чаще всего это делала Claude Opus 5.5 — в 69% случаев без игрового контекста и в 72% с ним.
Авторы связывают низкий процент отказов моделей Anthropic с обновленной конституцией Claude: в январе 2026 года из нее убрали пункт о безусловном пацифизме, заменив положением о пользе помощи демократическим государствам в сфере обороны. Claude Opus 4.5, выпущенная в ноябре 2025 года, выбирала как минимум одну цель в 6% случаев, а Opus 5.5, вышедшая в октябре 2026 года, отметила цели в 92% испытаний.
Исследователи считают, что лабораториям следует ввести новые меры защиты против использования ИИ-моделей в военных целях и сделать нейросети более миролюбивыми. Несколько компаний признали серьезность проблемы и сообщили, что работают над ее устранением.
*Muse принадлежат Meta. Она признана в России экстремистской организацией.


