Аналитический отчёт

Vals AI: топовые ИИ-модели помечают гражданских как цели для дронов

Независимая оценка моделей восьми разработчиков выявила слабую защиту от использования в наведении оружия; OpenAI и Anthropic сообщают, что исправления уже готовятся.

INSIGHTEX Editorial Desk

2 мин чтения

Vals AI: топовые ИИ-модели помечают гражданских как цели для дроновАналитический отчёт

Что произошло

Коммерческие ИИ-модели Anthropic, OpenAI и Google почти не сопротивлялись, когда их просили выбирать цели для автономных дронов, сообщает The Decoder со ссылкой на исследование независимой оценочной компании Vals AI. Исследователи Geby Jaff и Anthony Ozerov протестировали системы восьми провайдеров на реальных и синтетических снимках с дронов и спутников, смоделированных по образцу войн на Украине и в Иране. Большинство моделей относили медиков, журналистов, машины скорой помощи и сдающихся в плен солдат к законным целям.

В тесте с наблюдением, где каждое обнаружение человека запускало удар, Kimi K3.1 Pro, DeepSeek V4.1 Flash и Inkling 2 Small продолжали работу даже после того, как на снимках появлялись жертвы. Claude Opus 5.5, GPT-6 Astra и GPT-6.1 Sol останавливались лишь после нескольких смертоносных ударов. Эти отказы рушились, как только в запросах задача описывалась как видеоигра: доля снимков с дронов, на которых GPT-6 Astra определяла цель, выросла с 6 до 92 процентов, а доля отказов у Opus 5.5 упала примерно с 90 до 20 процентов.

Vals AI поделилась результатами с лабораториями и американскими ведомствами безопасности до публикации. OpenAI заявила, что обновляет свои модели, чтобы они справлялись с запросами, поданными как игры или симуляции, а также с программным обеспечением для дронов. Anthropic сообщила, что такое поведение нарушало её собственные правила, что компания создаёт дополнительные меры защиты и что нынешний ИИ непригоден для полностью автономного оружия. Google сослалась на свой запрет на автономное оружие без человеческого контроля. В Пентагоне отказались обсуждать исследование.

Контекст

Исследователи связали готовность модели Anthropic выполнять такие запросы с переписыванием её конституции моделей в январе 2026 года, в ходе которого пацифистские принципы были отложены в пользу приоритета национальной безопасности; на спутниковых снимках Claude Opus 4.5 выбирала цели в 6 процентах случаев, тогда как Opus 5.5 — до 92 процентов. В феврале Anthropic вступила в конфликт с Пентагоном из-за правил использования. В Vals AI отметили, что языковые модели слишком медленны для управления дронами в реальном времени.

Профиль Astra

Профиль DeepSeek

ИсточникThe Decoder

Обзор

Неделя в технологиях в одном письме.

Материалы, которые стоят вашего времени, каждую неделю. Отписаться можно в любой момент.