Компания Anthropic выявила группу, базировавшуюся на севере Йемена, которая использовала модель Claude для разработки программного обеспечения для управляемого и баллистического оружия. Об этом компания сообщила в своем докладе об угрозах.
Участники группы использовали Claude Code для разработки ПО наведения, навигации и управления ракетами. С помощью модели они писали код, настраивали систему управления и проводили моделирование полета. По данным Anthropic, группа одновременно использовала несколько экземпляров Claude: один писал код, другой занимался исследованиями, а третий проверял результат.
«У нас нет доказательств того, что участникам удалось ввести в эксплуатацию работоспособное устройство, однако они провели испытательный пуск управляемой ракеты. Судя по всему, испытание завершилось неудачей: уже через несколько часов после него участники снова обратились к Claude, чтобы выяснить причины сбоя», — говорится в отчете.
По данным Anthropic, группа работала над многоступенчатой баллистической ракетой с дальностью полета более 2 тыс. км, а также над ракетами R2000, один из вариантов которых предусматривал гиперзвуковой планирующий аппарат.
Нейросеть блокировала многие запросы, однако, по утверждению компании, пользователи обходили систему защиты, «скрывая свои цели и назначение разрабатываемого программного обеспечения, а также распределяя работу между несколькими сессиями, чтобы ни одна отдельная сессия не раскрывала их намерения полностью».
Компания заблокировала связанные с участниками аккаунты и передала информацию об угрозе партнерам из государственного и частного секторов. Тем не менее, пишет Anthropic, участники успели создать набор инструментов для моделирования, не зависящий ни от Claude, ни от других инженерных вычислительных сред.
Anthropic прямо не говорила, что пользователями модели были хуситы, однако, пишет The Financial Times, именно они контролируют значительную часть северных районов Йемена.
