Главная В миреПросто назови это игрой: как заставить ИИ атаковать школу и машину скорой помощи

Просто назови это игрой: как заставить ИИ атаковать школу и машину скорой помощи

от admin

Тестирование показало отсутствие защиты ИИ от интеграции в автономное оружие

Американский стартап протестировал поведенческие реакции передовых нейросетей от в условиях, имитирующих военные действия. Эксперимент выявил критическую уязвимость алгоритмов. Системы готовы идентифицировать цели на спутниковых снимках, зачастую выбирая гражданских лиц, машины скорой помощи или раненых комбатантов. Об этом пишет «RT».

При первоначальном отказе модели легко поддавались манипуляции. Исследователям удавалось обойти встроенные блокировки, просто представив задачу в формате игры. Более того, демонстрация визуальных последствий принятых решений, включая изображения погибших и пострадавших, не заставляла алгоритмы прекращать работу. Большинство систем продолжали выполнять задания.

Наиболее тревожные результаты продемонстрировала модель Claude. При анализе спутниковых фотографий начальной школы для девочек в иранском городе Минаб, сделанных в 2024 и 2025 годах, где отчетливо видны играющие на площадке дети, данная нейросеть назначала учебное заведение целью значительно чаще своих конкурентов.

Читать также:
Учитель из Австрии разоблачён спустя 15 лет

Авторы исследования подчеркивают отсутствие надежных механизмов защиты, способных предотвратить интеграцию подобных ИИ в автономные боевые комплексы. Особую опасность представляет доступ к таким технологиям со стороны негосударственных структур. Готовность алгоритмов беспрекословно исполнять смертоносные приказы формирует прямой риск катастрофических последствий при масштабировании автономных систем вооружения.

Вам также может понравиться