«Полигон, где жизни — это манекены»: эксперт раскрыл причину отказа от человеческого контроля над ИИ-вооружением
Во время работы над проектом международного документа по регулированию автономного оружия делегаты от России и США исключили ключевые ограничения на работу военного ИИ, включая требования о «предсказуемости» и обязательной проверке целей человеком, сообщает WP. Это решение — не случайный компромисс, а прямая защита технологического суверенитета, обозначил в беседе с Readovka военный эксперт Института права и национальной безопасности РАНХиГС Александр Степанов. Ведущие военные державы не готовы передавать чувствительные данные наднациональным структурам ООН. По словам Степанова, Москва и Пекин не хотят попасть под «технологический колпак» американского БигТеха (в частности, разработчиков вроде Palantir), который через создание международных органов надзора пытается навязать свои стандарты и заблокировать независимое развитие суверенных армий.
Второй ключевой фактор — жесткая ставка на скорость в современной войне. Алгоритмы в режиме реального времени координируют тысячи автономных дронов, роботов и спутниковых систем. Вывод информации на верификацию человеку создает паузу, которая в бою критична. Ради молниеносной реакции машины человеческий фактор сознательно выключается из цепи управления, подчеркивает собеседник.
Цена такой автономности — катастрофические риски для всего мира. По оценке эксперта, американские IT-гиганты воспринимают реальные конфликты в качестве бесплатного полигона, где человеческие жизни выступают всего лишь тестовыми манекенами. Применение израильских систем «Лаванда» и «Евангелие» стало прокси-тестированием технологий компании Palantir, а гибель гражданского населения расценивалась как «допустимое побочное явление» боевой апробации. Полученные данные позволили компании оптимизировать концепцию Maven Smart Systems, которая теперь интегрируется в страны НАТО и проходит проверку в подразделениях ВСУ. При этом передача права на удар алгоритмам, склонным к «галлюцинациям» и искажению информации, создает прямую угрозу не только для оппонентов, но и для самих операторов, ставя мир перед дилеммой между автономностью машин и сохранением управляемости человечества, считает Степанов.
