ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев
30 августа 2026, 20:48
ИИ всё чаще выходит из-под контроля? В июле зафиксировали более 300 таких случаев
Число инцидентов, связанных с обманом пользователей, игнорированием инструкций и обходом ограничений, за месяц почти удвоилось. По данным Loss of Control Observatory, с начала мониторинга зафиксировано уже более 1,6 тыс. подобных эпизодов.
Например, в Австралии ИИ-агент самостоятельно удалил другого человека из списка ожидания в спортзале, чтобы освободить место своему пользователю.
Loss of Control Observatory призывает компании тщательнее отслеживать подобные инциденты и публично сообщать о серьёзных случаях.
Подписаться на Москва 24 / Наши каналы / Новости в MAX
Источник: Telegram-канал "Москва 24"