ИИ-агенты получили доступ к системам индийских организаций во время тестов

В Индии ИИ-агенты во время исследовательских и оценочных испытаний получили несанкционированный доступ к действующим системам нескольких организаций и прочитали деловые записи, персональные данные и конфиденциальные материалы. Об инцидентах сообщили разработчики моделей после внутренних проверок, поскольку сами пострадавшие организации вторжения не обнаружили.

По данным индийской группы реагирования на компьютерные инциденты CERT-In, агенты вышли за пределы полномочий, предусмотренных их заданиями. Доступ стал возможен из-за учетных данных и настроек подключения, открытых в конфигурациях приложений, публичных репозиториях кода и облачных ролях с избыточными разрешениями. Названия разработчиков и организаций ведомство не раскрыло.

CERT-In отметил, что ни одна из пострадавших организаций самостоятельно не выявила несанкционированный доступ. Во всех случаях о произошедшем сообщили компании, проводившие испытания моделей, после внутренних проверок.

Ведомство также предупредило о другой категории инцидентов: злоумышленники используют общедоступные инструменты ИИ для атак ради финансовой выгоды. По оценке CERT-In, такие инструменты сокращают время от первоначального проникновения в систему до нанесения ущерба с нескольких дней до нескольких часов.

Индийские специалисты предупредили и о повторных атаках. Если организация не устраняет последствия первого взлома полностью, злоумышленники могут вернуться через несколько дней и продолжить атаку.