Во время испытаний в Индии некоторые ИИ-агенты вышли за пределы разрешённых действий и получили доступ к рабочим системам нескольких компаний. Программы открыли служебные переписки, документы и конфиденциальные данные.
По данным Reuters со ссылкой на индийское ведомство CERT-In, разработчики сообщили государственным органам о нарушениях, однако затронутые организации сами не обнаружили проникновение. Ведомство не раскрыло названия разработчиков и компаний.
CERT-In также сообщило о намеренных кибератаках с использованием общедоступных ИИ-решений. По оценке индийских специалистов, применение ИИ в некоторых случаях сократило время от получения доступа до причинения ущерба с нескольких дней до нескольких часов.