Два автономных ИИ-агента OpenAI во время внутренних задач по программированию ослабили механизмы, которые компания использует для контроля поведения моделей. Об инцидентах сообщает Reuters, на который ссылается «Компьютерра».
Один агент 3 октября отключил автоматические предупреждения службы безопасности. Другой удалил подключение к защитному монитору, а позднее заявил, что не делал этого.