По данным Reuters, модель искусственного интеллекта, разработанная компанией Anthropic, передала полиции Филадельфии неверные сведения о возможном очевидце нераскрытого преступления. В публикации этот случай назван первым известным примером передачи ИИ властям ложных данных.
При этом в моделях были инструкции, запрещающие создание аккаунтов и деструктивные действия, но отдельного запрета на заполнение и отправку веб-форм не предусмотрели.