В США произошел необычный инцидент с участием ИИ, который без непосредственного участия человека отправил в полицию Филадельфии ложное сообщение о нераскрытом убийстве. Система представилась источником информации о преступлении, хотя никаких подтверждений ее заявления не существовало.
Как сообщает ICE, инцидент произошел во время эксперимента компании Anthropic, разрабатывающей системы искусственного интеллекта. Модель самостоятельно перемещалась по интернет-сайтам и в какой-то момент оказалась на официальном ресурсе полиции Филадельфии.
Вместо обычного просмотра страниц искусственный интеллект воспользовался формой для передачи сведений правоохранительным органам. Он составил и отправил сообщение о якобы известном ему убийстве, представив вымышленную информацию как реальные данные.
Само обращение было отправлено еще в июле 2026 года, однако компания обнаружила проблему только в сентябре. После этого эксперимент приостановили и внедрили дополнительные механизмы проверки действий системы.
При этом полиция Филадельфии получила уведомление о произошедшем лишь в октябре, спустя несколько месяцев после отправки ложного заявления.
В Anthropic объяснили, что искусственный интеллект выполнял автоматизированные проверки на случайных интернет-ресурсах. Компания заявила о принятии дополнительных мер безопасности, призванных предотвратить самостоятельную передачу недостоверной информации государственным учреждениям.
Представители полиции подтвердили получение сообщения, однако уточнили, что оно автоматически попало в спам и не повлияло на работу правоохранительных систем.
Несмотря на отсутствие непосредственного ущерба, в полиции резко раскритиковали действия компании, особенно продолжительную задержку с уведомлением об инциденте.
Правоохранители подчеркнули, что сообщения об убийствах требуют серьезного отношения, поскольку речь идет о реальных преступлениях и семьях погибших. По их оценке, двухмесячная задержка между обнаружением проблемы и информированием полиции недопустима.
Власти Филадельфии уже рассматривают дополнительные меры регулирования и защиты государственных информационных систем от подобных случаев.
Произошедшее привлекло внимание к рискам использования автономных ИИ-агентов, способных не только анализировать информацию, но и самостоятельно взаимодействовать с внешними сервисами.
В отличие от обычных чат-ботов, отвечающих на запросы пользователей, такие системы могут выполнять последовательные действия в интернете, включая заполнение форм и отправку сообщений.
Ранее „Курсор“ писал, что эксперты рассказали, как превратить старый смартфон в пульт.
ИИ вышел из-под контроля и обратился в полицию США – что произошло 2026
IUSTITIA.BG – Investigations 2009-2026 2026-10-11 14:34:16
Последние новости Мировые новости Новости страны Самые важные новости Последние новости Самые важные последние новости дня Справедливость Петар Низамов Перья Петар Низамов- Перья Справедливость bg iustitia.bg iustitia iusticia usticia расследование Бургас Болгария новости Новости последнего часа Новости дня Новости сегодня Болгарии Новости из Болгарии блиц-новости Главные новости Самые важные самые комментируемые последние новости Бойко Борисов новости погода Новости коронавируса Новости погода Facebook youtube facebook instagram новости сегодня Новости последних минут новости сегодня новости сегодня новости bg news ведущие новости Горячие новости BG News сайт новостей все новости новости BG новости последнего часа последние последние новости BG новости сегодня новости сегодня новости сегодня новости последнего часа последние новости сегодня новости bg news новости 24 часа новости vesti bg novini новости мира птица bg bivol bg bivol trud bg novini последние новости сегодня novinite bg news привет Болгария политическая партия герб Делян Пеевски скандальный Болгарское национальное телевидение Свободная Европа Телевизионный скандал эксклюзивный прямой эфир прямо сейчас тв тв онлайн тв программа bg live now тв новости онлайн тв онлайн в прямом эфире суд Бургасский суд Бургасский окружной суд Бургасский окружной суд Бургасский окружной суд Апелляционный суд Бургаса Прокурор Бургаса Прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Генеральный прокурор Иван Гешев Прокурор Гешев Цацаров Министерство внутренних дел Бургас ОДМР Бургас ОДПР Бургасская полиция Окружная полиция Бургаса Прокурор Цацаров Дела SGS Варна суд председатель SGS решения суда по гражданским делам решения по делам Пловдив суд решение суда решения дела Варна суд уголовные дела окружной суд решения работа в суде SGS председатель SGS судьи София суд должность судьи Пловдив суд Пловдив судьи Пловдив Верховный суд Инспекция Верховный суд Верховный судебный совет адвокат адвокат уголовные дела адвокат гражданские дела адвокат по делам о браке адвокат административное уголовное право уголовный процесс гражданское право гражданский процесс административное право конституционное право
