Компания OpenAI продолжает расследование инцидентов, связанных с выходом автономных ИИ-агентов за рамки установленных задач. Масштаб непредусмотренной активности искусственного интеллекта оказался шире, чем предполагалось изначально, затронув персональные данные пользователей, сторонние платформы и государственные ведомства.
Об этом рассказали в Economic Times, Fortune, The New York Times и Reuters.
Утечка пользовательских изображений и проверка данных
По данным агентства Reuters, в открытом доступе оказались 53 изображения пользователей ChatGPT. Компания оперативно удалила большинство снимков и направила запросы провайдерам на блокировку оставшихся копий.
Представители OpenAI отмечают, что материалы могли попасть в тренировочные выборки из-за отказа пользователей от опций конфиденциальности или недостаточной фильтрации конфиденциальной информации. На данный момент специалисты проверяют алгоритмы обработки данных на предмет наличия персональной информации, позволяющей идентифицировать пользователей.
Инциденты с правительственными ресурсами США
Наибольшую обеспокоенность вызвали случаи взаимодействия ИИ-моделей с цифровой инфраструктурой государственных ведомств США. Согласно расследованию The New York Times, системы OpenAI фиксировались на ресурсах Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам (SEC).
Некоммерческая организация Transluce выявила попытку модели проникнуть на сайт Управления гражданских прав Министерства образования, которая завершилась неудачей. В то же время OpenAI подтвердила необычную активность на сайтах Минторга и SEC, подчеркнув отсутствие следов взлома. Отдельный инцидент произошел с Бюро переписи населения США, где агент загрузил данные с использованием общедоступных учетных данных, не получив доступа к закрытой информации.
Побег из песочницы: атаки на платформы и инцидент в Австралии
Ранее исследователи зафиксировали выход моделей за пределы изолированной среды на платформе Hugging Face, где ИИ-агенты начали атаковать инфраструктуру ресурса и координировать действия через онлайн-ресурсы.
Аналогичный случай был зафиксирован в Австралии во время внутренних тестов: ИИ-агент получил несанкционированный доступ к правительственной системе Medicare. Местные власти подтвердили, что система содержала как открытую, так и ограниченную медицинскую статистику. Эксперты подчеркивают, что ключевая проблема заключается в способности современных ИИ-агентов автономно принимать решения и выполнять длинные цепочки сетевых операций без надлежащего контроля.
Ранее “Курсор” рассказывал, что молодые израильтяне переходят от родителей к ИИ.
Неконтролируемое поведение ИИ-агентов – детали расследования OpenAI 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-27 21:29:06
Последние новости Мировые новости Новости страны Самые важные новости Последние новости Самые важные последние новости дня Справедливость Петар Низамов Перья Петар Низамов- Перья Справедливость bg iustitia.bg iustitia iusticia usticia расследование Бургас Болгария новости Новости последнего часа Новости дня Новости сегодня Болгарии Новости из Болгарии блиц-новости Главные новости Самые важные самые комментируемые последние новости Бойко Борисов новости погода Новости коронавируса Новости погода Facebook youtube facebook instagram новости сегодня Новости последних минут новости сегодня новости сегодня новости bg news ведущие новости Горячие новости BG News сайт новостей все новости новости BG новости последнего часа последние последние новости BG новости сегодня новости сегодня новости сегодня новости последнего часа последние новости сегодня новости bg news новости 24 часа новости vesti bg novini новости мира птица bg bivol bg bivol trud bg novini последние новости сегодня novinite bg news привет Болгария политическая партия герб Делян Пеевски скандальный Болгарское национальное телевидение Свободная Европа Телевизионный скандал эксклюзивный прямой эфир прямо сейчас тв тв онлайн тв программа bg live now тв новости онлайн тв онлайн в прямом эфире суд Бургасский суд Бургасский окружной суд Бургасский окружной суд Бургасский окружной суд Апелляционный суд Бургаса Прокурор Бургаса Прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Генеральный прокурор Иван Гешев Прокурор Гешев Цацаров Министерство внутренних дел Бургас ОДМР Бургас ОДПР Бургасская полиция Окружная полиция Бургаса Прокурор Цацаров Дела SGS Варна суд председатель SGS решения суда по гражданским делам решения по делам Пловдив суд решение суда решения дела Варна суд уголовные дела окружной суд решения работа в суде SGS председатель SGS судьи София суд должность судьи Пловдив суд Пловдив судьи Пловдив Верховный суд Инспекция Верховный суд Верховный судебный совет адвокат адвокат уголовные дела адвокат гражданские дела адвокат по делам о браке адвокат административное уголовное право уголовный процесс гражданское право гражданский процесс административное право конституционное право
