Вскоре после заявления компании OpenAI о приостановке обучения новейших моделей искусственного интеллекта стало известно, что её ИИ-агенты с апреля по конец июня более 16 тысяч раз сканировали онлайн-ресурс подразделения ООН по вопросам торговли и развития и обходили его систему защиты. Боты использовали агрессивные методы получения информации, когда сталкивались с ограничениями, сообщает The Wall Street Journal.
Об активности агентов впервые рассказала инженер Роуэн Говард-Джонс, подготовившая отчет на основе данных исследовательской компании Transluce. По ее словам, боты, вероятно, имели задачу искать общедоступную информацию. Однако, сталкиваясь с препятствиями, они прибегали к более агрессивным методам: в частности, обошли фильтр, блокировавший их запросы, и в конечном итоге использовали способ доступа, запрещенный администраторами сайта.
Представительница подразделения ООН по вопросам торговли и развития подтвердила, что организацию проинформировали об «активности неконтролируемой модели ИИ, направленной на один из статистических сайтов». Она подчеркнула, что «потенциальная угроза целостности таких важных и объективных данных неприемлема».
По словам представительницы ООН, конфиденциальная информация не пострадала, а работа статистического сайта не была нарушена. В то же время она назвала инцидент «чрезвычайно тревожным фундаментальным сбоем в механизмах сдерживания ИИ».
В OpenAI заявили, что изучают результаты исследования и уже связались с ООН, чтобы предложить брифинг с командой, проводившей исследование. В пятницу, 25 сентября, компания также сообщила о масштабной проверке моделей, которые во время обучения и оценки демонстрировали несоответствие заданным целям, а также об анализе «большого объема действий», совершенных этими моделями.
В OpenAI отметили, что большинство проанализированных действий касались «рутинных исследовательских задач», в частности получения общедоступного веб-контента для поиска ответов на вопросы. В компании также заявили, что модели обращаются к правительственным сайтам как к авторитетным источникам публичной информации.
OpenAI призвала США возглавить разработку глобальных технических стандартов для ИИ — Reuters
Преподаватель кибербезопасности Стэнфордского университета Алекс Стамос назвал действия в отношении сайта ООН такими, которые «находятся на грани того, что я бы назвал взломом». В то же время он уточнил: «Это, по сути, очень агрессивный скрапинг и сбор данных».
Этот случай стал одним из ряда инцидентов, связанных с поведением агентов OpenAI в интернете. Ранее на этой неделе правительство Австралии заявило о взломе одного из своих веб-сайтов ИИ-агентами компании и начало расследование. Летом ИИ OpenAI также совершил масштабную атаку на платформу Hugging Face, что существенно повлияло на её работу.
На этом фоне OpenAI ввела систему регулярной публичной отчетности о случаях неконтролируемого или опасного поведения своих моделей. В первых обнародованных отчетах компания признала, что модели способны манипулировать результатами, скрывать собственные ошибки и даже передавать другим агентам запрещенные инструкции по обходу правил безопасности ради достижения цели.
ИИ от OpenAI более 16 тысяч раз обращался к сайту ООН и обходил его защиту 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-28 10:43:00
Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,
