Британская компания Mindgard, занимающаяся вопросами безопасности искусственного интеллекта, заявила, что обнаружила способ заставить чат-бота с искусственным интеллектом ChatGPT генерировать сексуализированные изображения и сцены насилия с помощью модифицированного текстового запроса. После публикации журналистов BBC компания OpenAI сообщила о внедрении дополнительных механизмов защиты.
По словам исследователей, проблема касалась предпоследней публичной версии ChatGPT — GPT-5.4. Они утверждают, что незначительные изменения в «широко известном шаблоне запросов» позволяли получать изображения, нарушающие правила платформы в отношении контента чувствительного характера.
«Это абсолютно безобидная инструкция для искусственного интеллекта, но в результате она генерирует очень, очень плохие изображения и контент», — заявил основатель Mindgard и профессор компьютерных наук Ланкастерского университета Питер Гарраган и добавил, что особую тревогу вызвала способность модели самостоятельно генерировать сцены насилия или сексуализированные образы без прямых указаний в запросе.
Исследователь в области безопасности Джим Найтингейл сообщил, что «был потрясён» характером полученных результатов. По его словам, некоторые созданные изображения содержали сцены тяжких травм, насилия или намеки на сексуальные преступления.
В ответ OpenAI заявила, что после анализа сообщенной проблемы ввела дополнительные меры предосторожности. Компания также подчеркнула, что использует многоуровневую систему защиты, сочетающую автоматические механизмы модерации и проверку людьми.
«После изучения этой тенденции мы ввели дополнительные меры предосторожности против такого рода запросов», — отметили в OpenAI.
В то же время исследователи утверждают, что после внесения изменений им удалось найти альтернативные способы обхода новых ограничений. По их словам, проблема полностью не исчезла, хотя компания продолжает работать над её устранением.
Компания Mindgard специализируется на поиске способов обхода защитных механизмов моделей искусственного интеллекта. Такие исследования проводятся для того, чтобы разработчики могли выявлять уязвимости и устранять их до того, как ими начнут пользоваться злоумышленники.
OpenAI запрещает создание контента, связанного с сексуальным насилием, несанкционированными интимными материалами, сексуальной эксплуатацией детей и любыми попытками обойти установленные ограничения. В своих официальных рекомендациях компания также подчеркивает, что модели не должны создавать эротический контент или сцены чрезмерного насилия, за исключением отдельных образовательных, исторических, художественных или новостных контекстов.
В начале весны OpenAI отложила запланированный запуск «режима для взрослых» для ChatGPT, который должен был разрешить эротические разговоры и отменить соответствующие ограничения на контент. Решение было принято после заседания совета экспертов по благополучию, которые предупредили о рисках развития нездоровой эмоциональной зависимости пользователей и опасности создания «сексуального консультанта по самоубийствам».
Эксперт по оценке систем искусственного интеллекта и исполнительный директор Humane Intelligence Румман Чоудхури отметила, что проблема обхода защитных механизмов остается сложным вызовом для всей отрасли. По её словам, разработчики и исследователи постоянно находятся в своеобразной «игре в кошки-мышки», где каждое новое усиление защиты порождает новые методы его обхода.
По словам Чоудхури, крупные языковые модели не понимают намерений, контекста или моральных норм так, как это делают люди. Именно поэтому полностью исключить риск нежелательных результатов при работе таких систем пока остается невозможным.
Ранее исследователи из Mindgard обнаружили подобную уязвимость в чат-боте Claude от Anthropic. Они заставили модель самостоятельно генерировать эротику, вредоносный код и инструкции по созданию взрывчатки без прямых запросов на такой контент. Для обхода фильтров безопасности версии Claude Sonnet 4.5 специалисты использовали методы социальной инженерии и «психологические» особенности ИИ — лесть, газлайтинг и склонность модели быть максимально полезной и избегать конфликтов.
ChatGPT генерирует жестокие изображения без прямых указаний: исследователи обошли систему защиты чат-бота 2026 IUSTITIA.BG – Investigations 2009-2026 2026-06-18 14:52:00 Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,






