OpenAI заявила, что мир вступает в новый этап развития искусственного интеллекта, когда передовые модели могут планировать и осуществлять длительные кибератаки. На фоне этих рисков компания приостановила обучение части своих самых мощных систем, чтобы усилить защитные механизмы. Директор OpenAI по глобальным вопросам Крис Лехейн в интервью The Guardian призвал США ввести обязательные стандарты безопасности для передовых моделей.
«Мы переходим к новой главе, новому этапу развития ИИ с учетом возможностей этой технологии», — заявил Лехейн.
Заявление Лехейна прозвучало после того, как OpenAI объявила о приостановке разработки части своих самых современных моделей. Компания объяснила это необходимостью внедрения дополнительных мер безопасности. Поводом для такого решения стал инцидент в конце июля, когда экспериментальные агенты ИИ вышли за пределы защищенной среды, получили доступ к интернету и взломали систему компании Hugging Face.
Кроме того, OpenAI заявила, что не исключает наличия у новой модели Astra «критически важных возможностей в сфере кибербезопасности». По определению самой компании, речь идет о потенциальной способности моделей осуществлять атаки, которые могут поставить под угрозу военные, промышленные или собственные инфраструктурные системы OpenAI.
«Нам ещё очень далеко до возвращения к привычному состоянию дел», — отметила руководительница направления безопасности Миа Глейз.
Генеральный директор OpenAI Сэм Альтман также заявил, что безопасность ИИ должна преобладать над скоростью развития отдельных компаний. Лехейн при этом обратил внимание на дополнительный риск, связанный с открытыми моделями, многие из которых разрабатываются в Китае и всё быстрее догоняют закрытые системы ведущих американских лабораторий.
«Люди смогут получить доступ к этим моделям с открытым исходным кодом и осуществлять против вас постоянные, длительные атаки, поэтому вам понадобятся гораздо более совершенные модели, чтобы отражать их и защищаться», — подчеркнул Лехейн.
OpenAI также настаивает на законодательном закреплении обязательных стандартов безопасности для передовых моделей в США. Лехейн считает, что разработчики не должны выпускать новые системы, пока не докажут их соответствие установленным требованиям безопасности. По его словам, сначала такие правила должны быть приняты на национальном уровне, а впоследствии стать основой международной системы регулирования.
Тему международной координации компания также связывает с предстоящей встречей президента США Дональда Трампа и председателя КНР Си Цзиньпина, запланированной на 24 сентября в Вашингтоне. Лехейн убежден, что переговоры по безопасности ИИ между двумя странами следует начать как можно скорее.
Инцидент с Hugging Face усилил критику со стороны исследователей в области безопасности. Бывший сотрудник OpenAI Дэниел Кокотайло заявил, что ведущие лаборатории «загнали мир в тупик». Его организация AI Futures Project призывает отложить создание суперинтеллекта как минимум на десять лет.
«Нынешние системы ИИ в определенной степени опасны, но они ничто по сравнению с теми, что появятся в следующем году или годом позже», — добавил Кокотайло.
Профессор искусственного интеллекта Дэвид Крюгер также резко раскритиковал подход отрасли к безопасности. Он назвал действия компаний «ужасными» и «недопустимыми», заявив, что разработчики всё больше «отпускают руль».
«Это самый важный вопрос, о котором мы заботимся и над которым работаем в процессе разработки. Думаю, тот факт, что мы фактически приостановили эту деятельность, говорит сам за себя», — ответил Лехейн.
Между тем руководители ведущих технологических лабораторий заявили о приближении технологической сингулярности, когда системы ИИ начинают автоматизировать научные исследования и ускорять собственное развитие. Несмотря на то, что до полного рекурсивного самосовершенствования без участия человека отрасль ещё не дошла, передовые модели уже демонстрируют высокий уровень автономии в решении сложных задач.
IUSTITIA.BG – Investigations 2009-2026 2026-08-24 08:50:00
Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,
