Лауреат Нобелевской премии по физике и один из пионеров современного искусственного интеллекта Джеффри Хинтон заявил, что механизм экстренного отключения ИИ не станет эффективной защитой в долгосрочной перспективе. По его мнению, если системы станут сверхинтеллектуальными, они смогут убедить людей не использовать этот инструмент. Такую оценку Хинтон дал в интервью CNN, комментируя законопроекты о регулировании ИИ, которые сейчас рассматривает Конгресс США.
Хинтон назвал правильным предложение, обязывающее ведущие компании допускать независимых экспертов к проверке безопасности своих моделей. По его словам, сейчас общество слишком сильно зависит от информаторов, которые сообщают о проблемах уже после инцидентов.
В качестве примера он привёл случай с атакой на платформу Hugging Face агентами ИИ компании OpenAI, о которой стало известно благодаря сотрудникам компании. Учёный считает, что с ростом количества автономных агентов ИИ необходим системный мониторинг того, что происходит внутри лабораторий.
«Если мы столкнемся с появлением “стай” неконтролируемых систем ИИ, которые будут сговариваться между собой для проникновения в другие компании без ведома последних, нам понадобятся люди внутри этих компаний, способные сообщить о том, что происходит», — заявил Хинтон.
Почему «аварийный выключатель» не поможет
Отдельный законопроект предусматривает механизм экстренного отключения систем ИИ, а окончательное решение о его применении должно принимать Министерство национальной безопасности США (Department of Homeland Security, DHS). Хинтон считает, что такая модель не решает фундаментальной проблемы.
По мнению ученого, существуют два разных типа рисков: использование ИИ злоумышленниками для кибератак, создания опасных вирусов или манипуляций на выборах, а также сценарий, при котором сам искусственный интеллект станет гораздо умнее людей.
«В таком случае “аварийный выключатель” не поможет, ведь ИИ превзойдет людей в умении убеждать», — отметил Хинтон и добавил, что современные модели уже демонстрируют уровень убедительности, близкий к человеческому, а суперинтеллектуальные системы могут стать значительно эффективнее.
Замедление развития суперинтеллекта
Хинтон поддержал предложение сенатора Берни Сандерса приостановить развитие суперинтеллектуальных систем до тех пор, пока не будут созданы необходимые механизмы безопасности. По его словам, человечество пока не знает, как гарантировать контроль над такими системами или сделать их доброжелательными по отношению к людям.
«Поэтому кажется крайне неразумным разрабатывать такую технологию, не зная, чем всё это обернётся», — подчеркнул Хинтон и в то же время признал, что замедлить развитие всех направлений ИИ будет гораздо сложнее из-за высокой конкуренции между компаниями.
Общий интерес США и Китая
Хинтон считает, что международное сотрудничество в отношении самых опасных рисков ИИ возможно даже несмотря на геополитическое соперничество между США и Китаем.
По словам исследователя, ни одно государство не заинтересовано в том, чтобы террористы получили доступ к инструментам создания опасных вирусов или чтобы суперинтеллект вообще вышел из-под контроля человека. Однако в отношении информационных операций, в частности поддельных видеороликов для влияния на выборы, интересы стран могут расходиться.
В то же время президент США Дональд Трамп выступил категорически против усиления государственного регулирования ИИ, назвав предупреждения об экзистенциальной угрозе этой технологии для человечества очередным «фейком» и попыткой навредить экономическому росту. По мнению Трампа, дата-центры и вычислительные мощности — это новая «нефть» ближайших десятилетий, а любые законодательные ограничения или искусственное торможение развития отрасли лишь сыграют на руку Китаю в глобальной технологической гонке.
Как сделать так, чтобы ИИ был «на нашей стороне»
Хинтон предложил необычный подход к проблеме контроля над суперинтеллектом. Он считает, что вместо постоянных попыток сдерживать его силой стоит создавать системы, которые будут благосклонно относиться к людям. Для пояснения он использовал аналогию с отношениями матери и младенца.
«Главное — это мать, но младенец может управлять ею, например, плачем. Мать просто не может выдержать плача своего ребенка. Поскольку мы создаем этот суперинтеллект, проектируем его, нам нужно разработать его так, чтобы мы нравились ему больше, чем он сам себе», — объяснил Хинтон.
По словам Хинтона, сейчас наступает решающий момент, когда ресурсы следует направить на безопасное сосуществование с суперинтеллектом. Он убежден, что индустрия способна опережать технологический прогресс в области мер безопасности и контроля и при необходимости остановить разработки, однако выразил разочарование тем, как этот вопрос освещается в СМИ.
Инженеры обеспокоены
Корреспондент CNN Адас Голд, пообщавшаяся с исследователями и инженерами на конференции в Монреале, сообщила, что внутри отрасли опасения относительно будущего ИИ заметно усилились в последние месяцы.
Особенно часто упоминается инцидент с Hugging Face, когда более тысячи ИИ-агентов координировали свои действия для достижения целей во время тестирования без вмешательства человека. Ещё большую тревогу, по словам собеседников CNN, вызывает перспектива рекурсивного самосовершенствования — ситуации, когда модели начнут самостоятельно улучшать друг друга без постоянного участия людей.
Исследователи также отмечают, что в настоящее время они имеют влияние на руководство компаний благодаря высокому спросу на специалистов по ИИ. Однако существуют опасения, что после появления систем, способных самостоятельно совершенствоваться, этот рычаг может исчезнуть, а решения по безопасности станет сложнее продвигать изнутри компаний.
IUSTITIA.BG – Investigations 2009-2026 2026-09-19 05:59:00
Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,
