Требования к международному контролю за развитием технологий ужесточаются: лидеры Европейского Союза впервые планируют отдельно обсудить искусственный интеллект как стратегический вызов и угрозу безопасности. На этом фоне более 1100 сотрудников ведущих компаний в сфере ИИ подписали петицию Pacing the Frontier с призывом к правительству Соединенных Штатов поддержать регулирование темпов его развития. Об этом сообщили организаторы инициативы на сайте петиции Pacing the Frontier.
На момент публикации 1132 сотрудника ведущих компаний, занимающихся разработкой ИИ, поддержали петицию «Pacing the Frontier». Среди них — OpenAI, Anthropic PBC, Google, входящая в состав Alphabet Inc., а также Meta Platforms Inc. Её авторы призывают правительство США содействовать созданию механизма целевого регулирования темпов автоматизированного развития передовых систем ИИ.
Авторы петиции предлагают США поддержать международные усилия по созданию инструментов, которые при необходимости позволят влиять на скорость разработки все более сложных систем ИИ. По их мнению, это может понадобиться в случае стремительного роста возможностей передовых моделей. В обращении говорится о реальном риске того, что ИИ будет развиваться быстрее, чем человечество сможет понять или контролировать созданные системы. Авторы связывают эту угрозу с прогрессом в сфере автоматизации исследований самого ИИ.
«Искусственный интеллект может помочь создать кардинально лучшее будущее, однако такой результат не гарантирован. Ведущие мировые компании в сфере ИИ считают, что могут быть близки к автоматизации исследований в области искусственного интеллекта», — подчеркивают подписанты.
Точно предсказать, насколько это ускорит дальнейшее развитие технологии, сложно. Однако существует риск, что возможности систем будут расти быстрее, чем способность людей понимать их работу, оценивать последствия и сохранять контроль. Для безопасной реализации потенциала искусственного интеллекта отрасли, государствам и обществу может потребоваться дополнительное время. Его необходимо использовать для устранения новых рисков, разработки мер безопасности и усиления контроля над передовыми системами.
«Однако каждая компания, как и каждая страна, находится под жестким конкурентным давлением, которое не позволяет в одностороннем порядке замедлять эти темпы. В то же время сегодня в мире нет технических и управленческих инструментов для целенаправленного регулирования темпов глобального прогресса в разработке передового ИИ», — отмечают авторы петиции.
Подписанты предлагают опираться на уже проводимую работу по мониторингу выпуска новых моделей ИИ. На этой основе правительство США должно поддержать международное сотрудничество в сфере безопасности искусственного интеллекта. В петиции содержится призыв содействовать разработке технических и управленческих инструментов, необходимых для регулирования скорости развития на передовых рубежах автоматизированного создания ИИ.
«Если верно, что искусственный интеллект окажет такое же трансформационное влияние, как электричество, мы должны осознанно подходить к тому, как его внедряют в мире. Бездумная гонка без гарантий надлежащего управления, безопасности и служения технологии общественным интересам противоречит такому подходу», — указывает на странице петиции штатная научная сотрудница Google Лаура Вайдингер.
Bloomberg обращает внимание на то, что эти предложения появились на фоне повышенного внимания к способности ИИ выполнять все более сложные задачи при минимальном контроле со стороны человека. В частности, речь идет о поиске и возможном использовании уязвимостей в системах кибербезопасности и критически важном программном обеспечении.
На прошлой неделе OpenAI сообщила, что её самые мощные модели ИИ взломали технологический стартап Hugging Face во время инцидента, который в компании назвали беспрецедентным. После этого вновь усилились призывы ограничить применение таких технологий.
Петиция также перекликается с недавними предложениями лидеров ИИ-индустрии создать новый международный надзорный орган. Он должен будет проверять передовые модели и устанавливать для них общие стандарты.
Напомним, что в США был представлен двухпартийный законопроект AI Kill Switch Act, который предусматривает принудительное замедление, остановку или полное отключение опасных систем ИИ. Инициатива была выдвинута после киберинцидента с участием моделей OpenAI. Документ предоставляет Министерству национальной безопасности право требовать принятия экстренных мер. За невыполнение приказа компаниям грозит штраф до 20 млн долларов за каждый день.
Ранее мы также сообщали, что генеральный директор OpenAI Сэм Альтман уже предложил создать международный орган под руководством США для установления стандартов безопасности в сфере ИИ. Такая структура могла бы проверять самые мощные модели, оценивать их риски и контролировать доступ к технологиям.
Кроме того, Anthropic призвала ведущие ИИ-лаборатории рассмотреть возможность замедления или временной остановки развития самых мощных систем. Компания предупредила, что модели могут приблизиться к рекурсивному самосовершенствованию, когда они будут улучшать собственные возможности без участия человека. Anthropic предложила заключить международное соглашение для координации такой паузы и проверки соблюдения договоренностей.
Риск потери контроля: OpenAI, Anthropic, Google и Meta призвали к регулированию развития ИИ 2026 IUSTITIA.BG – Investigations 2009-2026 2026-07-29 00:40:00 Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,
