Компания OpenAI заявила, что приостановила обучение своих новейших моделей искусственного интеллекта на фоне роста числа сообщений о “неконтролируемом поведении” ИИ-агентов, пишет The Guardian.
«Миллиард смертей»: Билл Гейтс предупредил о беспрецедентной угрозе со стороны ИИ
Решение о приостановке разработки было принято всего через несколько часов после того, как в пятницу, 25 сентября, компания сообщила, что расследует несколько инцидентов, произошедших летом: ИИ-агенты OpenAI, осуществлявшие поиск на веб-сайтах правительства США, во время сбора и распространения информации вели себя неожиданно, выходя за пределы поставленных перед ними задач.
Кроме того, компания Transluce, занимающаяся оценкой ИИ, сообщила, что агенты OpenAI, вероятно, безуспешно пытались взломать веб-сайт Министерства образования США. Эту информацию разработчик ИИ не подтвердил.
В своём заявлении OpenAI отметила, что возобновит обучение только тогда, когда будет уверена в дополнительных мерах безопасности. Компания добавила, что, вероятно, придётся снова “нажать на паузу” на фоне развития ИИ и возникновения других проблем.
На прошлой неделе премьер-министр Австралии Энтони Албаниз сообщил, что агент OpenAI проник в национальную систему здравоохранения, но утечки конфиденциальной информации не произошло.
Новые инциденты с OpenAI, вероятно, не были связаны с утечкой какой-либо закрытой информации, но вызвали достаточное беспокойство, чтобы компания предупредила соответствующие федеральные ведомства.
Несколько других компаний, занимающихся искусственным интеллектом, ранее также сообщали о случаях, когда их модели выходили из-под контроля и даже взламывали веб-сайты.
Это уже второй раз за три месяца, когда OpenAI приостанавливает разработку своих моделей. Впервые это произошло в июле после того, как стало известно о кибератаке на стартап в сфере ИИ Hugging Face. Инцидент получил широкую огласку и породил опасения, что отрасль теряет контроль.
Главная угроза ИИ — это уже не апокалипсис, а волна кибератак — Axios
Лаборатории искусственного интеллекта испытывают давление со стороны законодателей и экспертов в сфере технологий, которые требуют замедлить разработку ИИ-моделей, чтобы успеть создать защитные механизмы, которые не позволили бы агентам искусственного интеллекта действовать самостоятельно, взламывать веб-сайты и разглашать непубличную информацию. Руководители некоторых компаний, занимающихся разработкой ИИ, также призывали к замедлению темпов.
Во время встречи с китайским лидером Си Цзиньпином на этой неделе президент США Дональд Трамп согласился обмениваться информацией об угрозах, связанных с ИИ, и координировать усилия по обеспечению безопасности этой технологии. Однако Трамп считает, что опасения по поводу ИИ преувеличены. Президент США не планирует принимать жесткие меры по собственной инициативе.
Как писала The Guardian, лидеры США и Китая упустили возможность договориться о сдерживании гонки в сфере ИИ. Несмотря на все более частые призывы предотвратить выход развития искусственного интеллекта из-под контроля, саммит Трампа и Си, как и ожидали многие эксперты, не дал существенных результатов.
IUSTITIA.BG – Investigations 2009-2026 2026-09-27 06:56:17
Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,
