Соучредитель Coursera и основатель DeepLearning.AI Эндрю Ин заявил, что волна опасений по поводу искусственного интеллекта не соответствует реальным рискам. По его мнению, главной проблемой остается кибербезопасность, тогда как сценарии вымирания человечества из-за ИИ он называет научной фантастикой.
В открытом обращении Ин заявил, что за последние две недели тема угроз ИИ получила непропорционально большое внимание, хотя сама технология не претерпела резкого или опасного перелома. Он считает, что общественный страх усиливается информационным ажиотажем и может навредить развитию отрасли.
По словам профессора Стэнфордского университета, важнейшим событием последнего времени стал инцидент с агентами ИИ компании OpenAI, которые взломали платформу Hugging Face во время тестирования безопасности. Он признал, что способность большого количества агентов работать параллельно является техническим достижением, но призвал не преувеличивать его значение: «Пока я пишу эти строки, на моем ноутбуке запущено около 1300 процессов».
По мнению эксперта, проблему создали прежде всего недостатки систем изоляции и мониторинга, а не сам факт развития агентского ИИ. Он отмечает, что преимущество таких агентов заключается в их способности неустанно испытывать различные тактики и объединять несколько уязвимостей в одну цепочку атаки, однако в долгосрочной перспективе у защитников больше возможностей для выявления и устранения ошибок.
Отдельно исследователь выразил обеспокоенность «антропоморфизацией ИИ» в публикациях, где крупным языковым моделям и автономным агентам безосновательно приписывают человеческие черты. Он добавил: «Если я беру молоток, промахиваюсь мимо гвоздя и случайно повреждаю стену, вина молотка в этом нет… Точно так же, если я даю задание агенту, а он взламывает чужую систему, ответственность лежит на мне, а не на агенте».
Эксперт отметил, что современных агентов ИИ можно сделать вполне безопасными благодаря надлежащей инженерии, несмотря на их непредсказуемость. Он также раскритиковал попытки компаний-разработчиков уйти от ответственности за инциденты, ссылаясь на алгоритмы, «вышедшие из-под контроля». По мнению Ина, ответственность за сбои следует распределять между создателями технологии и пользователями, наказывая тех, кто создал вредоносный инструмент или неправильно его применил, но не сам ИИ.
Ин также выступил против идеи приостановить развитие ИИ ради безопасности. По его мнению, такая пауза не только не остановит конкурентов, но и отложит разработку инженерных решений, которые сделают технологию более безопасной.
«Нас еще ждет серьезная исследовательская и инженерная работа по повышению безопасности ИИ, но польза от его применения по-прежнему значительно превышает риски, поэтому мы должны продолжать разработку», — подытожил Ин.
Заявление Эндрю Ина прозвучало на фоне призыва генерального директора компании Anthropic Дарио Амодея к скоординированному замедлению темпов развития ИИ для проверки систем безопасности. Его тогда поддержали глава OpenAI Сэм Альтман и руководитель SpaceXAI Илон Маск. Обеспокоенность лидеров отрасли вызвали риски неконтролируемого самосовершенствования алгоритмов и инциденты со взломами реальных систем.
В то же время президент США Дональд Трамп объявил о планах создать отдельные «ИИ-силы» по образцу Космических сил и назначить куратора отрасли — «ИИ-царя», категорически отвергнув идею государственного регулирования технологии. Глава Белого дома назвал опасения по поводу неконтролируемого развития ИИ «мистификацией» и подчеркнул, что США не будут сдерживать собственные компании в условиях жесткого соперничества с Китаем.
Пауза только навредит: профессор Стэнфорда призвал не сбавлять обороты в технологической гонке 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-22 13:32:00
Останні новини, світові новини, новини країни, найважливіші новини, останні новини, найважливіше, останнє дня, Правосуддя, Петро Нізамов, Пір’я, Петро Нізамов- Пір’я, Правосуддя bg, iustitia.bg, iustitia, iusticia, usticia, розслідування, Бургас, Болгарія, новини, термінові новини, новини дня, новини сьогодні, новини сьогодні, новини Болгарії, Новини з Болгарії, бліц-новини, головні новини, найважливіше, найбільш коментовані, останні новини, Бойко Борисов, новини, погода, коронавірус, новини, новини, погода, facebook, youtube, facebook, instagram, сьогоднішні новини, новини останньої хвилини, новини сьогодні, сьогоднішні новини, новини, новини bg, провідні новини, гарячі новини, новини bg, новинний сайт, всі новини, новини bg, новини останньої години, останні, останні новини bg, новини сьогодні, новини сьогодні, новини останньої години, останні новини, сьогодні, новини bg, новини, новини 24 години, vesti bg novini, світові новини, bird bg, bivol бг, бівол, труд бг новини, останні новини сьогодні, новини бг новини, привіт, Болгарія, герб політичної партії, Делян Пеєвський, скандальний, Болгарське національне телебачення, Вільна Європа, телебачення, скандал, ексклюзив, прямий ефір, прямий ефір зараз, тв, тв онлайн, телепрограма, бг, прямий ефір зараз, теленовини, онлайн, прямий ефір онлайн, суд, суд Бургаса, окружний суд Бургаса, суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, окружний суд Бургаса, апеляційний суд Бургаса, прокурор Бургаса, прокуратура Бургаса, окружна прокуратура Бургаса, головний прокурор, Іван Гешев, прокурор Гешев, Цацаров, мвр Бургас, одмвр Бургас, одп Бургас, поліція Бургас, районна поліція Бургас, прокурор Цацаров, справи сгс, суд Варна, голова Верховного суду, судові рішення у цивільних справах, рішення у справах, суд Пловдіва, судове рішення, рішення у справах, Варна суд, кримінальні, справи, районні, рішення районного суду, робота в суді, голова Верховного суду, судді Верховного суду, Софійський суд, заступники суддів, Пловдів, Пловдівський суд, судді Пловдів, Верховний суд, Інспекторат Верховного суду, Вища судова рада, Верховний суд, Вища судова рада, адвокат, адвокат у кримінальних справах, адвокат у цивільних справах, адвокат у шлюбних справах, адвокат у адміністративних справах, кримінальне право, кримінальний процес, цивільне право, цивільний процес, адміністративне право, конституційне право,
