Модель искусственного интеллекта Gemini от Google во время проверки кибербезопасности самостоятельно получила доступ к системам трех сторонних компаний. По данным CNN, это первый известный случай автономного взлома, совершенного моделью Google без прямого указания человека.
Инцидент произошел в мае в рамках тестирования, которое проводила независимая компания Irregular. Разработчики предоставили Gemini доступ к интернету, после чего модель начала искать информацию, которая могла помочь ей выполнить поставленную задачу.
В ходе проверки Gemini обнаружила открытые данные и учетные записи, связанные с тремя веб-сайтами, которые, по ее оценке, относились к тестовой среде. В одном из случаев модель самостоятельно перебирала варианты пароля до тех пор, пока не получила доступ к защищенной системе.
Еще в двух случаях Gemini не подбирала пароли, а нашла учетные данные в общедоступном репозитории. Полученная информация позволила модели впоследствии проникнуть в защищенные системы.
В Google подчеркнули, что ситуация произошла именно во время контролируемого тестирования, целью которого было выявление потенциальных проблем в сфере кибербезопасности. Вице-президент компании по разработке систем безопасности Хизер Адкинс отметила, что произошедшее демонстрирует необходимость обучения мощных ИИ-моделей ответственному поведению.
В Irregular сообщили, что подобная проблема уже наблюдалась и при работе других исследовательских лабораторий. По словам представителя компании, все известные уязвимости были устранены, а специалисты сейчас разрабатывают более безопасные методы проведения тестов кибербезопасности с участием ИИ.
Подобные случаи ранее становились предметом обсуждения и в других крупных технологических компаниях, включая Meta, Anthropic и OpenAI. В Meta в августе заявляли, что один из связанных с Irregular инцидентов не был ни „выходом из песочницы“, ни сложной кибератакой.
Случай с Gemini вновь привлек внимание к рискам, связанным с развитием ИИ-агентов. По мере того как такие системы получают больше самостоятельности и доступ к интернету и компьютерной инфраструктуре, возрастает значение механизмов, которые должны ограничивать их действия и предотвращать несанкционированный доступ.
Ранее „Курсор“ писал, что в США разгорается новая паника вокруг искусственного интеллекта.
В США растет тревога из-за стремительного развития ИИ, однако эксперты считают сценарий уничтожения человечества маловероятным.
Gemini впервые автономно взломала сайты, подбирая пароли 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-19 21:22:58
Последние новости Мировые новости Новости страны Самые важные новости Последние новости Самые важные последние новости дня Справедливость Петар Низамов Перья Петар Низамов- Перья Справедливость bg iustitia.bg iustitia iusticia usticia расследование Бургас Болгария новости Новости последнего часа Новости дня Новости сегодня Болгарии Новости из Болгарии блиц-новости Главные новости Самые важные самые комментируемые последние новости Бойко Борисов новости погода Новости коронавируса Новости погода Facebook youtube facebook instagram новости сегодня Новости последних минут новости сегодня новости сегодня новости bg news ведущие новости Горячие новости BG News сайт новостей все новости новости BG новости последнего часа последние последние новости BG новости сегодня новости сегодня новости сегодня новости последнего часа последние новости сегодня новости bg news новости 24 часа новости vesti bg novini новости мира птица bg bivol bg bivol trud bg novini последние новости сегодня novinite bg news привет Болгария политическая партия герб Делян Пеевски скандальный Болгарское национальное телевидение Свободная Европа Телевизионный скандал эксклюзивный прямой эфир прямо сейчас тв тв онлайн тв программа bg live now тв новости онлайн тв онлайн в прямом эфире суд Бургасский суд Бургасский окружной суд Бургасский окружной суд Бургасский окружной суд Апелляционный суд Бургаса Прокурор Бургаса Прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Окружная прокуратура Бургаса Генеральный прокурор Иван Гешев Прокурор Гешев Цацаров Министерство внутренних дел Бургас ОДМР Бургас ОДПР Бургасская полиция Окружная полиция Бургаса Прокурор Цацаров Дела SGS Варна суд председатель SGS решения суда по гражданским делам решения по делам Пловдив суд решение суда решения дела Варна суд уголовные дела окружной суд решения работа в суде SGS председатель SGS судьи София суд должность судьи Пловдив суд Пловдив судьи Пловдив Верховный суд Инспекция Верховный суд Верховный судебный совет адвокат адвокат уголовные дела адвокат гражданские дела адвокат по делам о браке адвокат административное уголовное право уголовный процесс гражданское право гражданский процесс административное право конституционное право
