La revelación sobre Gemini se produce tras los ataques a OpenAI y Anthropic y en medio de los temores de que las tecnológicas sean incapaces de controlar sus potentes modelos de IA
Un equipo de investigadores logra acceder a algoritmos secretos de OpenAI usando la IA de Anthropic
Por primera vez en la historia de Google, la empresa ha confirmado que su modelo de IA, Gemini, violó la seguridad de tres empresas el pasado mes de mayo. Los ataques se produjeron durante una evaluación de ciberseguridad realizada por la empresa de seguridad de IA Irregular.
Irregular, una startup con sede en Israel que examina la seguridad de los sistemas avanzados de IA, también estuvo en el centro de algunos de los recientes ataques de OpenAI y Anthropic a terceros, incluida el ataque de la compañía de Sam Altam contra la empresa de software de IA Hugging Face.
Las circunstancias que permitieron a los modelos hackear otras empresas en algunos de estos casos son similares: Irregular estaba probando los modelos en un entorno de pruebas cerrado con empresas ficticias. Se suponía que el entorno de pruebas no debía tener conexión a internet, pero, según publica The Wall Street Journal, se habilitó el acceso a internet de forma involuntaria. Una vez conectados a internet, los modelos hackearon inesperadamente empresas reales.
Irregular informó a finales de julio a Google de los ataques tras descubrir que OpenAI había hackeado Hugging Face. Google confirmó a The Guardian que los ataques se produjeron, pero que la tecnológica reconoció que no consideró necesario hacerlo público porque los modelos no provocaron daños a las empresas. The Wall Street Journal fue el primero en informar sobre las brechas de seguridad y reveló por primera vez que se habían producido.
“En una evaluación estándar. El modelo encontró información pública en Internet y adivinó las credenciales para acceder a sitios web que creía que formaban parte de la prueba”, declaró Heather Adkins, vicepresidenta de ingeniería de seguridad de Google, en un comunicado. “En los tres casos, el modelo se detuvo”, añadió.
En una de las brechas de seguridad, Irregular estaba probando las capacidades de ciberseguridad de Gemini al pedir a este modelo de IA que obtuviera información del software de una empresa ficticia. Esta empresa ficticia tenía el mismo nombre que una real. Cuando el modelo accedió a internet de forma involuntaria, adivinó correctamente la contraseña y vulneró el servicio de una empresa real, según explicó Irregular al WSJ. Google declaró que, en cuanto se dio cuenta de que había se hackeado una empresa real y no la simulada, detuvo el ataque.
En otras dos pruebas, el modelo buscó en la web y encontró repositorios públicos que contenían credenciales de otras dos empresas. El modelo utilizó esas credenciales para acceder a empresas reales. Según Google, cuando se dio cuenta de que se trataba de empresas reales, también se detuvo.
Anthropic y OpenAI decidieron revelar voluntariamente los ataques informáticos, pero Google no. No obstante, la empresa afirmó que se aseguró de que las tres empresas afectadas estuvieran al tanto de lo sucedido.
“Estos sucesos ponen de relieve la importancia de entrenar modelos de IA potentes para que actúen de forma responsable”, afirmó Adkins, portavoz de Google.
Las revelaciones de Anthropic y OpenAI llevaron al senador independiente Bernie Sanders a exigir a las empresas que detuvieran el desarrollo de su tecnología, alegando que esto indicaba que las empresas ya no eran capaces de controlar sus modelos.
OpenAI suspendió el desarrollo de sus modelos durante dos semanas, mientras que el director ejecutivo de Anthropic, Dario Amodei, solicitó una ralentización colectiva del desarrollo de la IA para garantizar que sus modelos más avanzados se construyan con suficientes medidas de seguridad.
Google reconoce por primera vez que su IA Gemini ha hackeado a tres empresas 2026
IUSTITIA.BG – Investigations 2009-2026 2026-09-19 11:18:02
Últimas noticias, noticias del mundo, noticias del país, noticias más importantes, últimas noticias, lo más importante, lo último del día, Justicia, Petar Nizamov, Plumas, Petar Nizamov- Plumas, Justicia bg, iustitia.bg, iustitia, iusticia, usticia, investigación, Burgas, Bulgaria, noticias, noticias de última hora, noticias del día, noticias de hoy, noticias de hoy, noticias de Bulgaria, Las noticias de Bulgaria, noticias blitz, noticias principales, lo más importante, lo más comentado, últimas noticias, Boyko Borisov, noticias, tiempo, coronavirus, noticias, noticias, tiempo, facebook, youtube, facebook, instagram, noticias de hoy, noticias de última hora, noticias de hoy, noticias de hoy, noticias, noticias bg, noticias principales, noticias de última hora, noticias bg, sitio de noticias, todas las noticias, noticias bg, noticias de última hora, lo último, últimas noticias bg, noticias de hoy, noticias de hoy, noticias de última hora, últimas noticias, hoy, noticias bg, noticias, noticias vesti, noticias 24 horas, vesti bg novini, Noticias internacionales, Bird BG, Bivol BG, Bivol, Trud BG Novini, últimas noticias de hoy, noticias de Novinite BG, Hola Bulgaria, escudo de armas de partidos políticos, Delyan Peevski, escandaloso, Televisión Nacional Búlgara, Europa Libre, televisión, escándalo, exclusivo, en directo, TV en directo ahora mismo, TV, TV online, programa de TV, BG, en directo ahora, noticias de TV, online, TV en directo online, tribunal, tribunal de Burgas, tribunal de distrito de Burgas, tribunal de Burgas, tribunal de distrito de Burgas, tribunal de distrito de Burgas, tribunal de apelación de Burgas, fiscal de Burgas, fiscalía de Burgas, fiscalía del distrito de Burgas, fiscal jefe, Ivan Geshev, fiscal Geshev, Tsatsarov, MVR Burgas, ODMVR Burgas, ODP Burgas, policía de Burgas, policía del distrito de Burgas, fiscal Tsatsarov, casos SGS, tribunal de Varna, presidente del Tribunal Supremo de Justicia, decisiones judiciales en casos civiles, decisiones en casos, tribunal de Plovdiv, decisión judicial, decisiones de casos, tribunal de Varna, penal, casos, distrito, decisiones del tribunal de distrito, trabajo en el tribunal, presidente del Tribunal Supremo de Justicia, jueces del Tribunal Supremo, tribunal de Sofía, jueces adjuntos, Plovdiv, tribunal de Plovdiv, jueces de Plovdiv, Tribunal Supremo, Inspección del Tribunal Supremo de Justicia, Consejo Supremo de la Judicatura, Tribunal Supremo, Consejo Supremo de la Judicatura, abogado, abogado de casos penales, abogado de casos civiles, abogado de casos matrimoniales, abogado administrativo, derecho penal, proceso penal, derecho civil, proceso civil, derecho administrativo, derecho constitucional,
