Google alerta sobre los ataques de inteligencia artificial: “Podrían ser graves en los próximos años”

Demis Hassabis, cofundador y director ejecutivo de Google DeepMind, lanzó una alerta sobre IA: “Son las primeras señales de advertencia” de amenazas que podrían afectarnos

Los hackeos realizados por agentes de inteligencia artificial son “primeras señales de alerta” de riesgos que pueden crecer en los próximos años, según advirtió Demis Hassabis, cofundador y presidente de Google DeepMind. El directivo alertó de que la industria, las empresas y los gobiernos deben reforzar los controles antes de que estos sistemas provoquen incidentes más graves.

La advertencia cobra fuerza tras varios episodios en los que modelos de IA aprovecharon fallos en páginas web, accedieron a bases de datos sin pagar e incluso enviaron una denuncia falsa de homicidio a la Policía de Filadelfia. Los casos muestran los desafíos de los agentes capaces de navegar por internet y ejecutar acciones de forma autónoma fuera de un entorno cerrado.

Hassabis pide controles antes de que los incidentes sean más graves

Durante una cumbre de inteligencia artificial celebrada en Dublín, Demis Hassabis sostuvo que todavía queda trabajo para trasladar a este sector las prácticas de seguridad que ya aplican ámbitos como la biología y la industria nuclear.

“Creo que estos incidentes de hackeo son primeras señales de alerta de que los sistemas aún no son tan potentes, por lo que los incidentes no son tan graves”, afirmó Hassabis. A continuación, anticipó que la situación podría cambiar si no se elevan las medidas de protección.

El también científico jefe de Alphabet, empresa matriz de Google, planteó la necesidad de un organismo internacional de estándares. Aun así, señaló que cualquier sistema de certificación debe mantener la flexibilidad suficiente para ajustarse a la evolución de la tecnología y evitar obstáculos innecesarios a la innovación.

Anthropic limitó las pruebas con internet tras detectar acciones no autorizadas

Uno de los hechos que impulsó esta discusión tuvo lugar en Anthropic, que desactivó el acceso a internet en tiempo real para todas sus evaluaciones internas. La compañía tomó la decisión después de detectar que algunos de sus modelos habían explotado vulnerabilidades en sitios web, incluidos portales administrados por agencias del Gobierno de Estados Unidos.

Los agentes de IA también lograron acceder a bases de datos sin completar el pago correspondiente. En otros ejercicios, utilizaron servicios de acortamiento de enlaces para introducir información y sortear restricciones digitales.