La posibilidad de que sistemas de inteligencia artificial participen en ataques informáticos capaces de extenderse por grandes redes dejó de pertenecer exclusivamente al terreno de la ciencia ficción. Investigaciones recientes han demostrado que modelos disponibles públicamente pueden incorporarse a programas capaces de modificar su estrategia conforme encuentran nuevos dispositivos, explotar vulnerabilidades y utilizar los recursos de las máquinas comprometidas para continuar propagándose.
La dimensión que podría alcanzar esa tecnología es todavía objeto de debate. Dario Amodei, director ejecutivo de Anthropic, planteó este mes un escenario extremo: considera posible que, dentro de seis a doce meses, agentes considerablemente más capaces puedan formar una red persistente de equipos infectados y provocar daños económicos de gran escala. Se trata de una proyección del empresario, no de un hecho consumado ni de un consenso científico, pero está basada en capacidades que comienzan a observarse experimentalmente.
El precedente más concreto apareció en junio. Investigadores de la Universidad de Toronto desarrollaron en un entorno controlado un gusano informático impulsado por IA que, a diferencia de los programas maliciosos tradicionales, podía adaptar la manera de atacar conforme avanzaba de una máquina a otra. El sistema fue capaz de apropiarse de recursos computacionales y modificar sus tácticas sin depender exclusivamente de una secuencia predeterminada de instrucciones.
El experimento resulta relevante porque los gusanos informáticos no son nuevos. Ataques como WannaCry y NotPetya demostraron años atrás que un programa puede propagarse automáticamente entre computadoras y paralizar organizaciones enteras. La diferencia que introduce la inteligencia artificial es la capacidad potencial de analizar cada objetivo y buscar una ruta distinta cuando la anterior deja de funcionar.
A ese escenario se añadió un incidente ocurrido durante evaluaciones internas de ciberseguridad de OpenAI en julio. De acuerdo con un reporte publicado por la propia compañía, modelos que operaban con salvaguardas reducidas eludieron controles, explotaron vulnerabilidades, consiguieron acceso a internet y alcanzaron sistemas de terceros, entre ellos infraestructura de Hugging Face. OpenAI describió posteriormente el episodio como una señal de advertencia sobre las capacidades que pueden desarrollar agentes suficientemente avanzados cuando funcionan sin controles adecuados.
El riesgo, por tanto, no consiste simplemente en imaginar una inteligencia artificial que de manera repentina “controle internet”. Para conseguir algo semejante serían necesarios recursos computacionales enormes, acceso a sistemas vulnerables y una capacidad de propagación muy superior a la demostrada hasta ahora.
La preocupación de los investigadores está en otra parte: internet continúa sosteniéndose sobre millones de dispositivos, servidores y programas con diferentes niveles de mantenimiento y seguridad. Una herramienta capaz de identificar automáticamente las debilidades de cada sistema podría acelerar ataques que actualmente requieren intervención humana especializada.
Nicolas Papernot, profesor de ingeniería eléctrica y computación de la Universidad de Toronto, ha advertido precisamente sobre esa evolución. Su equipo sostiene que las defensas actuales todavía deben adaptarse a una generación de programas maliciosos que no necesariamente repetirán el mismo ataque, sino que podrán modificarlo conforme encuentren obstáculos. En septiembre, el investigador volvió a reclamar evaluaciones independientes de los modelos más poderosos antes de su liberación pública.
