San Francisco. Anthropic advirtió que modelos pequeños de inteligencia artificial podrían estar a meses de adquirir la capacidad de replicarse de forma autónoma entre dispositivos conectados a Internet, un escenario que abriría una nueva categoría de amenaza para la ciberseguridad.
La empresa publicó el estudio el lunes 12 de octubre y sus resultados fueron difundidos y analizados por medios internacionales durante el martes y este miércoles 14. La conclusión no significa que exista actualmente un “gusano de IA” circulando por la red: los experimentos se realizaron en entornos controlados y simplificados.
El equipo de seguridad de Anthropic probó si varios modelos podían identificar equipos, trasladar software, configurar la ejecución de otro modelo y continuar la propagación sin ayuda humana. Los investigadores dividieron el proceso en etapas porque los modelos pequeños todavía cometen errores al intentar completar toda la cadena.
Un modelo de 9,000 millones de parámetros logró configurar inferencia en ocho de nueve tipos de equipos evaluados. Los sistemas de hasta 30,000 millones de parámetros ya completan muchas tareas individuales necesarias para replicarse, pero aún no las enlazan con fiabilidad en condiciones reales.
En una prueba aislada con ocho nodos virtuales y una vía de acceso sin autenticación, el modelo GLM-5.2 propagó la carga a los ocho equipos en cuatro de cinco intentos y alcanzó siete en el restante. Anthropic reconoció que esa configuración facilita el ataque y representa un límite superior de éxito, no una demostración en Internet abierto.
Otra parte del estudio distribuyó un modelo de 26,000 millones de parámetros entre 15 cajas económicas de televisión Android. El sistema funcionó a baja velocidad, pero mostró que varios dispositivos baratos pueden combinar su capacidad de cómputo para ejecutar un modelo mayor.
Anthropic calcula que, si los modelos pequeños continúan mejorando al ritmo histórico, podrían alcanzar antes de terminar 2026 el nivel necesario para una replicación autónoma. Esa estimación utiliza una tendencia de rendimiento general como aproximación y no constituye una fecha garantizada.
La preocupación central es que una red distribuida de cámaras, televisores, electrodomésticos u otros equipos inseguros carecería de un único servidor que pudiera apagarse. Un agente también podría adaptarse a dispositivos desconocidos y transmitir a sus copias las estrategias aprendidas.
Varios especialistas pidieron tomar el riesgo en serio, pero otros cuestionaron el tono. Ciaran Martin, exdirector del Centro Nacional de Seguridad Cibernética del Reino Unido, calificó el trabajo como técnicamente interesante, aunque consideró que contiene exageración comercial. Jessica Ji, investigadora de la Universidad de Georgetown, lo describió como una hipótesis que merece atención, no como una predicción inevitable.
El propio informe propone defensas: vigilar patrones anómalos de tráfico, aislar redes infectadas, eliminar contraseñas predeterminadas y elevar la seguridad mínima de los dispositivos conectados. Esas medidas también reducen el riesgo de botnets tradicionales.
La alerta llega mientras gobiernos y empresas examinan cómo la inteligencia artificial amplía la capacidad de los atacantes. FP Noticias informó recientemente sobre intrusiones detectadas en 16 entidades financieras de Corea del Sur, donde las autoridades investigan si se utilizaron herramientas automatizadas.
FP Noticias, tus ojos en todas partes.
Fuentes: Anthropic, Reuters y ABC News. Imagen: “Cybersecurity”, vía Wikimedia Commons, licencia CC0 1.0.
