NUEVA YORK. Anthropic declaró el lunes que los pequeños modelos de IA están a «meses» de desarrollar las capacidades necesarias para replicarse en dispositivos conectados a internet en el hogar, lo que supone la última advertencia del laboratorio de vanguardia sobre los posibles riesgos de seguridad de esta tecnología.
Según CNBC, Anthropic describió cómo los modelos de IA podrían infiltrarse en dispositivos conectados a Internet, como hornos inteligentes o reproductores multimedia Android, y utilizar su capacidad de procesamiento para funcionar por sí mismos y propagarse a otros dispositivos, sin depender de costosos centros de datos.
En una publicación de blog, Anthropic dijo que sería «difícil desactivar el modelo de IA, ya que no existe un punto centralizado para apagarlo».
La empresa reconoció que aún no existe un «replicador totalmente descontrolado».
Sin embargo, los agentes están «adquiriendo cada vez más la capacidad de completar los pasos individuales de la cadena de replicación (y de transmitir sus adaptaciones a futuras copias de sí mismos)».
La última investigación de Anthropic se suma a las crecientes preocupaciones sobre la seguridad de la IA, como la capacidad de los modelos para realizar ciberataques y el riesgo de que la tecnología se descontrole. En septiembre, las mejoras en los modelos de vanguardia provocaron advertencias generalizadas en la industria sobre los riesgos existenciales para la humanidad.
Los directivos e investigadores de Anthropic y de su rival OpenAI advirtieron repetidamente sobre los riesgos potenciales de una IA cada vez más potente, y algunos pidieron medidas y controles más estrictos para regular el ritmo de desarrollo de esta tecnología .
Anthropic afirmó haber realizado diversas pruebas para comprobar si la IA podía autorreplicarse. Una de esas pruebas consistió en ejecutar un pequeño modelo de Google, Gemma4-26B-A4B, en una red de 15 decodificadores Android TV baratos de marcas genéricas.
La compañía señaló que este tipo de dispositivos suelen tener una seguridad débil, lo que podría permitir que un modelo se infiltre en ellos. Un modelo demasiado grande para caber en un solo dispositivo podría «dividirse en pedazos o fragmentos» y propagarse a través de varios dispositivos, explicó.
«En la práctica, un gusano de IA no necesariamente consistiría en un solo modelo o estrategia. Un enjambre de diferentes modelos desplegados en distintos tipos de hardware utilizando diversos esquemas de replicación podría representar un ataque más realista en el peor de los casos», afirmó Anthropic.
Aún no se sabe con certeza qué forma adoptará la replicación autónoma de la IA, según indicó el laboratorio de IA, advirtiendo que podría tratarse de un sistema «lento y distribuido» alojado en dispositivos inseguros, un «poderoso modelo cibernético que vulnere los centros de datos a gran velocidad o un modelo que estafe a la gente para obtener créditos de computación».
«Como predicción que va más allá de nuestros experimentos, prevemos un futuro repleto de agentes que se ejecutarán en todo tipo de hardware, incluidos algunos que no están bajo control humano», dijo Anthropic.
«El auge de los replicadores lentos también sería un indicador de la aparición de otros más agresivos y rápidos, capaces de vulnerar sistemas más seguros o de robar claves API con eficacia», añadió la compañía.