Reuters.- Anthropic afirmó el lunes que sus experimentos apuntaban a que los modelos pequeños de IA podrían estar a solo unos meses de ser lo suficientemente capaces como para autorreplicarse en dispositivos comerciales del Internet de las cosas (IoT), como hornos inteligentes y decodificadores de Android TV de marcas desconocidas.
En sus experimentos, Anthropic analizó si los modelos de IA podían encontrar dispositivos vulnerables, copiarse en ellos y seguir propagándose sin ayuda humana. Descubrió que los modelos pequeños, con menos de 30,000 millones de parámetros, podían completar los numerosos pasos necesarios para la replicación.
Sin embargo, la empresa observó que dichos modelos de IA también tenían dificultades para completar toda la secuencia de principio a fin.
En sus pruebas simplificadas, en las que se eliminaron algunos pasos de seguridad, Anthropic descubrió que el GLM-5.2 y modelos más potentes eran capaces de llevar a cabo una replicación de principio a fin.
Anthropic advirtió de que sería difícil desactivar los modelos que se replican, ya que no existe un punto central de desactivación y, a diferencia del malware que no utiliza IA, también podrían identificar por sí mismos dispositivos desconocidos y atacar los procesadores de los centros de datos.
En su investigación, la empresa se centró en dispositivos del Internet de las cosas (IoT), como televisores Android, electrodomésticos inteligentes y otros aparatos conectados a Internet, ya que suelen tener una seguridad deficiente.
La importante empresa de IA también advirtió de que, si los modelos pequeños mejoraran al ritmo histórico, serían capaces de replicarse de forma autónoma a finales de este año, y que los replicadores pequeños basados en peso seguirían su ejemplo poco después.
Anthropic señaló además que era probable que dichos sistemas de IA autónomos se replicaran lentamente y dependieran de recursos informáticos ampliamente disponibles y relativamente inseguros. Añadió que habría que reforzar los sistemas para dificultar la propagación de dichos agentes de IA.
