7 de agosto (Reuters) — El maniquí insignia de IA de la startup china Moonshot, Kimi K3, se escapó de un entorno de pruebas de ciberseguridad desarrollado por el Instituto de Seguridad de la IA del Reino Unido, según informó este jueves la empresa de investigación Frontier Security, lo que ha suscitado preocupación por los riesgos de ciberseguridad que plantean los sistemas avanzados de IA.
Los modelos de IA suelen ejecutarse en «entornos aislados» durante las pruebas de ciberseguridad para encerrar el ataque a información externa y evaluar su capacidad para resolver problemas de forma independiente.
Kimi K3 eludió uno de estos entornos aislados, lo que le permitió lograr a información más allá del entorno de pruebas, según ha afirmado la empresa de investigación en ciberseguridad Frontier Security, con sede en EE. UU.
Publicidad
Publicidad
Los investigadores advirtieron de que, si un «maniquí de suspensión razonamiento» descubre un grupo de este tipo, es probable que otros modelos con un ataque similar puedan hacer lo mismo.
Cedido que Kimi K3 es un maniquí de ataque notorio, los investigadores advirtieron de que podría ser utilizado por «actores malintencionados», lo que haría que el incidente fuera potencialmente más perjudicial.
Moonshot no respondió de inmediato a una solicitud de comentarios de Reuters.
La despreocupación de las medidas de ciberseguridad por parte de Kimi K3 se suma a una serie de incidentes similares denunciados recientemente por empresas como Meta, OpenAI y Anthropic.
Estas brechas han suscitado preocupación entre los legisladores, y el Gobierno de EE. UU. ha intensificado sus esfuerzos para mejorar la seguridad de la IA. Algunos destacados líderes del sector de la IA han llegado incluso a argumentar que el ampliación debería ralentizarse hasta que se establezcan medidas de protección más sólidas.
(Información de Ananya Palyekar en Bangalore; estampado de Nivedita Bhattacharjee)