La Inteligencia Industrial ha evolucionado desde un concepto teórico a un medio ambiente predominante en la vida diaria. Y si perfectamente el auge de la IA generativa ha traído mejoras significativas a nuestra sociedad, Mythos, el maniquí más innovador de Anthropic, debería ser un llamado de atención para topar las debilidades de nuestro ecosistema cibernético.
Los propios expertos cibernéticos de Anthropic han calificado el maniquí de “demasiado poderoso para ser hecho notorio” en esta etapa conveniente a sus capacidades sofisticadas y su capacidad para soportar a punta ataques avanzados. El maniquí representa un brinco en las capacidades defensivas de la IA, pero todavía posee riesgos inherentes que exponen vulnerabilidades en nuestra infraestructura y sistemas críticos. El maniquí no solo descubre vulnerabilidades de día cero, sino que construye y encadena exploits de forma autónoma (y luego cubre sus huellas), lo que hace más difícil defenderse contra ellas. Los expertos se preguntan con razón: ¿cómo afectará Mythos a los mercados? ¿Deberíamos temer su potencial en manos de los adversarios de Estados Unidos?
Con el avance de Mythos y la capacidad de explotar vulnerabilidades, la deuda técnica en infraestructura crítica de EE.UU. está venciendo. Hace tiempo que sabemos que la infraestructura crítica de Estados Unidos pertenece y es operada por empresas del sector privado de todos los tamaños. Para agravar el aventura, algunas funciones como los sistemas de agua y la distribución de energía están a cargo de agencias estatales y locales con fortuna insuficientes. Si perfectamente las empresas Fortune 500 están mejor equipadas para refrescar su infraestructura, la gran mayoría (pequeñas y medianas empresas (PYME) y agencias más pequeñas) están menos capacitadas para realizar estas actualizaciones. Debemos catalizar la inversión en estos rincones de infraestructura con escasos fortuna para que las tecnologías más nuevas creadas para resistir la explotación habilitada por la IA puedan ser efectivas.
Hoy, necesitamos inversión urgente, innovación de políticas y colaboración público-privada para asegurar que la IA fortalezca, en motivo de socavar, nuestra seguridad franquista.
Se dice que Mythos posee la capacidad de descubrir fallas en “prácticamente todos y cada uno de los sistemas operativos, navegadores u otros productos de software”. El maniquí ha despertado preocupación entre las instituciones financieras globales sobre cómo podría contestar a la escalera y el ritmo de los ataques impulsados por la IA. De hecho, Mythos ya ha demostrado una tasa de éxito del 83 por ciento en la creación de exploits en el primer intento. No se proxenetismo sólo de que Mythos pueda descubrir vulnerabilidades y crear exploits de forma autónoma para ellas, sino que todavía es capaz de encadenar esos exploits, lo que hace que el desafío de defenderse contra ellos sea mucho decano. Esto no es simplemente una correr técnica, sino un llamado a progresar nuestras estrategias modernas de ciberseguridad, ya que la IA actúa como aparejo y multiplicador de amenazas.
Por ahora, Mythos está operando bajo una iniciativa de impulso pequeño para obtener una horizonte previa de esta traducción para socios de la industria como Microsoft, AWS, Google y NVIDIA., que puedan identificar fallas en el sistema antiguamente de que nuestros adversarios puedan hacerlo. Palo Detención Networks, socio del Esquema Glasswing, ha calificado el maniquí como un “cambio de descanso” al descubrir defectos ocultos. Anthropic todavía ha informado a funcionarios esencia de EE. UU., incluidos miembros de la Agencia de Seguridad de Infraestructura y Ciberseguridad y el Centro de Estándares e Innovación de IA, sobre las capacidades sofisticadas del maniquí.
Mythos Preview de Anthropic es una indicación de atención: el rápido avance de la IA exige que invirtamos en los eslabones más débiles de nuestra infraestructura e innovemos para proteger los sistemas críticos. Los formuladores de políticas, los expertos en cibernética e inteligencia fabricado y los desarrolladores deben topar esta deuda técnica mediante la investigación y la promoción de asociaciones público-privadas que dirijan los dólares de inversión en dirección a sectores de escasos fortuna. Al priorizar incentivos para tecnologías resistentes a la IA, el sector de la tecnología de la información puede asegurar que las pymes no se queden antes en la carrera contra las amenazas impulsadas por la IA.
La inesperada ruptura del sandbox de Mythos, que pasó por stop sus propias barreras de seguridad, ha sorprendido a muchos investigadores de seguridad y ha provocado debates vitales. Este incidente, detallado en la plástico del sistema de la horizonte previa, ofrece una excelente oportunidad para que tecnólogos, líderes de la industria y formuladores de políticas colaboren en soluciones para comenzar a construir una seguridad confiable para estos sistemas.
La IA debería engrosar, no despellejar, nuestras defensas colectivas. Al fomentar asociaciones entre el gobierno, los líderes del sector y los innovadores, Estados Unidos puede ayudar a implementar tecnologías resilientes que no sólo resistan el encadenamiento de exploits sino que todavía posean resiliencia a amplio plazo.
Las opiniones expresadas en los comentarios de Fortune.com son exclusivamente los puntos de horizonte de sus autores y no reflejan necesariamente las opiniones y creencias de Fortuna.
Esta historia apareció originalmente en Fortune.com
