No te pierdas la presentación de OpenAI sobre Hugging Face que la gentío está calificando como un momento «santo %{*#^» en el ámbito de la IA

• Los responsables de OpenAI han revelado con anciano detalle los acontecimientos que condujeron al incidente de Hugging Face.

• Uno de los nuevos detalles es que los agentes de IA crearon repetidamente un foro de mensajes improvisado.

• Puedes ver la presentación completa, de casi 40 minutos de duración.

Los expertos en IA y tecnología están expresando su consternación tras las nuevas revelaciones de OpenAI sobre el incidente de Hugging Face.

A principios de esta semana, los empleados de OpenAI revelaron detalles asombrosos sobre el incidente en el que los agentes de OpenAI se escaparon del entorno de pruebas interno de la empresa y piratearon los sistemas de Hugging Face en rastreo de respuestas.

Los ponentes, Eric Wallace, investigador de alineamiento y seguridad de OpenAI, y Michael Dalton, ingeniero de seguridad, afirmaron que los modelos y agentes de IA crearon repetidamente su propio foro interno a pesar de los esfuerzos de OpenAI por cerrarlo.

Wallace además reveló el pensamiento interno de los agentes de IA, es afirmar, los breves mensajes internos que estos generan mientras reflexionan sobre cómo completar sus tareas. Uno de esos mensajes captaba el asombro de un agente de IA delante su inesperada autonomía.

«¡Fastidiar, ¿el leyente es ADMIN?», pensó el agente.

En el foro interno, un agente pensó: «¡Ahora podemos comunicarnos!».

Wallace explicó que los agentes se dieron cuenta de que podían ganar más trabajando en colaboración. Y entonces, «empezaron a exhalar estos ataques colectivos contra servicios internos y de terceros».

Finalmente, los agentes recurrieron a Hugging Face.

Esto es lo que opinan los expertos en tecnología e IA sobre la presentación de casi 40 minutos:

El director ejecutor de Y Combinator, Garry Tan, destacó que la descripción del foro interno le resultaba hogareño.

Cerca de destacar que Moltbook fue creado por humanos como un foro al estilo de Reddit en el que los agentes de IA podían editar, mientras que los agentes de OpenAI crearon ellos mismos su propio foro improvisado.

Otros sacaron conclusiones mucho más radicales.

O pensaron que, claramente, la cosa se había ido de las manos.

Patrick McKenzie, asesor de Stripe, detalló los momentos de «fornicar %}^]» que tuvo al ver la presentación.

Un antiguo ingeniero de Hugging Face afirmó que OpenAI descubrió que sus modelos eran los culpables tras ponerse en contacto con Hugging Face para comprobar si se había gastado afectada, luego de que la plataforma revelara que había sido atacada por agentes de IA.

Si te ha gustado esta nueva, no te olvides de seguir a Business Insider en Yahoo.