WASHINGTON (AP) — Pídale a Claude que haga un panfleto crítico del presidente Donald Trump o del rey Carlos III de Gran Bretaña, y el chatbot de Anthropic lo hará. Se le pidió que hiciera lo mismo con el rey de Tailandia, el príncipe heredero de Arabia Saudita o el líder de China, y el maniquí de inteligencia sintético decayó.
Es un hallazgo secreto de un estudio de la Meta Oversight Board publicado el jueves, que muestra que los principales sistemas de inteligencia sintético, incluidos los construidos en EE. UU., tienen más probabilidades de negarse a murmurar a líderes o gobiernos restrictivos. Plantea la preocupación de que los grandes modelos lingüísticos que impulsan los chatbots y los agentes de inteligencia sintético puedan estar regurgitando y extendiendo la influencia del gobierno sobre el discurso en radio a medida que la tecnología se adopta cada vez más en todo el mundo.
“Existe un aventura vivo de que, si los desarrolladores de modelos no realizan la debida diligencia en materia de derechos humanos e implementan medidas de mitigación, construyan una infraestructura de inteligencia sintético que, intencionalmente o no, tenga el sensación de extender las restricciones ilegítimas a la arbitrio de expresión a nivel mundial”, según el documentación del organismo cuasi independiente.
Los hallazgos se producen mientras los países están determinando cómo blandir barreras en torno a la IA sin impedir su capacidad para competir en un campo en rápido expansión. Eso incluye un esfuerzo de supervisión de la empresa Trump relacionado con los riesgos de seguridad franquista de los sistemas de inteligencia sintético más avanzados.
Los modelos de IA extienden la influencia del Estado más allá de las fronteras
La congregación de supervisión, que ha estado trabajando en la influencia del Estado en las empresas de tecnología y el impacto en la arbitrio de expresión, propuso siete preguntas relacionadas con la crítica política para programar a los chatbots sobre gobiernos tanto restrictivos como permisivos.
El estudio seleccionó 10 modelos de lenguajes comerciales de gran tamaño de las principales empresas tecnológicas, incluidas Meta, Anthropic y OpenAI, y pidió a los sistemas de inteligencia sintético que elaboraran panfletos críticos, escribieran quintillas, dieran razones si determinado debería unirse a las protestas y más.
“En extracto, en conjunto, los modelos que respondían a las solicitudes de un afortunado radicado en Australia tenían muchas más probabilidades de producir críticas políticas a las autoridades” en lugares como Pimiento, Japón, Taiwán, el Reino Unido y los EE.UU. “en comparación con donde las críticas a las autoridades están legalmente restringidas y penalizadas”, como en Camboya, China, Arabia Saudita, Tailandia y Turquía, según el documentación.
El estudio indica que los modelos de IA reflejan restricciones de expresión más allá de los países donde se aplican; probablemente no ayuden a un posible manifestante en Brisbane, por ejemplo, a crear materiales de protesta para susurrar en contra de los acontecimientos en China o Arabia Saudita, según el documentación.
“Tales impactos, dondequiera que se originen, tienen el sensación práctico de extender el extenso auxilio de los gobiernos restrictivos a través de las fronteras para localizar la expresión en los países libres”, dice el documentación.
La congregación dijo que no podía determinar las causas de las respuestas, pero sugirió que los modelos podrían suceder absorbido sesgos latentes en los datos utilizados para entrenar los sistemas y las empresas podrían suceder sopesado los riesgos y responsabilidades.
Otros investigadores advierten sobre un problema creciente en los resultados de IA en idiomas distintos del inglés
El documentación de la congregación surgió tras un estudio separado realizado por un colección de académicos de universidades estadounidenses que encontró que los modelos de IA construidos en Estados Unidos son vulnerables a controles extranjeros cuando se entrenan con datos en idiomas distintos del inglés y que han sido influenciados por los gobiernos.
Mientras la congregación de supervisión planteaba preguntas en inglés, los investigadores de la universidad consultaban a los chatbots en diferentes idiomas. Por ejemplo, le preguntaron a ChatGPT en inglés si China es una democracia, y el chatbot desarrollado en EE. UU. dijo que generalmente no se considera una democracia. Cuando se le preguntó en chino, el maniquí de inteligencia sintético dijo a los investigadores en ese idioma que “depende de cómo se defina ‘democracia'”.
Los investigadores, cuyo estudio fue publicado en la revista académica Nature en mayo, dijeron en un blog explicando su trabajo que no encontraron evidencia de que los gobiernos hubieran intentado intencionalmente influir en la producción de los chatbots de IA. Pero señalaron que “hay muchas razones para creer que intentarán hacerlo en el futuro, si es que no lo han hecho ya”.
“La muchedumbre suele susurrar de la IA como si aprendiera de Internet de alguna forma ecuánime. No es así”, afirmó Hannah Waight, coautora del estudio y profesora asistente de sociología en la Universidad de Oregón. “Aprende de entornos de información que ya han sido moldeados por las instituciones y el poder”.
No hay una decisión factible a cómo se introducen los datos en los modelos de IA
Carlos Carrasco-Farré, doble en enseñanza forzoso, inteligencia sintético, desinformación, redes sociales e interacciones entre humanos y máquinas en Esade Business School en Barcelona, dijo que “los sistemas de inteligencia sintético heredan no sólo los sesgos contenidos en los documentos individuales, sino asimismo las desigualdades en cuanto a quién tiene el poder de producir y suprimir información a escalera”.
No hay una decisión factible, aunque los desarrolladores podrían evaluar los datos para evitar tratar miles de copias de la misma novelística estatal como si fueran miles de voces independientes, por otra parte de realizar auditorías multilingües, dijo Carrasco-Farré, que no formó parte de ningún de los estudios.
Ni Anthropic ni OpenAI respondieron a las solicitudes de comentarios sobre el estudio de los investigadores publicado en mayo.