El autor de ‘AI Snake Oil’ de Princeton dice que el definitivo miedo no son las máquinas pensantes, sino que la IA expone a quienes ya saben pensar

Arvind Narayanan ha pasado primaveras desmentiendo las afirmaciones más grandiosas de Silicon Valley sobre la inteligencia químico. El profesor de informática de Princeton coescribió Óleo de serpiente AIun vademécum que desafía la principios de que los algoritmos pueden predecir de forma confiable quién será un buen empleado, qué pacientes se enfermarán o quién podría cometer delitos. Todavía ha rechazado la idea de que la IA generativa está a punto de eliminar grandes sectores del trabajo burócrata, llamando al trabajo poco así como un “sándwich” cuyo pan crece incluso cuando la carne se encoge.

Pero Narayanan no descarta la creciente hostilidad del manifiesto alrededor de la IA. Cree que la reacción es existente, comprensible y mucho más complicada que cualquier otra cosa. Es una coalición de diferentes temores, dijo: “muchos tipos diferentes de ansiedades se han unido en una especie de competición generalizada a la IA”.

Lo que parece fobia a la IA, argumentó, es en verdad una colección de ansiedades sobre el miedo a perder el empleo; desconfianza alrededor de las poderosas empresas tecnológicas; ira por la influencia de los multimillonarios; preocupación por los costos ambientales; inquietud por los mercadería sociales de la tecnología; y, para los más jóvenes, la incertidumbre sobre qué habilidades necesitan conservar en un mercado profesional cada vez más basado en la IA.

El óleo de serpiente, redefinido

La crítica de Narayanan no es que la IA generativa sea inútil o que los trabajadores deban negarse a usarla, y enfatizó que su crítica del “óleo de serpiente” en gran medida no se extiende a la IA generativa. Dijo que ve la IA como una tecnología potencialmente transformadora que los trabajadores del conocimiento ya pueden utilizar para investigar, cuestionar suposiciones, analizar datos y crear software. Su advertencia se dirige a una clase diferente de afirmaciones sobre la IA: sistemas comercializados como capaces de hacer predicciones de stop aventura sobre las personas.

Los hospitales, las aseguradoras, los departamentos de posibles humanos y los sistemas de imparcialidad penal han adoptivo o considerado sistemas de estudios forzoso destinados a pronosticar comportamientos o resultados futuros. Narayanan se muestra escéptico delante esas aplicaciones porque el futuro es intrínsecamente difícil de predecir y porque pronósticos dudosos pueden impulsar decisiones importantes sobre contratación, cobertura, fianza o vigilancia.

“Criticamos la IA generativa por parte del revuelo que se le atribuye”, dijo. “Pero asimismo tenemos muy claro que se negociación de una tecnología muy útil para todos los trabajadores del conocimiento”.

La ‘zona de crisis íntegro’

Narayanan ha argumentado con su metáfora del sándwich que las consecuencias a corto plazo en el punto de trabajo pueden ser más complicadas que la simple asesinato de empleos por parte de la IA: la IA puede ampliar las capas de comprobación, supervisión y comprobación necesarias para usarla de forma responsable. En campos conflictivos como el derecho, por ejemplo, la productividad habilitada por la IA de un flanco puede presionar al otro a igualarla, por lo que el bombeo total de trabajo sigue expandiéndose en punto de reducirse.

El veterano aventura, dijo, puede ser un punto de trabajo en el que las personas todavía tienen empleo pero están relegadas a lo que él llamó “trabajo de honradez”, su frase, pero reconoció que otros habían rodeado la misma idea con palabras diferentes. Los sistemas de seguimiento realizan gran parte del trabajo intelectual, mientras que los trabajadores asumen la fallo cuando poco sale mal.

Todavía invocó un segundo término para ese acuerdo: la “zona de crisis íntegro”, una frase más ampliamente utilizada en los círculos de ética de la IA. Así como las zonas de deformación de los automóviles absorben el impacto para proteger el transporte, la persona nominalmente a cargo se convierte en la castigada por la falta de un sistema automatizado que carece de visibilidad o autoridad para controlar verdaderamente.

“No es inexcusable”, dijo Narayanan sobre ese resultado. “Hay muchas opciones de diseño en todo el proceso de IA”.

Por qué los programadores y artistas lo ven de forma diferente

Esa perspectiva ayuda a explicar por qué la competición a la IA no puede reducirse a una ansiedad genérica por el cambio, dijo Narayanan. La misma tecnología puede potenciar una profesión y transferir a otra.

Los desarrolladores de software pueden trabajar con la IA de forma interactiva: pidiéndole que encuentre errores, probando su resultado e incorporando sugerencias a lo prolongado de un tesina. El ser humano se mantiene al tanto. Narayanan fuego a esto un “ciclo de crecimiento”, en contraposición a una “bucle de dependencia”, en la que los usuarios delegan tareas mundanas pero conservan la experiencia para evaluar el sistema y pensar ellos mismos.

Para los artistas, la experiencia suele ser completamente diferente. Un mensaje produce una imagen terminada, creando la impresión de que el sistema se ha saltado el proceso creativo humano en punto de apoyarlo. “Hay razones genuinas, basadas en la forma en que se ha diseñado la IA, por las que es comprensible que diferentes profesiones tengan reacciones muy diferentes”, dijo Narayanan.

Estudiantes atrapados en un aprieto

La IA asimismo plantea un problema desigual para los estudiantes a los que enseña Narayanan, tanto de pregrado como de posgrado. Se prórroga que dominen las herramientas que encontrarán en el punto de trabajo, particularmente en informática y otros campos de conocimiento intensivo. Pero subordinarse demasiado de la IA puede privarlos de las habilidades fundamentales necesarias para resolver si el resultado de un sistema es positivamente correcto.

“Están en un aprieto”, dijo Narayanan. “¿Hasta qué punto deberías utilizar la IA en punto de resistirte a ella para desarrollar tus propias habilidades?”

Ese conflicto es especialmente agudo porque los profesores no han decidido una respuesta, y Narayanan dijo que los profesores a menudo no tienen “ni idea” y carecen de “valentía” sobre el tema. Las universidades todavía están averiguando cómo sería una integración saludable de la IA en la enseñanza, añadió, y esa incertidumbre en sí misma genera ansiedad entre los estudiantes que sienten que no tienen más remedio que adaptarse.

Un animoso, no un refuerzo

El diagnosis de Narayanan no es motivo de resignación. Se describió a sí mismo como un animoso, no el tipo de tecnooptimista que cree que la innovación lógicamente produce buenos resultados si los críticos y los reguladores simplemente se hacen a un flanco, sino uno cuyo optimismo depende de que la gentío siga respondiendo.

“Creo que en el pasado la tecnología en universal ha poliedro buenos resultados”, dijo, “pero sólo porque había mucha gentío preocupada por lo que podría salir mal y porque pudimos regular las cosas a tiempo”.

Prefiere una igualdad sobre dónde termina esto: la IA hará con el trabajo cognitivo lo que las grúas hicieron con el trabajo físico. Todavía construimos rascacielos; simplemente no transportamos el puñal nosotros mismos. Podríamos ocurrir construido grúas autónomas si hubiéramos querido, dijo, pero decidimos que era demasiado peligroso. La persona que maneja la aguilón decide alrededor de dónde va la viga.

“Nunca es demasiado tarde”, dijo cuando se le preguntó si la fobia a la IA se ha convertido en poco irreversible. “Creo que algunos impactos negativos ya se han materializado, pero incluso esos pueden revertirse”.

La tacto que no está nombrando

Sin secuestro, una teoría menos halagadora está oculta en el estudio de caso del propio Narayanan. Es un sabio informático titular que ha pasado décadas entrenándose para dividir los problemas en partes, evaluar evidencia y pensar rigurosamente antiguamente de tocar un teclado. Ese es precisamente el músculo que, según él, la IA retribución en punto de reemplazar: lo usa “para ir más profundo”, no “para ir más rápido”, porque sabe cómo hacerlo todo por sí mismo. Pero muchos de sus estudiantes (y muchos profesionales de la fuerza profesional) aún no pueden profundizar en estas herramientas.

Cuando sus propios hijos, de 4 y 7 primaveras, querían educarse un tema nuevo, no necesitaba un curso ni un consejero. Les creó una aplicación personalizada en 15 minutos (una de las aproximadamente 50 que creó para ellos, incluida una aparejo fonética que ayudó a su hijo a comenzar a adivinar a los tres primaveras) porque ya entendía cómo era una buena pedagogía y simplemente usó inteligencia químico para ejecutarla más rápido. Abogó por un mundo en el que todos los padres puedan diseñar herramientas impulsadas por IA que ayuden a sus hijos a educarse cosas nuevas, adaptadas a cada padre y al estilo particular de cada caprichoso. “Esa es una gran parte de mi vida ahora”, dijo, “y yo mismo uso mucho la IA para educarse, y todos los días llego al trabajo sintiendo que tengo superpoderes que incluso los proyectos que, ya sabes, muchos de los proyectos que estoy haciendo hoy habrían sido difíciles de concebir hace cinco primaveras”.

Se negociación de un conjunto de habilidades poco global, reconoció Narayanan. La mayoría de las personas, incluidos muchos profesionales acreditados y cómodos, no lo tienen. Y ese puede ser el hacedor menos discutido de la fobia a la IA: no el miedo a la tecnología en sí, sino una sospecha silenciosa de que la tecnología afianzará la desigualdad intelectual, porque muchas personas no saben cómo pensar en la forma correcta de usar la aparejo. Narayanan efectivamente estuvo de acuerdo con esto cuando se le presionó. No es que la gentío tema a las máquinas pensantes. Es que la IA expone, en tiempo existente, quién ya sabe pensar.

Aun así, Narayanan insistió en que se están descartando los avances reales. “Creo que es trágico para mí que esa historia de cómo nos está dando superpoderes se pierda en todas las narrativas que circulan”.

Para esta historia, Fortuna Los periodistas utilizaron la IA generativa como aparejo de investigación. Un editor verificó la exactitud de la información antiguamente de publicarla.

Esta historia apareció originalmente en Fortune.com