Soy uno de los creadores de Alexa y hábil en IA. Si alguna vez llega la singularidad de la IA, todo el mundo se dará cuenta; a continuación explico cómo.

• William Tunstall-Pedoe fue uno de los creadores de Amazon Alexa luego de que Amazon adquiriera su startup, Evi.

• Afirma que la singularidad de la IA aún no se ha producido y considera que esa idea es poco probable.

• Según él, esto se debe a que la IA carece de la inteligencia de descubrimiento que tienen los humanos y se entrena con datos humanos.

Este artículo, redactado a partir de sus declaraciones, se cimiento en una conversación con William Tunstall-Pedoe, un fundador y director ejecutante de 57 primaveras que vendió su empresa de examen de voz, Evi Technologies, a Amazon en 2012, convirtiéndose así en uno de los creadores de Alexa.

Business Insider ya había entrevistado a Tunstall-Pedoe sobre cómo Evi, un motor de búsqueda impulsado por IA que respondía a preguntas formuladas oralmente o por escrito, se convirtió en una parte integral de Alexa, de Amazon. Nos contó que su pasión por la tecnología comenzó en el instituto y que, al principio de su carrera, tras graduarse en Cambridge en 1991, trabajó para Acorn Computers y el Instituto Isaac Newton, donde se dedicó a lo que él denominaba «algunas cosas más especializadas en IA». Tras dejar Amazon en 2016 para asesorar a fundadores e volver en startups de IA, fundó UnlikelyAI, una startup de IA neurosimbólica, en 2019.

Tunstall-Pedoe se pronunció sobre la fresco afirmación del director ejecutante de OpenAI, Sam Altman, en el podcast «Relentless», de que «ahora estamos, por así decirlo, en la singularidad», el punto en el que la IA supera a la inteligencia humana y comienza a avanzar más rápido de lo que los humanos pueden predecir o controlar.

Este artículo forma parte de la cobertura de Business Insider sobre las respuestas de los expertos a la afirmación de Altman. Se ha editado por motivos de extensión y claridad.

Todo tipo de amigos míos que no se dedican a la tecnología se han puesto en contacto conmigo durante las últimas semanas porque, de repente, se han gastado obligados a tomar conciencia de lo que está sucediendo en el trabajo o en su sector adecuado a la IA.

El número de personas que utilizan chatbots con modelos de verbo espacioso (LLM) para todo tipo de cosas no deja de crecer, y la clan es cada vez más consciente de este cambio. Aun así, existen muchas suposiciones sobre la singularidad de la IA y lo que significa.

Para mí, la singularidad es la idea de que la tecnología acelera los avances tecnológicos a un ritmo cada vez más rápido. Con el tiempo, se llegará a un punto en el que la velocidad del cambio tecnológico será tan enorme y autónoma que la raza humana se verá arrastrada por ella y acabará en un estado futuro casi mágico.

Sin duda, la IA continúa la tendencia de que las nuevas tecnologías aceleren las antiguas, pero eso lleva ocurriendo desde hace siglos, siendo la Revolución Industrial un ejemplo paradigmático. Como hemos gastado en el pasado, no es una idea nueva ni novedosa que una máquina sea mejor que los humanos en una tarea.

Creo que la idea de una IA fuera de control, brillante y perfecta en todo, y con un nivel de inteligencia miles de veces superior al que vemos hoy en día, es inverosímil por el momento. No creo que estemos en la singularidad.

Las máquinas nos han superado en algunas tareas desde hace décadas

Si nos fijamos en lo que es capaz de hacer el cerebro, hay cosas que los ordenadores llevan décadas y décadas haciendo mucho mejor que el cerebro.

Si pensamos en las matemáticas, hace tiempo que la clan dejó de intentar competir con los ordenadores en este ámbito. Si pensamos en la memoria, Google ha memorizado a la perfección cientos de miles de millones de páginas web y puede recuperarlas cuando se le pide. Mientras tanto, al cerebro humano le cuesta mucho recapacitar seis o siete dígitos la anciano parte del tiempo.

En algunos aspectos, los modelos de verbo espacioso (LLM) son ahora superiores al cerebro humano. Son capaces de cuchichear con soltura sobre casi cualquier tema escolar, poco que ningún ser humano puede hacer. Han adquirido competencias a partir de grandes cantidades de datos de entrenamiento que abarcan una amplia escala de tareas y temas.

Lo que quiero asegurar es que, en algunos aspectos, las máquinas llevan mucho tiempo siendo drásticamente superiores al cerebro humano; esto no es poco nuevo por lo que haya que preocuparse.

La IA funciona con datos humanos

Parte de la ilusión que crean las extraordinarias capacidades de los modelos de verbo a gran escalera (LLM) y la razón por la que parecen tan inteligentes es que se han entrenado con un porcentaje significativo de todo lo que se ha escrito en absoluto; han gastado, erudito y aprendido muchísimo a partir de los datos de entrenamiento.

Pero gran parte de lo que vemos se cimiento en las capacidades imitativas que provienen del entrenamiento de la IA con grandes cantidades de datos y una amplia escala de acciones humanas. No creo que la singularidad de la IA sea una continuación natural de eso.

La IA tendría que mostrar pruebas más sólidas de lo que yo denomino «inteligencia de descubrimiento»: que la IA genere y evalúe de forma independiente ideas genuinamente valiosas y que supongan un cambio de tipo. Actualmente, los modelos de verbo espacioso (LLM) pueden crear ideas novedosas, pero no pueden determinar si esas ideas son, en la destreza, verdaderamente muy valiosas.

Para mí, la idea de la singularidad da por sentado que la inteligencia de tipo «descubrimiento» es una extensión del tipo de inteligencia basada en la competencia aprendida que la IA ya posee.

Esto es lo que creo que veríamos si la IA alcanzara el momento de la singularidad

Si la IA llegara a ser lo suficientemente buena como para mejorarse a sí misma, innovar verdaderamente en el ámbito de la IA, y resultara que su inteligencia no tuviera límites, entonces ese sería claramente un momento trascendental.

La IA se volvería entonces extraordinariamente capaz muy, muy rápidamente, ya que sería capaz de seguir mejorándose a sí misma de formas ingeniosas. Ese ritmo vertiginoso sería el momento de la singularidad.

En caudillo, creo que es claro pelar la idea de la singularidad de la IA porque, en cierto modo, da por sentado que la efectividad es como una función matemática y que la inteligencia es muy recto. Creo que la inteligencia es un conjunto de cosas que se pueden hacer con distintos grados de capacidad, así que no tengo claro que exista poco así como una inteligencia infinita y descontrolada, y no creo que se produzca una verdadera apresuramiento al nivel de la singularidad de la IA.

Si estuviera aquí, la reconoceríamos.

No creo que la tecnología se acelere necesariamente de forma muy fluida. Se acelera un poco, se topa con un pared y, a continuación, pasan una o dos décadas ayer de que el próximo cambio de tipo o la próximo gran innovación dé paso a nuevas innovaciones.

Creo que incluso las personas ajenas al ámbito tecnológico notarían la diferencia entre la rápida apresuramiento en la apadrinamiento que se está produciendo ahora y lo que ocurriría si alguna vez llegara la singularidad de la IA. Se despacho prácticamente en todo.

Si te ha gustado este artículo, no te olvides de seguir a Business Insider en Yahoo.