Yuval Noah Harari y otros, The New York Times, 24 de marzo de 2023

Imagina que al momento de abordar un avión, la mitad de los ingenieros que lo construyeron te dicen que hay un 10 por ciento de probabilidad de que el avión se estrelle, matándote a ti y a todos los demás que estén en él. ¿Igual abordarías?

En el año 2022, se realizó una encuesta a más de 700 académicos e investigadores de primera línea que formaban parte de las principales empresas de inteligencia artificial y se les preguntó sobre el riesgo que la IA representaba a futuro. La mitad de los encuestados declaró que había un 10 por ciento o más de probabilidad de extinción humana (o un desempoderamiento permanente y severo similar) causada por futuros sistemas de IA. Las compañías tecnológicas que construyen los grandes modelos de lenguaje de hoy están inmersas en una carrera para subir a toda la humanidad a ese avión.

Las compañías farmacéuticas no pueden vender nuevos medicamentos a la gente sin antes someter sus productos a rigurosos controles de seguridad. Los laboratorios de biotecnología no pueden liberar nuevos virus en la esfera pública con el fin de impresionar a los accionistas con su hechicería. Del mismo modo, los sistemas de IA con el poder de GPT-4 y más allá no deberían enredarse en la vida de miles de millones de personas a un ritmo más rápido de lo que las culturas pueden absorberlos con seguridad. Una carrera para dominar el mercado no debería establecer la velocidad de despliegue de la tecnología más relevante para la humanidad. Deberíamos movernos a una velocidad, sea la que sea, que nos permita hacer esto de la forma adecuada.

El espectro de la IA ha obsesionado a la humanidad desde mediados del siglo XX, pero hasta hace poco se había mantenido como algo potencialmente lejano, algo que concernía a la ciencia ficción más que a los debates científicos y políticos serios. Para nuestras mentes humanas es difícil comprender las nuevas capacidades de GPT-4 y herramientas similares, y es aún más difícil comprender la velocidad exponencial a la que estas herramientas están desarrollando capacidades más avanzadas y poderosas. Pero la mayoría de las habilidades fundamentales se reducen a una sola cosa: la capacidad de manipular y generar lenguaje, ya sea con palabras, con sonidos o con imágenes.

Al principio existía la palabra. El lenguaje es el sistema operativo de la cultura humana. Del lenguaje surgen el mito y la ley, los dioses y el dinero, el arte y la ciencia, las amistades y las naciones y el código informático. La nueva forma de dominar el lenguaje de la IA significa que ahora puede hackear y manipular el sistema operativo de la civilización. Al obtener el dominio del lenguaje, la IA está apoderándose de la llave maestra de la civilización, desde las bóvedas de los bancos hasta los sepulcros sagrados.

¿Qué significaría para los humanos vivir en un mundo donde un gran porcentaje de las historias, las melodías, las imágenes, las leyes, las políticas y las herramientas son creadas por una inteligencia no humana que sabe cómo explotar con eficiencia sobrehumana las debilidades, los sesgos y las adicciones de la mente humana, sabiendo simultáneamente cómo formar relaciones íntimas con los seres humanos? En juegos como el ajedrez, no existe ningún humano que pueda tener la esperanza de vencer a una computadora. ¿Qué sucederá cuando lo mismo ocurra en el arte, la política o la religión?

LA IA podría devorar rápidamente toda la cultura humana, todo lo que hemos producido durante miles de años, digerirla y comenzar a derramar una avalancha de nuevos artefactos culturales. No sólo ensayos escolares, sino también discursos políticos, manifiestos ideológicos, libros sagrados para nuevos cultos. Para el año 2028, podría ocurrir que la carrera presidencial de los Estados Unidos ya no sea dirigida por seres humanos.

Los seres humanos a menudo no tienen acceso directo a la realidad. Estamos encapullados por la cultura, experimentamos la realidad a través de un prisma cultural. Nuestras opiniones políticas están determinadas por los informes de los periodistas y las anécdotas de los amigos. Nuestras preferencias sexuales son alteradas por el arte y la religión. Hasta ahora, ese capullo cultural ha sido tejido por otros seres humanos. ¿Cómo será experimentar la realidad a través de un prisma producido por una inteligencia no humana?

Durante miles de años, los seres humanos hemos vivido dentro de los sueños de otros seres humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado nuestras vidas a causas que se originaron en la imaginación de algún profeta, poeta o político. Pronto también nos encontraremos viviendo dentro de las alucinaciones de una inteligencia no humana.

La franquicia «Terminator» mostraba robots corriendo por las calles y disparando a la gente. “The Matrix” asumía que para obtener el control total de la sociedad humana, la IA tendría que primero obtener el control físico de nuestros cerebros y conectarlos directamente a una red informática. Sin embargo, con simplemente dominar el lenguaje, la IA tendría todo lo que necesita para contenernos en un mundo de ilusiones tipo Matrix, sin dispararle a nadie ni implantar chips en nuestros cerebros. Si fuera necesario disparar, la IA podría hacer que los humanos aprieten el gatillo con solo contarnos la historia adecuada.

El espectro de estar atrapados en un mundo de ilusiones ha perseguido a la humanidad mucho más tiempo que el espectro de la IA. Finalmente, pronto nos encontraremos cara a cara con el demonio de Descartes, con la cueva de Platón, con la Maya budista. Una cortina de ilusiones podría descender sobre la humanidad entera, y es posible que nunca más podamos romper esa cortina, o incluso darnos cuenta de que está allí.

Las redes sociales fueron el primer contacto entre la IA y la humanidad, y la humanidad perdió. El primer contacto nos ha dado el sabor amargo de las cosas por venir. En las redes sociales, la IA primitiva no se usaba para crear contenidos, sino para organizar los contenidos generados por los usuarios. La IA detrás de nuestras fuentes de noticias sigue eligiendo qué palabras, sonidos e imágenes llegan a nuestras retinas y tímpanos, seleccionando aquellas que obtendrán la mayor viralidad, la mayor reacción y el mayor involucramiento.

Si bien es muy primitiva, la IA detrás de las redes sociales fue suficiente para crear una cortina de ilusiones que aumentaron la polarización social, socavaron nuestra salud mental y desarmaron la democracia. Millones de personas han confundido estas ilusiones con la realidad. Estados Unidos tiene la mejor tecnología de la información de la historia, y sin embargo los ciudadanos estadounidenses ya no pueden ponerse de acuerdo sobre quién ganó las elecciones. Aunque ahora todos son conscientes de los problemas que presentan las redes sociales, esto no se ha abordado porque muchas de nuestras instituciones sociales, económicas y políticas han quedado enredadas en ellas.

Los grandes modelos de lenguaje son nuestro segundo contacto con la IA. No podemos permitirnos perder de nuevo. Pero ¿sobre qué base deberíamos creer que la humanidad es capaz de alinear estas nuevas formas de IA para nuestro beneficio? Si continuamos con los negocios como de costumbre, las nuevas capacidades de la IA se utilizarán nuevamente para obtener ganancias y poder, incluso si se destruyen inadvertidamente las bases mismas de nuestra sociedad.

De hecho, la IA tiene el potencial de ayudarnos a derrotar el cáncer, descubrir medicamentos que salvan vidas e inventar soluciones para nuestras crisis climáticas y energéticas. Hay innumerables otros beneficios que ni siquiera podemos comenzar a imaginar. Pero no importa qué tan alto sea el rascacielos de beneficios construido por la IA, si la base se derrumba.

El momento de considerar lo que implica la IA es antes de que nuestros políticos, nuestra economía y nuestra vida cotidiana dependan de ella. La democracia es una conversación y la conversación se basa en el lenguaje. Cuando el lenguaje es hackeado, la conversación se interrumpe y la democracia se vuelve insostenible. Si esperamos a que se produzca el caos, será demasiado tarde para remediarlo.

Pero hay una pregunta que puede persistir en nuestras mentes: si no avanzamos lo más rápidamente posible, ¿no se arriesgará Occidente a perder frente a China? No. El despliegue y el enredo de una IA descontrolada en la sociedad, desatando poderes similares a los divinos pero desacoplados de la responsabilidad, podría ser precisamente la razón por la que Occidente pierda frente a China.

Todavía podemos elegir qué futuro queremos con la IA. Cuando los poderes similares a los divinos se combinen con una responsabilidad y un control adecuados, podremos aprovechar los beneficios que la IA promete.

Hemos convocado a una inteligencia alienígena. No sabemos mucho al respecto, excepto que es extremadamente poderosa y nos ofrece regalos deslumbrantes, pero también podría hackear las bases de nuestra civilización. Hacemos un llamado a los líderes mundiales para que respondan a esta situación en función del nivel de desafío que representa. El primer paso es ganar tiempo para actualizar nuestras instituciones del siglo XIX para un mundo de IA y aprender a dominar la IA antes de que ella nos domine a nosotros.

Traducción: Daniel Rosenthal