Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
¡DÚO 80% OFF!
SUSCRIBITE
LA NACION > Sociedad
Yuval Harari, Tristan Harris y Aza Raskin escriben sobre los peligros de esta
tecnología también para los sistemas democráticos
29 de marzo de 2023 • 06:00
Yuval Harari, Tristan Harris y Aza Raskin
"La IA podría devorar rápidamente toda la cultura humana, digerirla, y empezar a escupir un
diluvio de nuevos artefactos culturales", escriben los autores
Shutterstock - Shutterstock
Home Secciones Club LN Mi Cuenta
1 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
NUEVA YORK.- Imaginen que están por abordar un avión, y la mitad de los
ingenieros que lo construyeron te dicen que hay un 10% de chances de que el
avión se estrelle con todos adentro. ¿Se subirían igual?
PUBLICIDAD
ESPAÑA: ASÍ TRABAJA UNA ALIANZA DE INVESTIGADORES PARA ENTENDER EL ORIGEN DE UN
CÁNCER CONSIDERADO “CATASTRÓFICO” Y CONTENERLO
En 2022, más de 700 altos académicos e investigadores que están detrás de las
empresas líderes en inteligencia artificial (IA) respondieron a una encuesta
sobre los futuros riesgos que plantea la IA. La mitad de los entrevistados dijo
que había un 10% o más de probabilidades de que los humanos se extinguieran
—o de que sufran un desempoderamiento terminal y permanente— a causa de
los sistemas de IA del futuro. O sea que las empresas tecnológicas que están
desarrollando “modelos de lenguaje grande” (MLG), están embarcadas en una
Home Secciones Club LN Mi Cuenta
2 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
carrera para subir a toda la humanidad a ese avión…
Ninguna empresa farmacéutica puede comercializar nuevos medicamentos sin
antes someter sus productos a rigurosos controles de seguridad. Los
laboratorios de biotecnología no pueden liberar nuevos virus a la esfera pública
para impresionar a sus accionistas por su inventiva. En ese misma línea, los
sistemas IA que tienen una potencia como la de GPT-4 —el MLG creado por
OpenAI— no deberían introducirse en las vidas de miles de millones de
personas a mayor velocidad de la que las sociedades pueden absorber sin
desestabilizarse. La carrera para quedarse con el dominio del mercado no debe
marcar la velocidad de implementación de la tecnología más importante que
tienen actualmente de la humanidad. Debemos avanzar a un ritmo que nos
permita hacerlo bien.
El espectro de la IA persigue a la humanidad desde mediados del siglo XX, pero
hasta hace poco seguía siendo una perspectiva lejana, algo más propio de la
ciencia ficción que de los debates científicos y políticos serios. A la mente
humana le cuesta comprender las nuevas capacidades de GPT-4 y otras
herramientas similares, y más todavía asimilar la velocidad exponencial con la
que estas herramientas acrecientan sus propias habilidades. Pero la mayoría de
las habilidades clave se reducen a una sola: la capacidad de generar y
manipular lenguaje, ya sean palabras, sonidos o imágenes.
Home Secciones Club LN Mi Cuenta
3 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
PUBLICIDAD
COVID-19: LA OMS RECOMIENDA APLICAR VACUNAS DE REFUERZO SOLO PARA LOS GRUPOS DE
RIESGO
En el principio era la palabra. El lenguaje es el sistema operativo de la cultura
humana. Del lenguaje nacen el mito y la ley, los dioses y el dinero, el arte y la
ciencia, las amistades y las alianzas, las naciones y el código informático. O sea
que ahora que domina los modelos de lenguaje, la IA tiene la capacidad de
hackear y manipular el sistema operativo de la civilización. Al
adquirir el dominio del lenguaje, la IA se ha apoderado de la llave maestra de la
civilización, capaz de abrir desde las bóvedas de los bancos hasta los santos
sepulcros.
¿Qué significaría para nosotros vivir en un mundo donde gran porcentaje de las
historias, melodías, imágenes, leyes, políticas y herramientas fueron moldeadas
por una inteligencia no humana, que sabe cómo explotar con eficiencia
Home Secciones Club LN Mi Cuenta
4 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
sobrehumana todas las debilidades, los sesgos y las adicciones de los seres
humanos, con quienes además sabe establecer relaciones íntimas? En juegos
como el ajedrez, por ejemplo, ningún ser humano puede aspirar a
vencer a una computadora. ¿Y si pasara lo mismo en el arte, la
política o la religión?
La IA podría devorar rápidamente toda la cultura humana —todo lo
que hemos producido durante miles de años—, digerirla, y empezar a escupir
un diluvio de nuevos artefactos culturales. No solo ensayos académicos,
sino también discursos políticos, manifiestos ideológicos, o libros sagrados
para nuevos cultos. De hecho, es posible que la carrera presidencial de 2028 en
Estados Unidos ya no sea dirigida por humanos.
PUBLICIDAD
Por lo general, los humanos no tenemos acceso directo a la realidad: estamos
envueltos por la cultura y experimentamos la realidad a través de un prisma
cultural. Nuestras opiniones políticas se moldean al calor de los informes
Home Secciones Club LN Mi Cuenta
5 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
periodísticos y las charlas con los amigos. Nuestras preferencias sexuales se ven
modificadas por el arte y la religión. Hasta ahora, ese capullo cultural fue tejido
laboriosamente por otros humanos a través de los siglos. ¿Cómo será
percibir la realidad a través de un prisma producido por una
inteligencia no humana?
Durante miles de años, los humanos vivimos dentro de los sueños de otros
humanos. Hemos adorado dioses, perseguido ideales de belleza y dedicado
nuestras vidas a causas salidas de la imaginación de algún profeta, poeta o
político. Pronto también nos encontraremos viviendo dentro de las
alucinaciones de la inteligencia no humana.
PUBLICIDAD
En la saga de películas de Terminator había robots que corrían por las calles y
le disparaban a la gente. Matrix asumió que para obtener el control total de la
sociedad humana, la IA primero tendría que lograr el control físico de nuestros
cerebros y conectarlos directamente a una red informática. Pero todo resultó
ser mucho más simple: al adquirir dominio del lenguaje, la IA tiene
todo lo necesario para confinarnos a un mundo de ilusiones similar
al de Matrix, sin tener que dispararle a nadie ni implantar ningún
chip en nuestros cerebros. Y si fuera necesario disparar, la IA podría hacer
que los propios humanos aprieten el gatillo, simplemente contándonos la
historia adecuada.
Home Secciones Club LN Mi Cuenta
6 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
El fantasma de estar atrapados en un mundo ilusorio persigue a la humanidad
desde mucho antes de la IA. Pero falta poco para que por fin nos
encontraremos cara a cara con el demonio de Descartes, la caverna de Platón, y
la maia de los budistas. De hecho, sobre la humanidad podría descender una
inmensa cortina de ilusiones que tal vez ya nunca logremos rasgar, o aún peor,
tal vez ni nos demos cuenta de que existe.
PUBLICIDAD
El primer contacto entre la IA y la humanidad fueron las redes sociales, y la
humanidad perdió. Pero ese primer contacto al menos nos ha dejado el sabor
amargo de lo que no espera. En las redes sociales, la primitiva IA no se usaba
para generar contenidos, sino para seleccionar contenidos generados por los
usuarios. La IA que alimenta nuestros feeds de noticias es la que elige las
palabras, los sonidos y las imágenes que llegan a nuestras retinas y tímpanos,
seleccionando aquellas con mayor potencial de viralización, mayor repercusión
y mayor participación de otros usuarios.
Home Secciones Club LN Mi Cuenta
7 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
Por primitiva que fuese, la IA que está detrás de las redes sociales alcanzó para
crear una cortina de ilusiones que fogoneó la polarización social, dinamitó
nuestra salud mental y dejó a la democracia hecha jirones. Millones de
personas confunden esas ilusiones con la realidad. Estados Unidos tiene la
mejor tecnología informática de mundo, pero sus ciudadanos ya no logran
ponerse de acuerdo sobre el ganador de las elecciones. Aunque ya todo el
mundo es consciente de los problemas que entrañan de las redes sociales, nadie
aborda esos riesgos porque muchas de nuestras instituciones sociales,
económicas y políticas quedaron enredadas.
PUBLICIDAD
Los MLG —modelos de lenguaje grande— son nuestro segundo
contacto con la IA, y esta vez no podemos darnos el lujo de volver a perder.
¿Pero que argumentos tenemos para decir que la humanidad será capaz de
orientar estas nuevas formas de IA en nuestro beneficio? Si dejamos que los
negocios hagan lo suyo, las nuevas habilidades de la IA volverán a ser utilizadas
para obtener ganancias y poder, aunque en el camino destruyan
inadvertidamente los cimientos
Home de nuestra Club
Secciones sociedad.
LN Mi Cuenta
8 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
De hecho, la IA tiene el potencial de ayudarnos a vencer el cáncer, desarrollar
medicamentos que salven vidas y pergeñar soluciones para nuestra crisis
climática y energética, además de otros innumerables beneficios que no
podemos ni empezar a imaginar. ¿Pero qué importa el rascacielos de
beneficios de la IA si los cimientos se derrumban?
PUBLICIDAD
El momento de discutir el futuro de la IA es antes de que nuestra política,
nuestra economía y nuestra vida cotidiana terminen dependiendo enteramente
de ella. La democracia es una conversación, una conversación que se basa en el
lenguaje, y cuando el lenguaje mismo es hackeado, la conversación se
interrumpe y la democracia se vuelve insostenible. Si esperamos a que el
caos se produzca, será demasiado tarde para solucionarlo.
De todos modos, en nuestra cabeza puede quedar repiqueteando una pregunta:
si no avanzamos lo más rápido posible, ¿Occidente no corre el riesgo de quedar
Home Secciones Club LN Mi Cuenta
9 de 27 29/3/2023, 08:41
Por qué la inteligencia artificial podría devorar rápidamente toda nuest... https://www.lanacion.com.ar/sociedad/hacker-el-sistema-operativo-de...
rezagado frente a China? Y la respuesta es que no. Muy por el contrario, el
despliegue y diseminación indiscriminados de la IA en la sociedad, con sus
poderes divinos despojados de toda responsabilidad, podría ser justamente la
razón de la derrota de Occidente.
PUBLICIDAD
El destino de la inteligencia artificial todavía está en nuestras manos. Cuando a
esos poderes divinos se le suman la responsabilidad y el control
correspondientes, podremos alcanzar todos esos beneficios que la IA nos
promete.
Hemos invocado una inteligencia ajena a nosotros. Sabemos poco sobre ella,
salvo que es extremadamente poderosa y que nos promete regalos
deslumbrantes, pero también sabemos que podría hackear los cimientos de
nuestra civilización. Hacemos un llamado a los líderes mundiales para que
estén a la altura del desafío que presenta la hora actual. El primer paso es ganar
tiempo para actualizar nuestras instituciones decimonónicas y aprender a
Home Secciones Club LN Mi Cuenta
10 de 27 29/3/2023, 08:41
