Amenaza de la inteligencia artificial: la visión de Yuval Noah Harari
¿Qué te viene a la mente cuando piensas en el 8️⃣ inminente apocalipsis de la inteligencia artificial (AI)? Si eres aficionado a las clichés de las películas de ciencia ficción, puede 8️⃣ que imagines robots asesinos (con o sin acentos austriacos gruesos) sublevándose para exterminar a sus creadores arrogantes. O quizás, como 8️⃣ en The Matrix, elijas máquinas aterradoras que succionen la energía de nuestros cuerpos mientras nos distraen con una realidad simulada.
Para 8️⃣ Yuval Noah Harari, quien ha pasado mucho tiempo preocupándose por la AI en la última década, la amenaza es menos 8️⃣ fantasiosa y más sutil. "Para manipular a los humanos, no es necesario conectar físicamente los cerebros a las computadoras", escribe 8️⃣ en su nuevo y fascinante libro Nexus. "Durante miles de años, profetas, poetas y políticos han utilizado el lenguaje para 8️⃣ manipular y dar forma a la sociedad. Ahora, las computadoras están aprendiendo a hacerlo. Y no necesitarán enviar robots asesinos 8️⃣ a dispararnos. Podrían manipular a los seres humanos para que aprieten el gatillo."
La importancia del lenguaje y la capacidad humana 8️⃣ de tejer historias
El lenguaje y la habilidad humana de tejer historias a partir de él son fundamentales en la comprensión 8️⃣ que tiene el historiador israelí, autor de cuatro libros de ciencia popular, de nuestra especie y sus vulnerabilidades. En su 8️⃣ éxito de ventas de 2014 Sapiens (publicado originalmente en hebreo en 2011), argumentó que los humanos se volvieron dominantes porque 8️⃣ aprendieron a cooperar en grandes números, gracias a una nueva habilidad para contar historias. Esa habilidad, que permitió a nuestros 8️⃣ antepasados creer en cosas completamente imaginarias, está en la raíz de nuestras religiones, economías y naciones, las cuales se disolverían 8️⃣ si nuestras facultades de tejer historias fueran alguna vez apagadas.
Sapiens ha vendido 25 millones de copias hasta la fecha, un 8️⃣ testimonio del propio talento narrativo de Harari, aunque ha tenido sus críticos. Académicos que cuestionaron su precisión y la idea 8️⃣ de comprimir 70.000 años de historia humana en 450 páginas. Sitcoms que se burlaron de los fanáticos de Harari que 8️⃣ agitan el libro como una especie de biblia moderna. El atractivo de Sapiens radica en su alcance abrumador, pero, como 8️⃣ un perfil de 2024 en el New Yorker señaló, el enfoque zoomado de Harari puede minimizar la importancia de los 8️⃣ asuntos actuales.
La era de las redes de información
Nexus podría considerarse como una respuesta a esa crítica. Aunque ejecuta su propio 8️⃣ recorrido vertiginoso a través de los milenios, saltando hacia adelante y hacia atrás en el tiempo y entre continentes, está 8️⃣ muy preocupado por lo que está sucediendo hoy.
Si las historias eran fundamentales para el esquema de Sapiens, aquí se trata 8️⃣ de redes de información, las cuales Harari ve como las estructuras básicas que subyacen a nuestras sociedades. "El poder siempre 8️⃣ proviene de la cooperación entre grandes números de humanos", escribe, y el "pegamento" que mantiene unidas estas redes de cooperación 8️⃣ es la información, la cual "muchos filósofos y biólogos" ven como "el bloque de construcción más básico de la realidad".
Pero 8️⃣ la información no siempre dice la verdad sobre el mundo. Más bien, enfatiza Harari, da lugar a ficciones, fantasías y 8️⃣ delusiones masivas, las cuales conducen a tales desarrollos catastróficos como el nazismo y el estalinismo.
¿Por qué Homo sapiens, para todos 8️⃣ sus éxitos evolutivos, es tan perennemente autodestructivo? "La culpa", según Harari, "no está en nuestra naturaleza, sino en nuestras redes 8️⃣ de información."
Su punto básico es que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 8️⃣ siempre vienen con un costo.
Al echar un vistazo a cómo la información nos ha llevado astray en el pasado, Harari 8️⃣ no tiene escasez de ejemplos en los que apoyarse. Uno de los más memorablemente grotescos es Malleus Maleficarum, escrito por 8️⃣ el fraile dominico Heinrich Kramer en la Austria de la década de 1480. Una guía para descubrir y asesinar brujas 8️⃣ de manera horrible, el libro no habría viajado lejos de no ser por la invención de la imprenta unos pocos 8️⃣ decenios antes, la cual permitió que las ideas desquiciadas de Kramer se extendieran por Europa, avivando una fiebre de caza 8️⃣ de brujas.
Harari hace hincapié en que las revoluciones de la información pueden dar lugar a períodos de florecimiento humano, pero 8️⃣ siempre vienen con un costo. Cuando inventamos nuevas tecnologías brillantes que llevan palabras e ideas más lejos y más rápido 8️⃣ que nunca antes, mucha de la información que sale es basura o activemente peligrosa. No se ayuda al hecho de 8️⃣ que, cuando se trata de mantener el orden social, las ficciones tienden a ser agentes de unión más confiables que 8️⃣ las verdades.
Lo que es aterrador sobre la revolución de la AI no es solo que seremos abrumados por la desinformación 8️⃣ de los chatbots, o que las autoridades utilizarán para espiar nuestras vidas privadas. A diferencia de tecnologías anteriores como los 8️⃣ libros y las radios, escribe Harari: "La AI es la primera herramienta que es capaz de tomar decisiones y generar 8️⃣ ideas por sí misma." Vimos una advertencia temprana de esto en Myanmar en 2024-17, cuando los algoritmos de Facebook, encargados 8️⃣ de maximizar la participación del usuario, respondieron promoviendo propaganda de odio antir Rohingya que avivó el asesinato en masa y 8️⃣ la limpieza étnica.
Harari hace un caso sólido sobre por qué debemos considerar tales algoritmos como agentes autónomos y cómo, si 8️⃣ no tenemos cuidado, los humanos podríamos convertirnos en herramientas que la AI manipule con una fuerza cada vez más terrible. 8️⃣ A menos que tomemos medidas inmediatas, este creciente "intelecto extraterrestre", como prefiere llamarlo, podría desencadenar catástrofes que ni siquiera podamos 8️⃣ imaginar, incluida la destrucción de la civilización humana.
Esta visión pesimista de la AI no es nueva: "alarmistas" como Eliezer Yudkowsky 8️⃣ han advertido de su potencial apocalíptico durante años, e incluso la industria de la AI ha comenzado a expresar preocupaciones. 8️⃣ Lo que Harari busca agregar al debate es la perspectiva a largo plazo. Al aplicar su lente a revoluciones de 8️⃣ información anteriores y mostrar cómo diferentes formas de gobierno han reaccionado a ellas, cree que podemos prepararnos para los terremotos 8️⃣ por venir.
Nexus tiene algunas curiosas lagunas; es extraño, en una crítica de una tecnología impulsada en gran medida por corporaciones 8️⃣ centradas en el beneficio, que el capitalismo apenas se mencione en absoluto. Pero ya sea que estés de acuerdo o 8️⃣ no con el marco histórico de Harari sobre la AI, es difícil no impresionarse por la meticulosidad con la que 8️⃣ lo construye, salpicando lo que podría ser un análisis rather dry con ejemplos vívidos, como la historia de Cher Ami, 8️⃣ un paloma mensajera de la Primera Guerra Mundial, utilizada aquí para desentrañar la fundamental resbaladiza de la información. Como en 8️⃣ libros anteriores, se apoya heavily en listas ("los dos desafíos principales", "los cinco principios básicos") y binarios (verdad versus orden, 8️⃣ democracia versus dictadura), pero esto sirve para organizar su pensamiento en lugar de aburrir la escritura.
Las soluciones que propone para 8️⃣ restringir el poder de la AI van desde lo sensato (prohibir a los bots que se hagan pasar por humanos) 8️⃣ a lo risible (animar a los artistas y burócratas a "cooperar" para ayudar al resto de nosotros a comprender la 8️⃣ red de computadoras), pero Nexus opera principalmente como un diagnóstico y una llamada a la acción, y en esos términos 8️⃣ es ampliamente exitoso. Si se vende tan bien como Sapiens lo hizo, estaremos un poco mejor equipados como especie para 8️⃣ enfrentar el auge de las máquinas.
Palpite 1:.
Palpita 2:.
