Los cerebros ‘hackeados’ votan…
Fotografía: Eva Vázquez
Algunas de las mentes más brillantes del
planeta llevan años investigando cómo piratear el cerebro humano para que
pinchemos en determinados anuncios o enlaces. Y ese método ya se usa para
vendernos políticos e ideologías.
Fotograma de la película '1984', del director Michael Anderson (1956).
© Escrito por Yuval Noah
Harari (*) el domingo 6/01/2019 y publicado por el Diario El País de la Ciudad de Madrid,
España.
La democracia
liberal se enfrenta a una doble crisis. Lo que más centra la atención es el consabido problema de los regímenes
autoritarios. Pero los nuevos descubrimientos científicos y
desarrollos tecnológicos representan un reto mucho más profundo para el ideal
básico liberal: la libertad humana.
El liberalismo
ha logrado sobrevivir, desde hace siglos, a numerosos demagogos y autócratas
que han intentado estrangular la libertad desde fuera. Pero ha tenido escasa
experiencia, hasta ahora, con tecnologías capaces de corroer la libertad humana
desde dentro.
Para asimilar
este nuevo desafío, empecemos por comprender qué significa el liberalismo. En el discurso político occidental, el
término “liberal” se usa a menudo con un sentido estrictamente partidista, como
lo opuesto a “conservador”. Pero muchos de los denominados conservadores
adoptan la visión liberal del mundo en general. El típico votante de Trump
habría sido considerado un liberal radical hace un siglo. Haga usted mismo la
prueba. ¿Cree que la gente debe elegir a su Gobierno en lugar de obedecer
ciegamente a un monarca? ¿Cree que una persona debe elegir su profesión en
lugar de pertenecer por nacimiento a una casta? ¿Cree que una persona debe
elegir a su cónyuge en lugar de casarse con quien hayan decidido sus padres? Si
responde sí a las tres preguntas, enhorabuena, es usted liberal.
El liberalismo
defiende la libertad humana porque asume que las personas son entes únicos,
distintos a todos los demás animales. A diferencia de las ratas y los monos, el Homo sapiens, en teoría, tiene libre albedrío. Eso es lo
que hace que los sentimientos y las decisiones humanas constituyan la máxima
autoridad moral y política en el mundo. Por desgracia, el libre albedrío no es
una realidad científica. Es un mito que el liberalismo heredó de la teología
cristiana. Los teólogos elaboraron la idea del libre albedrío para explicar por
qué Dios hace bien cuando castiga a los pecadores por sus malas decisiones y
recompensa a los santos por las decisiones acertadas.
Hitler no podía construir un mensaje a medida para cada
una de las debilidades de cada cerebro. Ahora sí es posible
Si no tomamos
nuestras decisiones con libertad, ¿por qué va Dios a castigarnos o
recompensarnos? Según los teólogos, es razonable que lo haga porque nuestras
decisiones son el reflejo del libre albedrío de nuestras almas eternas, que son
completamente independientes de cualquier limitación física y biológica.
Este mito tiene
poca relación con lo que la ciencia nos dice del Homo sapiens y
otros animales. Los seres humanos, sin duda, tienen voluntad, pero no es libre.
Yo no puedo decidir qué deseos tengo. No decido ser introvertido o
extrovertido, tranquilo o inquieto, gay o heterosexual. Los seres humanos toman
decisiones, pero nunca son decisiones independientes.
Cada una de ellas depende
de unas condiciones biológicas y sociales que escapan a mi control. Puedo
decidir qué comer, con quién casarme y a quién votar, pero esas decisiones
dependen de mis genes, mi bioquímica, mi sexo, mi origen familiar, mi cultura
nacional, etcétera; todos ellos, elementos que yo no he elegido.
Esta no es una
teoría abstracta, sino que es fácil de observar. Fíjese en la próxima idea que
surge en su cerebro. ¿De dónde ha salido? ¿Se le ha ocurrido libremente? Por
supuesto que no. Si observa con atención su mente, se dará cuenta de que tiene
poco control sobre lo que ocurre en ella y que no decide libremente qué pensar,
qué sentir, ni qué querer. ¿Alguna vez le ha pasado que, la noche anterior a un
acontecimiento importante, intenta dormir pero le mantiene en vela una serie
constante de pensamientos y preocupaciones de lo más irritantes? Si podemos
escoger libremente, ¿por qué no podemos detener esa corriente de pensamientos y
relajarnos sin más?
Animales pirateables
Fotografía: Eva Vázquez
Aunque el libre albedrío siempre ha sido un mito, en siglos anteriores fue útil. Infundió
valor a quienes lucharon contra la Inquisición, el derecho divino de los reyes,
el KGB y el Ku Klux Klan. Y era un mito que tenía pocos costes. En 1776 y en
1939 no era muy grave creer que nuestras convicciones y decisiones eran
producto del libre albedrío, y no de la bioquímica y la neurología. Porque en
1776 y en 1939 nadie entendía muy bien la bioquímica, ni la neurología. Ahora,
sin embargo, tener fe en el libre albedrío es peligroso. Si los Gobiernos y las
empresas logran hackear o piratear el sistema operativo humano, las
personas más fáciles de manipular serán aquellas que creen en el libre
albedrío.
Para conseguir piratear a los seres
humanos, hacen falta tres cosas: sólidos conocimientos de biología, muchos datos
y una gran capacidad informática. La Inquisición y el KGB nunca lograron
penetrar en los seres humanos porque carecían de esos conocimientos de
biología, de ese arsenal de datos y esa capacidad informática. Ahora, en
cambio, es posible que tanto las empresas como los Gobiernos cuenten pronto con
todo ello y, cuando logren piratearnos, no solo podrán predecir nuestras
decisiones, sino también manipular nuestros sentimientos.
Quien crea en el relato liberal tradicional
tendrá la tentación de restar importancia a este problema. “No, nunca va a
pasar eso. Nadie conseguirá jamás piratear el espíritu humano porque contiene
algo que va más allá de los genes, las neuronas y los algoritmos. Nadie puede
predecir ni manipular mis decisiones porque mis decisiones son el reflejo de mi
libre albedrío”. Por desgracia, ignorar el problema no va a hacer que
desaparezca. Solo sirve para que seamos más vulnerables.
Una fe ingenua
en el libre albedrío nos ciega. Cuando una persona escoge algo —un producto,
una carrera, una pareja, un político—, se dice que está escogiéndolo por su
libre albedrío. Y ya no hay más que hablar. No hay ningún motivo para sentir
curiosidad por lo que ocurre en su interior, por las fuerzas que verdaderamente
le han conducido a tomar esa decisión.
Las personas más fáciles de manipular serán las que creen
en el libre albedrío. Tener fe en él, ahora, es peligroso
Todo arranca con
detalles sencillos. Mientras alguien navega por Internet, le llama la atención
un titular: “Una banda de inmigrantes viola a las mujeres locales”. Pincha en
él. Al mismo tiempo, su vecina también está navegando por la Red y ve un
titular diferente: “Trump prepara un ataque nuclear contra Irán”. Pincha en él.
En realidad, los dos titulares son noticias falsas, quizá generadas por troles
rusos, o por un sitio web deseoso de captar más tráfico para mejorar sus
ingresos por publicidad. Tanto la primera persona como su vecina creen que han
pinchado en esos titulares por su libre albedrío. Pero, en realidad, las han hackeado.
La propaganda y
la manipulación no son ninguna novedad, desde luego. Antes actuaban mediante
bombardeos masivos; hoy, son, cada vez más, munición de alta precisión contra
objetivos escogidos. Cuando Hitler pronunciaba un discurso en la radio,
apuntaba al mínimo común denominador porque no podía construir un mensaje a
medida para cada una de las debilidades concretas de cada cerebro. Ahora sí es
posible hacerlo. Un algoritmo puede decir si alguien ya está predispuesto
contra los inmigrantes, y si su vecina ya detesta a Trump, de tal forma que el
primero ve un titular y la segunda, en cambio, otro completamente distinto.
Algunas de las mentes más brillantes del mundo llevan años investigando cómo piratear el cerebro humano para hacer que pinchemos en
determinados anuncios y así vendernos cosas. El mejor método es pulsar los botones del miedo, el odio o la codicia que llevamos dentro. Y ese método ha
empezado a utilizarse ahora para vendernos políticos e ideologías.
Y este no es más
que el principio. Por ahora, los piratas se limitan a analizar señales
externas: los productos que compramos, los lugares que visitamos, las palabras
que buscamos en Internet. Pero, de aquí a unos años, los sensores biométricos
podrían proporcionar acceso directo a nuestra realidad interior y saber qué
sucede en nuestro corazón. No el corazón metafórico tan querido de las
fantasías liberales, sino el músculo que bombea y regula nuestra presión
sanguínea y gran parte de nuestra actividad cerebral. Entonces, los piratas
podrían correlacionar el ritmo cardiaco con los datos de la tarjeta de crédito
y la presión sanguínea con el historial de búsquedas.
¿De qué habrían
sido capaces la Inquisición y el KGB con unas pulseras biométricas que vigilen
constantemente nuestro ánimo y nuestros afectos? Por desgracia, da la impresión
de que pronto sabremos la respuesta.
El liberalismo
ha desarrollado un impresionante arsenal de argumentos e instituciones para
defender las libertades individuales contra ataques externos de Gobiernos
represores y religiones intolerantes, pero no está preparado para una situación
en la que la libertad individual se socava desde dentro y en la que, de hecho,
los conceptos “libertad” e “individual” ya no tienen mucho sentido. Para
sobrevivir y prosperar en el siglo XXI, necesitamos dejar atrás la ingenua
visión de los seres humanos como individuos libres —una concepción herencia a
partes iguales de la teología cristiana y de la Ilustración— y aceptar lo que,
en realidad, somos los seres humanos: unos animales pirateables. Necesitamos
conocernos mejor a nosotros mismos.
Códigos defectuosos
Este consejo no es nuevo, por supuesto.
Desde la Antigüedad, los sabios y los santos no han dejado de decir “conócete a
ti mismo”. Pero en tiempos de Sócrates, Buda y Confucio, uno no tenía
competencia en esta búsqueda. Si uno no se conocía a sí mismo, seguía siendo
una caja negra para el resto de la humanidad. Ahora, en cambio, sí hay
competencia. Mientras usted lee estas líneas, los Gobiernos y las empresas
están trabajando para piratearle. Si consiguen conocerle mejor de lo que usted
se conoce a sí mismo, podrán venderle todo lo que quieran, ya sea un producto o
un político.
Es especialmente
importante conocer nuestros puntos débiles porque son las principales
herramientas de quienes intentan piratearnos. Los ordenadores se piratean a
través de líneas de código defectuosas preexistentes. Los seres humanos, a
través de miedos, odios, prejuicios y deseos preexistentes. Los piratas no
pueden crear miedo ni odio de la nada. Pero, cuando descubren lo que una
persona ya teme y odia, tienen fácil apretar las tuercas emocionales
correspondientes y provocar una furia aún mayor.
Si no podemos
llegar a conocernos a nosotros mismos mediante nuestros propios esfuerzos, tal
vez la misma tecnología que utilizan los piratas pueda servir para proteger a
la gente. Así como el ordenador tiene un antivirus que le preserva frente al
software malicioso, quizá necesitamos un antivirus para el cerebro. Ese
ayudante artificial aprenderá con la experiencia cuál es la debilidad
particular de una persona —los vídeos de gatos o las irritantes noticias sobre
Trump— y podrá bloquearlos para defendernos.
No obstante,
todo esto no es más que un aspecto marginal. Si los seres humanos son animales
pirateables, y si nuestras decisiones y opiniones no son reflejo de nuestro
libre albedrío, ¿para qué sirve la política? Durante 300 años, los ideales liberales
inspiraron un proyecto político que pretendía dar al mayor número posible de
gente la capacidad de perseguir sus sueños y de hacer realidad sus deseos.
Estamos cada vez más cerca de alcanzar ese objetivo, pero también de darnos
cuenta de que, en realidad, es un engaño. Las mismas tecnologías que hemos
inventado para ayudar a las personas a perseguir sus sueños permiten
rediseñarlos. Así que ¿cómo confiar en ninguno de mis sueños?
Es posible que
este descubrimiento otorgue a los seres humanos un tipo de libertad
completamente nuevo. Hasta ahora, nos identificábamos firmemente con nuestros
deseos y buscábamos la libertad necesaria para cumplirlos. Cuando surgía una
idea en nuestra cabeza, nos apresurábamos a obedecerla. Pasábamos el tiempo
corriendo como locos, espoleados, subidos a una furibunda montaña rusa de
pensamientos, sentimientos y deseos, que hemos creído, erróneamente, que
representaban nuestro libre albedrío. ¿Qué sucederá si dejamos de
identificarnos con esa montaña rusa? ¿Qué sucederá cuando observemos con
cuidado la próxima idea que surja en nuestra mente y nos preguntemos de dónde ha venido?
A veces la gente
piensa que, si renunciamos al libre albedrío, nos volveremos completamente
apáticos, nos acurrucaremos en un rincón y nos dejaremos morir de hambre. La
verdad es que renunciar a este engaño puede despertar una profunda curiosidad.
Mientras nos identifiquemos firmemente con cualquier pensamiento y deseo que
surja en nuestra mente, no necesitamos hacer grandes esfuerzos para conocernos.
Pensamos que ya sabemos de sobra quiénes somos. Sin embargo, cuando uno se da
cuenta de que “estos pensamientos no son míos, no son más que ciertas
vibraciones bioquímicas”, comprende también que no tiene ni idea de quién ni de
qué es. Y ese puede ser el principio de la aventura de exploración más
apasionante que uno pueda emprender.
Filosofía práctica
Poner en duda el
libre albedrío y explorar la verdadera naturaleza de la humanidad no es algo
nuevo. Los humanos hemos mantenido este debate miles de veces. Salvo que antes
no disponíamos de la tecnología. Y la tecnología lo cambia todo. Antiguos
problemas filosóficos se convierten ahora en problemas prácticos de ingeniería
y política. Y, si bien los filósofos son gente muy paciente —pueden discutir sobre
un tema durante 3.000 años sin llegar a ninguna conclusión—, los ingenieros no
lo son tanto. Y los políticos son los menos pacientes de todos.
¿Cómo funciona
la democracia liberal en una era en la que los Gobiernos y las empresas pueden
piratear a los seres humanos? ¿Dónde quedan afirmaciones como que “el votante
sabe lo que conviene” y “el cliente siempre tiene razón”? ¿Cómo vivir cuando
comprendemos que somos animales pirateables, que nuestro corazón puede ser un
agente del Gobierno, que nuestra amígdala puede estar trabajando para Putin y
la próxima idea que se nos ocurra perfectamente puede no ser consecuencia del
libre albedrío sino de un algoritmo que nos conoce mejor que nosotros mismos?
Estas son las preguntas más interesantes que debe afrontar la humanidad.
Por desgracia,
no son preguntas que suela hacerse la mayoría de la gente. En lugar de
investigar lo que nos aguarda más allá del espejismo del libre albedrío, la
gente está retrocediendo en todo el mundo para refugiarse en ilusiones aún más
remotas. En vez de enfrentarse al reto de la inteligencia
artificial y la bioingeniería, la gente recurre a fantasías
religiosas y nacionalistas que están todavía más alejadas que el liberalismo de
las realidades científicas de nuestro tiempo. Lo que se nos ofrece, en lugar de
nuevos modelos políticos, son restos reempaquetados del siglo XX o incluso de
la Edad Media.
Cuando uno
intenta entregarse a estas fantasías nostálgicas, acaba debatiendo sobre la
veracidad de la Biblia y el carácter sagrado de la nación (especialmente si,
como yo, vive en un país como Israel). Para un estudioso, esto es
decepcionante. Discutir sobre la Biblia era muy moderno en la época de
Voltaire, y debatir los méritos del nacionalismo era filosofía de vanguardia
hace un siglo, pero hoy parece una terrible pérdida de tiempo. La inteligencia
artificial y la bioingeniería están a punto de cambiar el curso de la
evolución, nada menos, y no tenemos más que unas cuantas décadas para decidir
qué hacemos. No sé de dónde saldrán las respuestas, pero seguramente no será de
relatos de hace 2.000 años, cuando se sabía poco de genética y menos de
ordenadores.
¿Qué hacer?
Supongo que necesitamos luchar en dos frentes simultáneos. Debemos defender la
democracia liberal no solo porque ha demostrado que es una forma de gobierno
más benigna que cualquier otra alternativa, sino también porque es lo que menos
restringe el debate sobre el futuro de la humanidad. Pero, al mismo tiempo,
debemos poner en tela de juicio las hipótesis tradicionales del liberalismo y
desarrollar un nuevo proyecto político más acorde con las realidades
científicas y las capacidades tecnológicas del siglo XXI.
(*) Yuval Noah Harari es historiador y autor,
entre otros libros, de ‘Sapiens. De animales a dioses’ (editorial Debate). Traducción
de María Luisa Rodríguez Tapia.
