Me han contado un chiste buenísimo sobre un experto al que le preguntan cuál va a ser la tecnología que cambiará nuestro futuro. El tipo, muy seguro de sí mismo, alza un dedo y exclama: ¡Blockchain, el Blockchain lo va a cambiar todo! Y, ¿puede usted explicarnos un poco más qué es eso del Blockchain? Ehhh…bueno…-responde el experto- sí…ehhh…¡también está la IA!
También está la IA. Pues sí. Hay que apostar por IA. Los chinos van a liderar la IA. Últimamente todas las conversaciones que tengo giran en torno a la IA. Y a los chinos. Y a la apuesta de los chinos por la IA. Y a tirarnos de los pelos porque nosotros no hacemos IA. Nadie especifica muy bien si lo que tenemos que hacer es crear una Nekane que le haga la competencia a las posibilidades que ofrece esta divertida Alexa, o un Patxi que además de saltar los troncos como Atlas, los corte y los apile para el fuego bajo.
En cualquier caso, como el experto del chiste, nos venimos arriba. Hagamos que los algoritmos hagan de Minority Report una realidad y adivinen quién va a delinquir. Hagamos que contraten y que despidan. Que decidan quién merece un crédito y quién no. No se nos ocurre pensar que los algoritmos son como los hijos. Les puedes gritar cien veces que se pongan el pijama y no te escucharán, pero como digas “puta mierda” en voz bajita y con la cabeza metida en un armario, ellos te oirán y lo repetirán delante de todo el mundo durante semanas. En su artículo de 2011, “The ethics of artificial intelligence”, Bostrom y Yudkowsky ya apuntan a la casi imposibilidad de entender exactamente por qué un algoritmo se decanta por una decisión o por otra, especialmente cuando está basado en redes neuronales o en algoritmos genéticos evolutivos. Puede ser que el algoritmo te deniegue un crédito porque asocia tu dirección con un nivel económico bajo, o tu nombre con una probabilidad mayor de sufrir un ataque al corazón. Nunca lo sabrás. Como ya anticipó Jean de la Fontaine en pleno siglo XVII: “rien n’est si dangereux qu’un ignorant ami; mieux vaudrait un sage ennemi.” Más vale un enemigo listo que un amigo tonto.
Pero sabiendo esto, tal vez podríamos eliminar los sesgos y, entonces, libres de los prejuicios que les legamos, y con acceso a toda la información imaginable, ¿por qué no dejar que gobiernen los algoritmos? La idea no es mía, lo confieso. Pero en los últimos tiempos la he oído varias veces, y siempre de boca de entusiastas tecnólogos. Para mí, esto es la versión 4.0 de las caras de aburrimiento que veo en muchos ingenieros frente a las ciencias sociales. Eso para qué vale. Para qué nos valen los estrategas en un entorno VUCA, donde la estrategia que dura más de un año es una estrategia vieja, donde no se puede planificar porque la velocidad del cambio es exponencial y somos incapaces de ver lo que nos viene. Para qué queremos gobierno cuando tenemos datos que nos dicen todo lo que queremos saber sobre las personas.
En su artículo de 2003, “Ethical issues in advanced artificial intelligence”, Bostrom argumenta que una IA cuyo objetivo fuera maximizar la producción de pisapapeles terminaría en última instancia por consumir todas las materias primas a su alcance para lograr su objetivo, hasta terminar con la vida en la Tierra. Un ejemplo similar sería una IA cuyo principal objetivo fuera erradicar el cáncer de la forma más rápida y eficiente posible que es, por supuesto, aniquilar a toda la humanidad. Como dice Yudkowsky en su artículo “AI as a positive and negative factor in global risk” del año 2008: “la naturaleza no es cruel, simplemente es indiferente”.
Y aunque una superinteligencia no nos matara para erradicar el cáncer o para llenar el mundo de pisapapeles, todavía seguirían existiendo riesgos fundamentales. En su libro de 2015 “Homo Deus”, Harari ya apunta sobre la posibilidad de que, a medida que la inteligencia artificial tome el mando de las tareas más mecánicas (e incluso de otras tareas que no lo sean tanto), habrá una clase de humanos que no aportarán ningún valor productivo al conjunto de la sociedad y, por tanto, resultarán prescindibles. Algunas teorías, como la defendida por Rutger Bregman en su libro “Utopía para realistas” de 2016, apuntan a la renta básica universal como una solución para que estas personas puedan seguir formando parte de la sociedad de una forma digna. Sin embargo, con la lógica de la IA que cura el cáncer a las bravas, ¿por qué íbamos a gastar recursos en personas que no aportan nada a la sociedad? ¿por qué pagarle una sanidad universal, una educación universal a alguien que es perfectamente prescindible?
Puede que la singularidad que explica Ray Kurzweil esté más cerca que nunca pero hoy por hoy seguimos siendo los seres más inteligentes del planeta. No podemos diseñar máquinas que no compartan nuestros valores humanos y filantrópicos. No podemos poner en manos artificiales la gobernanza de nuestras vidas. Y si es un paso inevitable en la evolución humana, al menos deberíamos asegurarnos de que, antes de hacerlo, los nuevos Homo Deus comparten con nosotros los valores básicos que nos hacen ser quienes somos y que constituyen la esencia del ser humano.
Comparto con vosotros esta reflexión de Irving John Good, de 1966, recogida en su libro “Speculations concerning the first ultraintelligent machine”: “Definamos una máquina ultrainteligente como una máquina capaz de sobrepasar todas las actividades intelectuales de cualquier hombre, independientemente de lo inteligente que ese hombre sea. Dado que el diseño de las máquinas es una de esas actividades intelectuales, una máquina así podría diseñar máquinas todavía mejores que ella. Entonces se produciría una explosión de inteligencia, y la inteligencia del hombre sería dejada muy atrás. Por eso la primera máquina ultrainteligente es el último invento que el hombre tendrá que hacer”.
Tecnología con Alma 