Ética para máquinas cada vez más inteligentes y con sentimientos

En un futuro no lejano, “lo relevante es si sabremos distinguir entre sentimientos generados por seres reales o por máquinas artificiales”. Lo dice José Ignacio Latorre, catedrático de Física Teórica que acaba de publicar ‘Ética para máquinas’, un ameno ensayo que aborda algo que nos inquieta y fascina: nuestra convivencia con máquinas cada vez más autónomas, inteligentes y, quizá, dotadas de emociones. Latorre es optimista sobre la evolución de la Humanidad, aunque hay algo que le preocupa: cómo la mayoría da la espalda al conocimiento y opta masivamente por el entretenimiento banal. “Seremos colectivamente más hedonistas, menos preparados, más manipulables. Mucha gente no entiende que el saber es el único camino para ser libres”.

Asomarse a cualquier libro de ciencia y tecnología tiene algo de lectura teológica. El nivel de especificidad, complejidad y refinamiento que han alcanzado los avances y el conocimiento en la Cuarta Revolución industrial nos obliga a echar mano de la “suspensión temporal de la incredulidad” con la que se define el pacto con el lector de ficción. Y todo lo que desconocemos, o no comprendemos, genera sospecha, miedo, y a veces reacciones. Todos llevamos un ludita dentro, porque los seres humanos, por condicionantes evolutivos, se resisten a aceptar que pueden “crear máquinas que razonen mejor que nosotros mismos”.

Así lo afirma José Ignacio Latorre, catedrático de Física Teórica y director del Centro de Ciencias Benasque Pedro Pascual, y que acaba de publicar Ética para máquinas (Ariel). Un ameno y nutrido ensayo divulgativo que busca clarificar y mostrar el estado de la cuestión que tanto inquieta y fascina: nuestra convivencia con máquinas cada vez más autónomas, inteligentes y, quizá, dotadas de emociones. Un repaso interdisciplinar que aborda los retos repasando la historia y la filosofía de forma permanente. Y que analiza los retos éticos, políticos y antropológicos que afrontamos en esta era de cambios con la inteligencia artificial, el cambio climático, la singularidad o el transhumanismo. Una visión optimista pero nada complaciente de lo que podemos esperar del futuro inmediato.

Dice que «nuestros cerebros no quieren hacer el gran salto». Pero esto parece haber cambiado, ¿no? Parecemos habernos convencido. Lo que nos da miedo es que eso vaya en contra del ser humano. ¿Recuerda alguna revolución industrial que haya generado tanta sospecha generalizada? No me refiero a episodios coyunturales como los luditas, sino a algo extendido.

Una posible analogía sería la entrada de internet en nuestra sociedad. El protocolo WWW fue creado en el CERN por físicos de partículas elementales. Allí pudimos probar su potencial en webs muy primitivas. Al comentar mi sensación de abismo ante aquel desarrollo, mis amigos se mostraron incrédulos, más adelante negativos. Poco a poco, la sociedad se percató de la transformación inevitable hacia una sociedad de la información. El tránsito fue y es duro para la gente de más edad. La reticencia actual a la inteligencia artificial también está condicionada por la edad de cada persona. Los jóvenes la entienden como una oportunidad. La gente de mediana edad recela de sus peligros. Las personas mayores no la comprenden.

La sensación que da esta revolución científico-técnica es que es un proceso que ya no controlamos. Pienso en algunos experimentos de modificación genética en China, y en los que no nos están contando pero que seguramente se producen. ¿Podemos seguir hablando de ética en este contexto? ¿O de soberanía humana?

Estas son exactamente las cuestiones que me preocupan. La ciencia y su tecnología derivada son cada día más potentes. En cambio, los humanos somos menos conscientes de este progreso y los parlamentos son lentísimos y, a veces, sesgados a la hora de legislar. A pesar de todo, la historia muestra que la democracia ha mejorado la calidad de vida de la mayoría. Una gran parte de la sociedad, no toda, vive en un entorno más justo. Este es un hecho que a muchas personas les parece extraño porque vinculan sus ideas a su experiencia inmediata. Pero estamos hablando de mejoras que se dan en el largo plazo. Vivimos mejor que en la Edad de Hierro, que en la Edad Media y que en la Revolución Industrial. Amparamos a nuestros mayores, cuidamos del medioambiente cada vez más. En mi opinión, seguiremos el mismo lento camino para convivir con la inteligencia artificial. Necesitamos hablar, compartir, discutir, proponer, co-decidir.

El profesor José Ignacio Latorre, Catedrático de Física Cuántica. Foto: José Escribano.

Dice que se atreve a defender dos ideas: que aumentaremos nuestro consumo energético y que, a la vez, resolveremos el problema energético. ¿El cambio climático tiene una solución más científica y técnica que ciudadana? Aunque sean inseparables.

Sí, defiendo que la energía es un tema tanto político como tecnológico. Por ejemplo, nuestras pantallas de ordenador consumen mucha menos energía que las de hace años, de la misma forma que los coches son mucho más eficientes. El Seat 1500 que tuvo mi padre gastaba 17 litros cada cien kilómetros. Hemos avanzado. La iluminación LED consume una fracción respecto a las lámparas de incandescencia. También generamos energía de forma más renovable. Todo es lento, pero imparable. En breve la UE abrirá un programa para lograr que las aguas sean limpias. Cada paso es insuficiente pero necesario. Seremos más eficientes y más responsables en nuestro consumo energético. No tenemos otra salida.

Muchos expertos dicen que las máquinas no sólo van a pensar más que nosotros, sino que van a sentir igual que nosotros. Al fin y al cabo, se trata de moléculas. ¿Será así? ¿Adiós a Turing?

Alan Turing introdujo la idea central de que no importa si las máquinas son inteligentes. La pregunta relevante es si sabemos distinguir a una máquina de un humano. Si no somos capaces, nuestra relación con máquinas es equivalente a la que se da entre humanos. De la misma forma, la pregunta de si una máquina tiene sentimientos no es la que nos afectará. Lo relevante es si sabremos distinguir entre sentimientos generados por seres reales o por máquinas artificiales. Si no somos capaces de discernir entre ambos, nuestra relación con las máquinas será afectiva. Hay personas enamoradas de su coche, de su gato, de su perro. Los humanos estamos encantados de dar nuestro afecto, y de recibirlo. Si una máquina nos trata con cariño, desarrollaremos dependencia respecto a ella.

¿Cuál es la innovación que, a 10, 15 años vista, le parece más disruptiva? ¿Por qué?

La generación artificial de emociones. Las máquinas nos superan en fuerza, en cálculo, ahora en inteligencia para tomar decisiones. Pero el gran salto será la percepción de emociones. No sé si estamos preparados.

Usted es catedrático de Física Teórica. La distancia entre los conocimientos de los que todo a nuestro alrededor depende y lo que somos capaces de comprender se ha ensanchado. Es casi un acto de fe encender un ordenador, enviar mails, por no hablar de técnicas como el CRISPR. Decía Pasteur que un poco de ciencia te aleja de Dios, y mucha te acerca a él. ¿Qué implicaciones éticas, políticas, tiene todo esto?

Sí, la ciencia avanzada es indistinguible de la magia, para muchos. No veo otra solución para mejorar la relación entre progreso y dignidad humana que mejorar la educación. Todo el mundo debería entender los elementos básicos de la ciencia: el ADN, la teoría de la evolución, lo que es un electrón. Pero la realidad me contradice. La sociedad opta masivamente por el entretenimiento banal. No se vislumbra ningún cambio de tendencia. Seremos colectivamente más hedonistas, menos preparados, más manipulables. Mucha gente no entiende que el saber es el único camino para ser libres.

Sobre el autor

Antonio García Maldonado

Antonio García Maldonado (Málaga, 1983) es analista y consultor independiente para compañías como Thinking Heads o Llorente y Cuenca, entre otras. Ha sido consultor en América Latina durante más de siete años. Hasta junio de 2017 fue Business Intelligence Manager de la consultora The Search Group, en su sede central en Belgrado. Escribe regularmente en EL PAÍS, The Objective, Letras Libres y El Asombrario, entre otros. Es también redactor de informes de lectura para la editorial Acantilado. Ha traducido, entre otros, a Bob Woodward, a William Kotzwinkle, a Jerry Toner, al marqués de Sade, a H.D. Thoreau o a Norman Mailer, cuyo libro 'Miami y el sitio de Chicago', prologó. Ha prologado la reciente edición de 'Viaje a la aldea del crimen', de Ramón J. Sender. Fue traductor becado del Colegio Internacional de Traductores Literarios de Francia, en Àrles. Participó como invitado en el último seminario del Aspen España Seminar. Antes de todo eso, fue librero y se licenció en Economía.
@MaldonadoAg

¿Quieres leer más artículos de este autor?