¿Ética o ideología
de la inteligencia artificial?
El eclipse de la razón comunicativa
en una sociedad tecnologizada
Adela Cortina, Premio Nacional de Ensayo 2015 y autora del éxito Aporofobia, reflexiona en su nuevo libro sobre los desafíos éticos que plantea la IA y nos alerta de sus peligros para la democracia.
La inteligencia artificial ha nacido cargada de promesas y de amenazas, suscitando a la vez entusiasmos y recelos. Tanto los entusiastas como los temerosos reclaman dotarla de ética para defender y empoderar a los seres humanos y a la naturaleza; algunos incluso aseguran que podremos acabar con las enfermedades, la muerte y crear una especie superior que inaugure un mundo de paz y felicidad.
En el extremo contrario, los entusiastas de la revolución 4.0 aseguraron que la IA ayudaría a resolver los problemas de la vida cotidiana, introduciendo la magia de los algoritmos para tomar decisiones en todos los ámbitos de la vida social, incluso dejando esas decisiones en sus manos, sustituyendo los débiles cerebros humanos por la fuerza de la computación o la conectividad.
Y, yendo aún más allá, un buen número de tecnocientíficos aseguraron que acabaremos con la enfermedad, la vejez y la muerte. Que, incorporando valores morales a las máquinas, como el amor, la compasión y la solidaridad, crearemos una nueva especie superior a la humana conocida. Un mundo de paz y felicidad, que pondrá fin al reinado del Homo sapiens, a la época del Antropoceno, marcada por las guerras y la depredación de la naturaleza.
Ante esta visión tan optimista, ¿hablamos de «ética» o de «ideología»? ¿No se está dando por ciencia lo que no lo es para atraer suculentas inversiones, o incluso ganar en la competencia por el poder mundial? Y todo ello mientras en el espacio público triunfa la razón estratégica y se produce el eclipse de la razón comunicativa. Es ésta una pésima noticia si queremos fortalecer la democracia, que está en peligro en el contexto mundial. Y, por supuesto, en España, Europa y América Latina.
Con la claridad de ideas y los argumentos que caracterizan a Adela Cortina, este libro aborda todos los aspectos clave del debate en torno a la IA: el deber ético de las tecnociencias, la geoestrategia del poder, los desafíos de la robótica, la libertad en la era digital y el control del espacio público por parte de los algoritmos y las tecnologías.
El primer deber de una ética de la ciencia es no engañar
¿Esta segunda opción merece el nombre de «ética» o el de «ideología»? ¿No se está calificando como ciencia lo que no lo es para atraer suculentas inversiones, conformar las mentalidades e incluso ganar en la competencia por el poder mundial?
El primer deber de una ética de la ciencia es no engañar.
Por desgracia, desde ese afán de veracidad nos encontramos con un obstáculo difícilmente salvable, planteado por la estructura misma de las plataformas, las redes y los algoritmos que nacen de esta nueva revolución.
La gran pregunta ética es siempre ¿hacia dónde queremos ir?, ¿cuál es la brújula que debe orientar la construcción de mapas de carreteras que habrán de ir cambiando con el tiempo necesariamente?
Somos los seres humanos quienes tenemos capacidad de dialogar y decidir hoy por hoy, pero tomar decisiones conjuntas implica hacerlo desde un «nosotros» sin exclusiones, que, valiéndose de los sistemas inteligentes, busque las respuestas adecuadas. Sin embargo, el aumento de la conectividad, gracias a las redes, que debería llevarnos a poder decidir conjuntamente, deliberando, qué queremos hacer de nuestro futuro, no mejora la comunicación veraz. Por el contrario, triunfa una vez más la razón estratégica, que pasa a ocupar todo el espacio público, y se produce el eclipse de la razón comunicativa. Es esta una pésima noticia si queremos fortalecer la democracia, que es una tarea urgente, porque está en peligro en el ámbito mundial. Y, por supuesto, en España, Europa y América Latina.
PRÓLOGO
La inteligencia artificial (IA) nació en el pasado siglo, cargada de amenazas y también de promesas. Tanto los temerosos frente a las amenazas como los entusiastas de las promesas reclamaron dotar a la IA de una ética.
El monstruo de Frankenstein inspiraba esa frankenfobia que exigió una ética para las máquinas, capaz de defender a los seres humanos frente a sus posibles perjuicios, pero sobre todo capaz también de extraer los grandes beneficios que pueden aportar los sistemas inteligentes cuando se toman como instrumentos al servicio de los seres humanos y de una sostenibilidad justa de la naturaleza.
En el extremo contrario, los entusiastas de la revolución 4.0 aseguraron que la IA ayudaría a resolver los problemas de la vida cotidiana, introduciendo la magia de los algoritmos para tomar decisiones en todos los ámbitos de la vida social, incluso dejando esas decisiones en sus manos, sustituyendo los débiles cerebros humanos por la fuerza de la computación o la conectividad.
Y, yendo aún más allá, un buen número de tecnocientíficos aseguraron que acabaremos con la enfermedad, la vejez y la muerte. Que, incorporando valores morales a las máquinas, como el amor, la compasión y la solidaridad, crearemos una nueva especie superior a la humana conocida. Un mundo de paz y felicidad, que pondrá fin al reinado del Homo sapiens, a la época del Antropoceno, marcada por las guerras y la depredación de la naturaleza.
¿Esta segunda opción merece el nombre de «ética» o el de «ideología»? ¿No se está calificando como ciencia lo que no lo es para atraer suculentas inversiones, conformar las mentalidades e incluso ganar en la competencia por el poder mundial?
El primer deber de una ética de la ciencia es no engañar.
Por desgracia, desde ese afán de veracidad nos encontramos con un obstáculo difícilmente salvable, planteado por la estructura misma de las plataformas, las redes y los algoritmos que nacen de esta nueva revolución. la gran pregunta ética es siempre ¿hacia dónde queremos ir?, ¿cuál es la brújula que debe orientar la construcción de mapas de carreteras que habrán de ir cambiando con el tiempo necesariamente?
Somos los seres humanos quienes tenemos capacidad de dialogar y decidir hoy por hoy, pero tomar decisiones conjuntas implica hacerlo desde un «nosotros» sin exclusiones, que, valiéndose de los sistemas inteligentes, busque las respuestas adecuadas. Sin embargo, el aumento de la conectividad, gracias a las redes, que debería llevarnos a poder decidir conjuntamente, deliberando, qué queremos hacer de nuestro futuro, no mejora la comunicación veraz. Por el contrario, triunfa una vez más la razón estratégica, que pasa a ocupar todo el espacio público, y se produce el eclipse de la razón comunicativa. Es ésta una pésima noticia si queremos fortalecer la democracia, que es una tarea urgente, porque está en peligro en el ámbito mundial. Y, por supuesto, en España, Europa e Hispanoamérica.
Naturalmente este libro se ha escrito en diálogo con una buena cantidad de colegas y amigos, a los que agradezco su valiosa cooperación. No puedo mencionarlos a todos, claro está, pero sería una palmaria injusticia no dar las gracias muy especialmente, una vez más, a Martha Rodríguez Coronel por su ayuda tan cordial como eficiente.
Valencia, abril de 2024
En el tricentenario del nacimiento
de Immanuel Kant
VER+:
