La humanidad va de asombro en asombro por el vertiginoso avance de la tecnología, al punto que queda poco espacio para una reflexión serena sobre sus implicaciones éticas y morales. Lo propio de la Iglesia es ofrecer luz desde la moral, la ética y el humanismo cristiano sobre estas nuevas realidades, por eso recurrimos al Padre Román Ángel Pardo Manrique, Vicedecano y Profesor de Teología Moral en la Facultad de Teología de la Universidad Pontificia de Salamanca, en España, para analizar juntos la que promete ser punta de lanza de una nueva era en la historia de la humanidad: la Inteligencia Artificial.
Padre, hoy hablamos de Inteligencia Artificial (IA), comencemos por ese término, ¿es posible desde el punto de vista ético hablar de Inteligencia Artificial?
Para el pensamiento clásico griego, el origen de la filosofía y el comienzo del pensar y del saber se comprenden en la capacidad que el ser humano tiene por dejarse sorprender por lo que le rodea, de modo que así se acerca a la verdad, al bien y a la belleza. Pero démonos cuenta de que el asombro se produce principalmente ante lo “dado”, ante el “don” que se descubre y se recibe en las relaciones con lo trascendente, con los otros hombres, con la naturaleza y con uno mismo. Pero también se produce el asombro ante lo que uno realiza con su propio actuar, es decir, “`lo otro´ fabricado por los hombres” que es -dentro de la acción humana- lo que se conoce con el nombre de poiesis. Pero la acción humana tiene una parte más importante -diríamos que “lo formal-lo que da sentido y significado”- lo que se conoce como praxis, es decir: todo lo que yo hago repercute en mí, en mi interioridad, en mi hacerme mejor ciudadano, en ser más virtuoso, en florecer como ser humano, en acercarme a mi fin o, por el contrario, en truncar posibilidades de mi excelencia o mejora virtuosa. Esto es posible porque en toda la acción humana hay una dimensión que reconocemos con el término de ética, aquello que al hacerlo desde la libertad es acorde con la realidad de ser humano en perfeccionamiento hacia su plenitud, de lo que se deduce la responsabilidad de sus acciones.
Por su parte, la inteligencia artificial es un término que hemos ido asumiendo y se refiere al desarrollo tecnológico de los sistemas informáticos actuales que pueden llegar a ser tan perfectos que -con un uso metafórico del lenguaje- pueden parecer -en vez de un perfeccionamiento cada vez más rápido y exacto del “procesamiento complejo de la información”- como verdaderas “Inteligencias Artificiales” que potencian las capacidades humanas a niveles insospechados. Ahora bien, es bueno recordar que el origen de esta categoría fue en un Congreso científico realizado en la ciudad de Darmouth en 1956, el tema tratado era la posibilidad de hacer máquinas que pudieran ser programadas para simular cualquier proceso de aprendizaje e inteligente. Después de buscar un modo de describir con el lenguaje esa posibilidad futura se optó por usar el término propuesto por el organizador del evento, John McCarthy, que no era otro que el de “Inteligencia Artificial”, ya que era una categoría mucho más efectista. Ya unos pocos años antes, Alan Turing, considerado padre de la “Inteligencia artificial”, en un artículo de 1950 que llevaba por título Computing Machinery and Intelligence, se planteó si las máquinas pueden pensar, y afirmó: “creo que a finales de siglo, el uso de las palabras y de la opinión educada en general, habrán cambiado tanto que uno podrá hablar de máquinas pensantes sin esperar ser contradicho”.
Una vez expuestas estas coordenadas; creo que debemos descubrir la falacia que se produce en la metáfora de “Inteligencia Artificial”. La inteligencia es por definición una cualidad propia del individuo de una clase determinada natural de especie que es el ser humano, la supuesta Inteligencia Artificial realiza una serie de procesos de banco de datos (Big Data) digitalmente a una velocidad difícil de calcular, pero siempre medible, siempre traducibles a lenguaje algorítmico…; al contrario de la inteligencia humana, cuya velocidad es infinita, ya que como ha destacado el antropólogo Jacinto Choza: a lo inmaterial le corresponde la velocidad infinita en su actividad propia y, por tanto, no es simplemente medible, ya que la inteligencia humana no solo son procesos, combinaciones, juegos de información, lógica proposicional, etc., sino que es vida, es más, es organismo vivo, es fecundidad, es creatividad, es libertad, es amor, es sentimientos, es social; por tanto, no se queda en un mero mantenerse, en simples resultados procedentes del análisis de la información y del pensamiento lógico. Frente a la llamada Inteligencia Artificial, el ser humano es un “sistema abierto”, con soluciones insospechadas e imponderables a los problemas más sencillos; por poner un ejemplo, el ser humano -con propiedad- tiene un cuerpo, pero un ordenador no es capaz de tomar conciencia de ello, dicho de otro modo más técnico: “en algunas funciones la neurona sobrepasa a todos los elementos electrónicos de conexión conocidos, y necesita mucho menos espacio y energía de mantenimiento. Solo en cuanto a la velocidad funcional es inferior a los elementos electrónicos” (K. Steinbuch, Principios de una antropología cibernética). De muchas de estas cuestiones -tan interesantes- podemos encontrar un buen resumen en el artículo del profesor Miguel Acosta titulado: La cibernética del ser vivo y de la máquina.
Por lo tanto, después de estas consideraciones, creo que ahora se puede observar toda la cuestión antropológica que está detrás, así como las diferencias sobre el modo de comprender la Inteligencia Artificial de un modo u otro, así como sus consecuencias. Además, con los fines con los que se quiera usar, son cuestiones que necesariamente interpelan a la ética e incluso, como se puede observar, el mismo término y su significado tiene unas opciones y consecuencias éticas a tener en cuenta.
¿Cuáles son los principios y valores sobre los que debería de fundamentarse el desarrollo de la IA?
Creo que fundamentalmente los clásicos que fundamenta y rigen la ética que sigue creyendo en la posibilidad de que el sujeto moral sea capaz de acercarse a la verdad, de conocer el bien y de adherirse a él. Sin ánimo de ser exhaustivo destacaría los siguientes principios y valores: la dignidad y primacía de la persona humana; la consecución del bien común por encima de los intereses particulares, muchas veces de dinero, fama y poder; la defensa de la libertad humana personal y comunitaria, puesta en riesgo por la posible manipulación, por ejemplo, desde las grandes empresas tecnológicas y digitales, pero también de gobiernos y lobbies de poder y de influencia, a través de la información que nosotros mismos damos con nuestra “huella digital”, animándonos a realizar ciertas acciones (nudge=empujar a algo) o influyéndonos con incentivos que nos son agradables y hemos dejado que sean conocidos (sesgo=discriminación); la defensa de la igualdad y la justicia; el evitar que el uso de la Inteligencia Artificial produzca alienaciones sociales y personales en la actividad humana, especialmente en el mundo del trabajo y en el ejercicio del poder, entendido este último no como un “gran hermano” que nos vigila, sino como servicio a la sociedad y a la humanidad.
“La Iglesia debe estar siempre atenta a los “signos de los tiempos” si quiere seguir siendo reconocida, o por lo menos proclamar que es “experta en humanidad”. Eso implica también abrir bien los ojos en los campos biotecnológicos y digitales más punteros, entre ellos la Inteligencia Artificial”.
Román Ángel Pardo Manrique
Profesor de Teología Moral, Universidad Pontificia de Salamanca.
Con la Inteligencia Artificial cruzamos ya a un campo que ha sido llamado el transhumanismo, ¿cómo podríamos definir este movimiento cultural o de pensamiento?
El transhumanismo se está convirtiendo en una verdadera religión que va haciendo proselitismo de fieles que ponen su fe en una salvación que les permite romper los límites que han recibido por la naturaleza. En el fondo, es una objetivación y cosificación del ser humano proponiendo una salvación intrahistórica, intramaterial e intrahumana. Sus raíces las encontramos en el intento ya arcano-alquímico del hombre que quiere ser Dios y crea el homonculus. Experiencialmente -desde la existencia- se trata de un abandonarse en las manos de la técnica y la ciencia empírica, olvidando el humanismo propio del ser humano que reconoce siempre que no todo lo que es posible técnicamente es ético, porque no todo es bueno. Es la búsqueda del perfeccionamiento del ser humano -sin trabas morales y religiosas a la ingeniería genética y a la biotecnología-, olvidando, como dice la Instrucción Vaticana Donum vitae que el hombre no es un derecho (en este contexto en el que nos encontramos: objeto al que se tiene derecho y manipulable) es un don. Es decir, tampoco es un objeto, ni es un ser de dominio, sino un ser-don que debe ser custodiado en su dignidad más profunda. Para los cristianos, además, hay más razones para vivir siempre desde la virtud de la esperanza ya que el ser humano es “imagen y semana de Dios” en “iconalidad con Jesucristo”, “el viviente”, “el vencedor de la muerte”, “el resucitado”.
En cuanto su iter ideológico, podemos decir, que el transhumanismo es la fase final del proceso de poshumanismo que pretende superar todas las supuestas limitaciones del ser humano; significa llegar a la superación de la muerte, de la enfermedad, de la ignorancia, del dolor. Pero desde el interior del propio hombre que se quiere superar, casi podemos identificarlo mitológicamente con Saturno devorando a sus hijos, comiendo su propia carne. Para ello, el transhumanismo pone su esperanza en los avances tecnológicos y, con ellos, en lo más extremo, proclama el triunfo de una nueva especie, el cyborg.
Se ha acuñado un nuevo término, la “Algor-ética”, para designar la necesidad de una comprensión ética del mundo de los algoritmos, ¿lo conoce?, ¿ve que sea viable frente a los enormes intereses económicos, políticos e ideológicos en juego?
El abuso de la Inteligencia Artificial, desarrollada sin ninguna relación a la reflexión ética y a la filosofía moral política puede conllevar una serie de consecuencias a tener en cuenta; las cuales se deben pensar, también, desde la filosofía de la tecnología, de la filosofía moral positiva y de la teología moral, ya que la Inteligencia Artificial, igual que los nuevos poderes de la biotecnología en general, nos obligan a afrontar cuestiones que el ideario moderno ha perdido de vista en gran medida: “se tratan de cuestiones relativas al estatus moral de la naturaleza y a la actitud que deberían adoptar los seres humanos hacia el mundo que les ha sido dado. En la medida en que esas cuestiones bordean la teología, los filósofos y los teóricos políticos modernos tienden a evitarlas” (M. Sandel, Contra la perfección). Sin olvidar nunca la cuestión antropológica como vamos intentando subrayar.
Más en concreto, los algoritmos digitales permiten dar respuestas a tiempo real a problemas e investigaciones que se quieran plantear o realizar. Pero, para empezar, podemos partir de la siguiente afirmación: los sistemas algorítmicos no son perfectos, también existe en ellos la falibilidad. El autor Mark Coeckelbergh, uno de los máximos eticistas sobre Inteligencia Artificial, comienza su libro La filosofía política de la inteligencia Artificial con un capítulo titulado: Sospecho que el ordenador se equivocó; no olvidemos que la Inteligencia Artificial es un producto humano y está elaborada por hombres principalmente de raza blanca; sin embargo, el capítulo que estamos evocando se refiere a un error en la identificación por las cámaras de seguridad de un supuesto delincuente de raza negra que fue detenido en su domicilio y que terminó por no ser el culpable. El caso es muy claro, el sistema de reconocimiento facial que usa la Inteligencia Artificial tiene ciertos fallos en los resultados de los algoritmos de reconocimiento facial, los cuales funcionan mejor en rostros blancos y que, por tanto, están más bien sesgados, de tal modo que en otras razas se pueden producir falsos positivos. Dicho lo cual, el sistema de algoritmos puede implicar limitaciones para la autonomía, así como la tentación de instaurar “grandes hermanos vigilantes de la sociedad” que bajo capa de cierto paternalismo se convierten en verdaderos totalitarismos, incluso nos puede llevar al cuestionamiento legítimo de si nuestras supuestas democracias no están dirigidas. En definitiva, la algor-ética deberá estar muy atenta a que no se produzcan, desde las limitaciones de los algoritmos, conculcaciones de los derechos humanos, quebrantos de la privacidad, consecuencias racistas, desigualdades, injusticias, abusos de poder, manipulación, amenazas a los recursos planetarios y al medioambiente, etc. En cuanto a las desigualdades caben subrayar las que se pueden producir a nivel internacional, ya que los países que lideren la carrera tecnológica de la Inteligencia Artificial tendrán muchas mayores posibilidades de producción y competitividad. Habrá que estar atento para que todo este avance tecnológico no esté en las manos de unos pocos empresarios privados o Estados, ya que el desarrollo de esta tecnología no para de avanzar y de modificar nuestras vidas, también el tipo de puestos de trabajo del futuro.
Sabiendo que no es la tecnología como tal la que es buena o mala, sino el uso que se le da, ¿A qué nos enfrentamos cuando pensamos por ejemplo en la IA aplicada al campo de la guerra, la manipulación genética o la definición del valor de la vida?
Ya san Isidoro de Sevilla en el siglo VII nos recordaba que el mal moral, el pecado, se encuentra no el uso, sino en el abuso de las cosas. Creo que ya hemos venido respondiendo, en gran medida, a esta pregunta en las anteriores. Sin embargo, yo destacaría el uso de la Inteligencia Artificial en la guerra y, más en concreto, en la alianza entre la nanotecnología militar y la Inteligencia Artificial. En mi opinión, el uso de estos avances tecnológicos en el campo de la gestión de la violencia debe estar siempre medido por la consideración de lo que clásicamente se ha conocido como doctrina de la “guerra justa”, que nos remite a la legítima defensa y -sobre todo- a la defensa de la gente inocente. Se trata de una tradición teológica que comienza en san Agustín y continua en santo Tomás de Aquino y que sitúa -sorprendentemente- este uso de la fuerza en el contexto de la caridad y en el sentido cristiano del amor, lo que lleva -incluso actualmente- a la posibilidad de la intervención humanitaria cuando se conculcan los derechos humanos y se producen abominables genocidios.
Ciertamente que la selección del enemigo a batir es importante y que la nanotecnología y los resultados algorítmicos pueden facilitarlo y dar mayor seguridad de centrar el objetivo, pero plantean otras dudas éticas: por muy desarrollada que esté la máquina ¿podrá compadecerse ante una mujer que llora o un niño que está armado, quizá ya derrotado, pero paralizado por el miedo? o ¿permitirá que en un futuro alguien se intercambie por otro prisionero como San Maximiliano Kolbe?; por otra parte, ¿qué ocurrirá si una máquina se “encasquilla” en su programación? No en vano también será un objetivo a batir y se la puede dañar, pero cómo funcionará y qué errores podrá producir con su sistema operativo deteriorado.
Las nano-armas y su uso para la seguridad, así como la Inteligencia Artificial, también, pueden poner en peligro esa 4ª libertad que reclamaban Churchill y Roosevelt en 1949 que es la de estar libre de miedo. Dicho de otro modo, las posibilidades de un estado policial o las consecuencias de una guerra fría serían potenciadas.
¿Cuáles otras objeciones desde el punto de vista ético y moral se plantean hoy al desarrollo de la Inteligencia Artificial?
La lista puede ser muy larga, después de haber hecho referencia a varias cuestiones en las preguntas anteriores creo que no se debe olvidar que el desarrollo de la Inteligencia Artificial implica un cambio de época, donde lo fundamental seguirá siendo preguntarse sobre qué es el ser humano, cuál es el sentido de su vida y en qué consiste y se fundamenta su dignidad. Al fin y al cabo, las cuestiones fundamentales sobre el hombre, la mujer, la sociedad y el sentido de la vida personal y comunitaria son las que siempre importan; son en ellas donde nos jugamos lo sustantivo.
Desde el punto de vista del humanismo cristiano, ¿cómo roza el desarrollo actual y el previsto de la IA con nuestra fe?
Me vienen a la cabeza dos textos evangélicos: “Dar al César lo que es del César y a Dios lo que es de Dios” y “El sábado se hizo para el hombre y no el hombre para el sábado; así que el Hijo del hombre es señor también del sábado”. Y el Salmo 2: Tú eres mi hijo, yo te he engendrado hoy. Es decir, la clave está en poner a Dios en el centro de nuestras relaciones constitutivas, para que todo esté en su justo orden (ordo amoris agustiniano), también el desarrollo de la Inteligencia Artificial. En cambio, si nos olvidamos de Dios o vivimos como si Dios no existiera posiblemente al ser humano no le queda ninguna defensa última a la que recurrir.
“La clave está en poner a Dios en el centro de nuestras relaciones constitutivas, para que todo esté en su justo orden, también el desarrollo de la Inteligencia Artificial”.
Hay un rezago evidente de reflexión política y de legislación sobre la IA a nivel global, ¿cómo llenar este vacío?, ¿deberían los gobiernos prestar más atención a estos avances tecnológicos tan determinantes?
Ante la complejidad de la vida social contemporánea conviene estar siempre en estado de excepción. Por otra parte, debemos detectar varias “heterocronías” que se producen en las distintas facetas de la vida. Me explico, la velocidad con la que experimentan el paso del tiempo los mayores es mucho más rápida que la de los jóvenes, aunque el tiempo trascurrido sea el mismo. Del mismo modo, la velocidad de los avances científicos es tan rápida que no da tiempo a actualizar ni la moral ni el derecho a la misma velocidad, por tanto, es necesario que los que tienen responsabilidades públicas -y no sólo en la vida política de primer orden, sino también en la sociedad civil- se impongan la necesidad de estar siempre en estado de vigilancia ante los desajustes éticos que en tantas dimensiones de la vida actual se pueden producir.
Por otra parte, la “Doctrina Social de la Iglesia” ha reclamado -desde los últimos papas- la conveniencia de la creación de una Autoridad Mundial que sea reconocida por todos los países, de tal modo que salvaguarde -por lo memos- los derechos humanos, aunque, mejor aún si fuera capaz de defender y propagar el convencimiento de la necesidad de reconocer un bien común constitutivo que nos oriente y nos vincule virtuosamente, hacia nuestra plenitud como humanidad, lo que antiguamente era reconocido como “ley natural”.
¿Cuál debería ser una posición fundamentada y responsable de parte de la Iglesia frente al desafío que supone el desarrollo de la IA?
La Iglesia debe estar siempre atenta a los “signos de los tiempos” si quiere seguir siendo reconocida, o por lo menos proclamar que es “experta en humanidad”. Eso implica también abrir bien los ojos en los campos biotecnológicos y digitales más punteros, entre ellos la Inteligencia Artificial. La Iglesia debe ver, escrutar, discernir, juzgar, dar luz, proponer e invitar a la conversión desde los valores del Reino de Dios y los principios de la Doctrina Social de la Iglesia. Esto implica dedicar tiempo, estudiar, analizar, sintetizar, abrir horizontes de posibles soluciones a través del diálogo y del debate compartido y promovido. En el fondo, se trata de concretar lo dicho por san Pablo VI en Octogesima adveniens nº 4: donde se nos dice bellamente que la Iglesia no tiene soluciones exclusivas y perfectas para los dilemas sociales que nos incumben, pero, sin embargo, a la luz del evangelio está llamada a iluminar todas las problemáticas humanas, favoreciendo el juicio crítico en cada cuestión, animando a la transformación de la sociedad, especialmente a remover las injusticias existentes. Como puede observarse, este número -perteneciente al discurso social de la Iglesia- puede perfectamente aplicarse a las problemáticas que surgen en torno a la llamada Inteligencia Artificial, invitándonos a Ver, Juzgar y Actuar. No cabe duda que nos encontramos en un ámbito propio de la nueva evangelización que reclama, a su vez, una evangelización nueva.
Una última consideración, como decíamos más arriba, hay que diferenciar el uso del abuso, el buen uso de la Inteligencia Artificial produce grandes avances tecnológicos y numerosas posibilidades en el campo de la biotecnología, de la predicción de enfermedades, en la sanidad y en las operaciones quirúrgicas hasta el momento inimaginables, todo ello es digno de alabanza, incluso como acaban de señalar los obispos europeos que configuran la COMECE (Comisión de las Conferencias Episcopales de la Comunidad Europea): la Inteligencia Artificial tiene muchas posibilidades positivas en orden a “trasformar labores repetitivas o peligrosas y aumentar los márgenes de beneficios, de modo que pueda haber una mayor redistribución de la riqueza”, de nuevo estaremos en manos de la ética, pero tampoco podemos quedarnos en ser -como denunciaba san Juan XXIII- “profetas de calamidades”.
Infórmese primero con una suscripción digital. Ingrese en este enlace y conozca nuestros cómodos planes.
