1. Planteamiento: una nueva cuestión social
La encíclica Magnifica Humanitas sitúa a la humanidad ante una encrucijada histórica marcada por la digitalización, la robótica y, de manera especial, la inteligencia artificial (IA). Su punto de partida no es una condena de la técnica, ni una desconfianza genérica hacia el progreso científico, sino una llamada a discernir qué tipo de mundo se está construyendo con los nuevos instrumentos tecnológicos.
La técnica aparece reconocida como una realidad profundamente humana, vinculada a la libertad, a la creatividad y a la capacidad del ser humano para transformar su entorno. Sin embargo, la encíclica advierte que el progreso técnico no puede ser identificado automáticamente con progreso humano. Una sociedad puede disponer de más medios, más velocidad, más capacidad de cálculo y más poder de intervención sobre la realidad y, al mismo tiempo, empobrecer su comprensión de la persona, debilitar sus vínculos comunitarios o ampliar las desigualdades existentes.
La IA constituye una de las grandes “cosas nuevas” de nuestro tiempo. Así como la revolución industrial obligó a la Iglesia a pensar sobre la cuestión obrera, el salario, la propiedad, el trabajo y la justicia social; la revolución digital exige hoy una reflexión equivalente sobre los datos, los algoritmos, la automatización, la concentración de poder, la libertad personal, la comunicación pública, la verdad y el sentido mismo de lo humano. En definitiva, se trata de una transformación que afecta a la antropología, la economía, la política, la educación, la cultura, la paz e, incluso, la vida espiritual.
Para expresar la profundidad de esta elección, la encíclica utiliza dos imágenes bíblicas: la torre de Babel y la reconstrucción de Jerusalén por Nehemías. Babel simboliza la tentación de un poder autosuficiente, homogéneo, vertical y dominador, que pretende organizar la vida desde la lógica de la eficacia y del control. Jerusalén, en cambio, representa una reconstrucción comunitaria, paciente, plural y orientada al bien común. Esta contraposición permite comprender la tesis principal del texto: la cuestión decisiva no es si la IA debe existir o no, sino si será incorporada a una cultura de dominio o a una cultura de comunión. La tecnología puede curar, educar, conectar y facilitar la vida, pero también puede dividir, descartar, manipular, excluir y concentrar poder. Por ello, la primera decisión no es técnica, sino moral y social.
Se insiste en que la IA no es neutral en su uso concreto. Aunque una herramienta pueda parecer formalmente neutra, todo sistema técnico refleja decisiones previas: qué datos se recogen, qué objetivos se optimizan, qué variables se consideran relevantes, qué riesgos se toleran, qué intereses se priorizan y qué personas quedan dentro o fuera de sus cálculos. La tecnología “toma el rostro” de quienes la conciben, financian, regulan y utilizan. Esta afirmación es esencial porque impide refugiarse en una visión ingenua de la innovación. La IA no es simplemente una máquina que ejecuta; es también una infraestructura cultural, económica y política que puede configurar decisiones humanas a gran escala.
Desde esta perspectiva, la IA debe ser evaluada desde la dignidad de la persona, el bien común, el destino universal de los bienes, la subsidiariedad, la solidaridad, la justicia social, la verdad, la libertad y la paz. La encíclica no pide miedo ni inmovilismo. Pide prudencia, responsabilidad y una orientación ética del progreso. Su preocupación no es frenar la historia, sino impedir que la historia sea gobernada por lógicas de lucro, eficiencia, vigilancia o dominación.
2. La dignidad humana como criterio principal
El fundamento de toda la reflexión es la dignidad inalienable de la persona. La encíclica recuerda que, para la visión cristiana, el ser humano no vale por su productividad, por su inteligencia funcional, por su utilidad económica, por su rendimiento o por su capacidad de adaptación a los sistemas técnicos. Su dignidad precede a cualquier cálculo y no puede ser medida por criterios de eficiencia. Esta afirmación adquiere una relevancia especial en la era de la IA, porque los sistemas algorítmicos tienden a clasificar, perfilar, predecir y ordenar comportamientos humanos a partir de datos. El riesgo consiste en que la persona sea reducida a un perfil, a una probabilidad, a una puntuación, a un consumidor, a un riesgo o a un coste.
Es preciso contraponer esta reducción a la idea de dignidad ontológica. La persona posee un valor que no depende de su estado de salud, edad, capacidad cognitiva, posición social o utilidad. En consecuencia, cualquier tecnología que afecte a la vida humana debe ser valorada desde esta pregunta: ¿reconoce a la persona como fin en sí misma o la convierte en medio para lograr otros fines? Esta cuestión atraviesa todo el texto y resulta especialmente importante en ámbitos como la selección de personal, la concesión de crédito, el acceso a servicios, la educación, la vigilancia, la sanidad, la comunicación política y la seguridad.
Cabe advertir contra una cultura que atribuye mayor valor a quienes son más eficientes, más productivos o más rentables. Esa lógica puede parecer moderna, pero encierra una forma de deshumanización. Si una sociedad adopta sistemas de IA que premian únicamente la eficiencia, puede terminar normalizando la exclusión de quienes no encajan en los estándares dominantes: ancianos, personas enfermas, trabajadores menos cualificados, migrantes, pobres, niños, personas con discapacidad o comunidades con menor presencia digital. Recuerda que el progreso debe medirse por su capacidad de custodiar la dignidad de todos, no solo por su capacidad de producir resultados rápidos.
Por ello, la IA debe estar sometida a un principio de primacía humana. La inteligencia humana, con conciencia, libertad, responsabilidad, memoria, afectividad y apertura moral, debe guiar la innovación técnica y establecer sus límites. El documento no niega la potencia de la IA, pero rechaza que esa potencia pueda sustituir el juicio humano. La máquina puede procesar datos, generar patrones, producir textos, simular respuestas y optimizar procesos, pero no puede asumir responsabilidad moral.
3. La IA no es inteligencia humana
Uno de los apartados más importantes de la encíclica es la distinción entre IA e inteligencia humana. Reconoce que no resulta sencillo ofrecer una definición cerrada de IA, precisamente porque estos sistemas evolucionan con enorme rapidez e, incluso, sus diseñadores no siempre conocen, por completo, el funcionamiento interno de los modelos más avanzados. Señala que las IA modernas están más “cultivadas” que “construidas”: no se programa cada detalle de su respuesta, sino que se crean arquitecturas que aprenden a partir de datos y retroalimentaciones.
Sin embargo, esa complejidad no autoriza a confundirlas con la inteligencia humana. Los sistemas de IA imitan nuestras funciones y pueden superar a las personas en velocidad, amplitud de cálculo y tratamiento de información. Pero su operatividad permanece ligada al procesamiento de datos. No viven una experiencia, no poseen cuerpo, no padecen alegría ni dolor, no maduran en relaciones, no conocen, desde dentro, lo que significa el trabajo, el perdón, el fracaso o la responsabilidad. Tampoco tienen conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones y no cargan con las consecuencias de sus decisiones.
Esta distinción es central porque afecta a la manera en que la sociedad debe relacionarse con la IA. Si se presenta como un sujeto personal, se corre el riesgo de atribuirle una autoridad que no posee. La IA puede parecer objetiva, prudente o empática, pero esas apariencias son simulaciones funcionales. Puede generar lenguaje de apoyo, consejo o compañía; sin embargo, no hay en ella una interioridad que escuche o responda moralmente. Esta precisión no pretende negar su utilidad, sino evitar una confusión antropológica: la persona no es reducible a lenguaje, cálculo o respuesta eficiente.
La encíclica identifica tres riesgos en el uso personal de la IA. El primero es la facilidad del resultado. Al permitir obtener respuestas inmediatas, textos elaborados, indicaciones prácticas o contenidos complejos en pocos segundos, se corre el riesgo de acostumbrar al usuario a delegar demasiado, debilitando el juicio personal, la paciencia intelectual y la creatividad. El segundo es la impresión de objetividad. Las respuestas generadas pueden parecer neutrales, pero reflejan los datos, parámetros, valores y límites de quienes han diseñado, entrenado y ajustado los sistemas. El tercero es la simulación de comunicación humana. Cuando la IA imita palabras de empatía o cuidado, puede resultar útil en algunos contextos, pero también puede inducir a engaño. El peligro mayor no es únicamente creer que se habla con una persona, sino perder progresivamente el deseo de buscar al otro real.
4. Poder digital, concentración económica y gobernanza
La encíclica presta especial atención a la concentración de poder en el ecosistema digital. A diferencia de otras etapas históricas, en las que la innovación técnica dependía en gran medida de los Estados, hoy los principales motores del desarrollo tecnológico son actores privados transnacionales, con recursos económicos, infraestructuras, datos y capacidad operativa superiores a los de muchos gobiernos. Esta situación genera un poder difícil de discernir, gobernar y orientar hacia el bien común.
Subraya que, en el mundo digital, el poder no se ejerce únicamente mediante leyes o prohibiciones explícitas. También mediante arquitecturas de visibilidad: qué aparece, qué se oculta, qué se amplifica, qué se penaliza, qué contenidos circulan, qué perfiles son favorecidos, qué voces quedan fuera y qué comportamientos son recompensados. Plataformas, algoritmos y sistemas de IA pueden condicionar la participación social, el consumo, la reputación, las oportunidades económicas y el debate público. Cuando estos procesos quedan concentrados en pocas manos, se incrementa el riesgo de opacidad, manipulación, dependencia y desigualdad.
En este sentido sostiene que la subsidiariedad adquiere aquí una nueva actualidad. Tradicionalmente, este principio exige que las decisiones se tomen en el nivel más cercano posible a las personas afectadas, evitando que instancias superiores absorban, indebidamente, la iniciativa de individuos, familias, comunidades o asociaciones. En el contexto digital, la instancia superior no siempre es el Estado; muchas veces es una plataforma, una empresa tecnológica o un conjunto de actores económicos capaces de imponer reglas de acceso, visibilidad, intercambio y decisión. Por eso, la subsidiariedad exige transparencia algorítmica, auditorías independientes, vías de apelación, acceso equitativo a los datos y participación real de las comunidades afectadas.
Esta preocupación conduce a otra de las tesis más fuertes del texto: los datos no pueden quedar confiados exclusivamente al sector privado. Todos ellos son fruto del aporte de muchas personas y comunidades. Por tanto, no deben ser tratados únicamente como propiedad de quienes tienen capacidad técnica para capturarlos, procesarlos y monetizarlos, sino que cabe pensarlos, en determinados ámbitos, como bienes comunes o colectivos. Esta idea resulta especialmente relevante para los datos sanitarios, educativos, laborales, urbanos, ambientales o administrativos, cuyo uso puede afectar a derechos fundamentales y a bienes públicos.
No es que proponga una estatización simple de la tecnología, pero sí reclama una gobernanza plural. Los Estados y las instituciones supranacionales deben garantizar reglas justas y mecanismos de protección eficaces. Las comunidades locales, las escuelas, las Universidades, las familias y las organizaciones sociales, deben poder participar en el discernimiento de las decisiones que afectan a su vida. El criterio de fondo es que la IA no debe diseñarse desde arriba y después ser impuesta a usuarios pasivos. Ha de estar abierta a control, deliberación, corrección y responsabilidad.
5. Responsabilidad, transparencia y control democrático
Magnifica Humanitas es especialmente clara al afirmar que no basta invocar la ética de forma genérica. En materia de IA, las buenas intenciones resultan insuficientes si no se traducen en marcos jurídicos, controles independientes, educación de los usuarios y responsabilidad política. La velocidad del desarrollo tecnológico supera, a menudo, el ritmo de maduración de la conciencia social, de las normas, de las instituciones y de los mecanismos de supervisión. Por ello, la prudencia puede exigir, en algunos casos, ralentizar la adopción de ciertos sistemas. Esta ralentización no equivale a rechazo del progreso, sino a cuidado responsable de la familia humana.
La responsabilidad debe estar presente en todas las fases: diseño, entrenamiento, despliegue, uso, supervisión y reparación. Cuando un algoritmo participa en decisiones que afectan al empleo, al crédito, a la educación, a la atención sanitaria, a la seguridad, a la reputación o al acceso a servicios esenciales, la persona afectada debe poder comprender, cuestionar y recurrir esa decisión. De aquí que se rechace cualquier sistema que oculte la responsabilidad detrás de la opacidad técnica. No puede aceptarse que una decisión injusta quede sin responsable porque “la tomó el algoritmo”.
La transparencia no significa, necesariamente, revelar todos los detalles técnicos de un modelo, pero sí garantizar una explicación suficiente, trazabilidad, control externo, evaluación de impacto y posibilidad real de impugnación. Y es que una persona no puede quedar reducida a un perfil estadístico que decida sobre su vida sin ofrecer razones comprensibles. Esta idea tiene consecuencias prácticas inmediatas para Administraciones públicas, empresas, entidades financieras, servicios sociales, centros educativos y plataformas digitales.
También resulta decisiva la cuestión de los valores incorporados a los sistemas. Hemos de rechazar una visión superficial de la “alineación” de la IA con valores humanos. La pregunta no es sólo si la IA será alineada con valores, sino quién los define, con qué legitimidad, bajo qué criterios y con qué mecanismos de revisión pública. Una IA “más moral” puede ser peligrosa si la que incorpora ha sido decidida por unos pocos actores privados, ideológicos o económicos. Por ello, sea hace preciso reclamar una deliberación social sobre los códigos éticos que orientan los sistemas, sometiéndolos a criterios de justicia compartida.
De ahí surge una expresión especialmente significativa: “desarmar la IA”. La encíclica no utiliza esta idea para pedir la eliminación de la tecnología, sino para sustraerla a la lógica de la carrera armamentística, económica y cognitiva. Significa romper la equivalencia entre poder tecnológico y derecho a gobernar; impedir que quien posee más datos, más infraestructura y más capacidad de cálculo imponga automáticamente las reglas de la vida común; así como devolver la tecnología al ámbito de la responsabilidad pública, la deliberación democrática y el bien común.
6. Verdad, comunicación pública y democracia
La encíclica dedica una parte relevante a la relación entre IA, verdad y comunicación pública. Las plataformas digitales y los sistemas de IA han acelerado cambios profundos en el modo en que se produce, distribuye y recibe la información. Sin duda, estas herramientas favorecen el debate, la participación y el acceso al conocimiento, pero también pueden ser utilizadas para construir narrativas sesgadas, difuminar los límites entre lo verdadero y lo falso, mezclar datos con opiniones y manipular imágenes, vídeos o contenidos informativos.
La desinformación no nace con la IA, pero ella actúa como multiplicador. Su capacidad para producir contenidos verosímiles, personalizados, masivos y difíciles de distinguir de los auténticos, introduce una vulnerabilidad nueva en la vida democrática. Cuando la ciudadanía no puede identificar con claridad qué es real, qué es manipulado, qué es propaganda o qué es simulación, se debilitan las condiciones básicas del debate público. La confianza social queda erosionada y la democracia pierde uno de sus presupuestos fundamentales: la posibilidad de deliberar sobre hechos compartidos.
La verdad es un bien común, de aquí que no puede quedar subordinada al interés del actor más poderoso. La comunicación pública justa requiere verificación, contraste de fuentes, responsabilidad argumentativa y vínculos de confianza. La información verdadera no surge de un control centralizado ni de una automatización absoluta, sino de prácticas sociales responsables: periodismo serio, educación crítica, instituciones fiables, transparencia de plataformas y ciudadanos capaces de discernir.
Quienes dominan las infraestructuras de comunicación pueden orientar no solo opiniones concretas, sino la comprensión misma del ser humano y del mundo. Esta capacidad no se ejerce siempre de forma explícita; muchas veces actúa mediante recomendaciones, jerarquías de visibilidad, filtros personalizados, contenidos amplificados y entornos de interacción diseñados para retener atención.
La respuesta propuesta es una ecología de la comunicación. Esta expresión implica crear entornos comunicativos sanos, donde la velocidad no destruya la reflexión, donde la emoción no sustituya a la verdad, donde la tecnología no premie sistemáticamente la polarización y donde los ciudadanos puedan acceder a información contrastada. En la era de la IA, la democracia necesita algo más que libertad formal de expresión: necesita condiciones materiales, educativas y tecnológicas para que la conversación pública no sea capturada por manipulación, miedo, ruido o intereses opacos.
7. Educación y formación en la era digital
Magnifica Humanitas vincula la cuestión de la IA con una profunda renovación educativa. No basta con enseñar a usar herramientas digitales. La formación debe ayudar a comprender sus límites, sus riesgos, sus sesgos, sus consecuencias sociales y su impacto sobre la persona. La alfabetización digital no puede reducirse a competencia técnica; debe incluir pensamiento crítico, responsabilidad ética, discernimiento, capacidad de atención, cuidado de la palabra y sentido de la verdad.
La escuela ocupa un lugar central porque es uno de los pocos espacios donde todavía puede cultivarse una relación paciente con el conocimiento. Frente a la cultura de la respuesta inmediata, la educación debe enseñar a preguntar, a leer, a contrastar, a argumentar, a equivocarse, a corregir y a madurar. La IA puede ser una herramienta útil para personalizar aprendizajes, apoyar tareas, ampliar recursos y facilitar determinados procesos. Pero no puede sustituir la relación educativa, porque educar no es únicamente transmitir información; es acompañar el crecimiento de una persona.
Por ello, es preciso evitar dos extremos. El primero sería prohibir o rechazar acríticamente la IA por miedo. El segundo, incorporarla sin discernimiento, como si toda innovación fuera necesariamente positiva. La postura adecuada exige criterios pedagógicos claros. La IA puede ayudar si fortalece la comprensión, la creatividad, la autonomía y la inclusión. Pero perjudica si fomenta dependencia, superficialidad, delegación excesiva, pérdida de memoria, debilitamiento de la escritura o sustitución del esfuerzo intelectual.
En este punto resulta especialmente importante formar también a docentes, familias y responsables educativos. La IA modifica la manera de estudiar, escribir, evaluar y acceder a la información. Por tanto, las instituciones educativas deben actualizar sus métodos sin perder su finalidad principal: formar personas libres, responsables y capaces de buscar la verdad. Una educación adaptada a la era digital no debe estar subordinada a la tecnología, sino debe ser capaz de gobernarla.
En caso de que el acceso a la IA y a la formación digital quede concentrada en élites, aumentará la desigualdad. El destino universal de los bienes exige que la tecnología y la capacitación no sean privilegio de quienes ya tienen recursos. La inclusión digital debe entenderse como una condición de justicia, no como un complemento opcional.
8. Trabajo, economía y justicia social
La cuestión laboral no desaparece con la revolución digital; se transforma. La automatización, la robótica, los algoritmos de gestión, las plataformas y los sistemas de IA pueden mejorar procesos, reducir tareas peligrosas, aumentar productividad y abrir nuevos campos profesionales. Pero también pueden precarizar empleos, sustituir trabajadores, intensificar ritmos, fragmentar trayectorias laborales y concentrar beneficios en pocas manos.
El criterio de valoración no puede ser únicamente la eficiencia. La encíclica recuerda que el trabajo tiene una dimensión personal, social y moral. No es solo fuente de ingresos, sino espacio de dignidad, creatividad, cooperación, responsabilidad y participación en la sociedad. Por ello, una economía que incorpore IA debe preguntarse no solo cuánto produce, sino qué tipo de vida laboral genera, qué empleos destruye, qué oportunidades crea, cómo distribuye los beneficios y qué protección ofrece a quienes quedan desplazados.
Así cabe rechazar confiar exclusivamente en la “mano invisible” del mercado en la era de la IA y la robótica. La política debe orientar las dinámicas económico-tecnológicas hacia el bien común, promoviendo trabajo digno, inclusión social y distribución equitativa de los beneficios de la innovación. Esta afirmación es de gran relevancia, porque sitúa la gobernanza tecnológica dentro de la justicia económica. La IA no puede quedar sometida únicamente a rentabilidad, competencia y reducción de costes.
Por ello, se propone, primero, transparencia y responsabilidad: cuando los datos y algoritmos influyen en créditos, empleo o acceso a oportunidades, las decisiones deben ser comprensibles, cuestionables y controlables. Segundo, inclusión y acceso: los beneficios de la innovación deben ir acompañados de inversiones en competencias, infraestructuras y servicios esenciales, evitando que la tecnología amplíe la brecha social. Tercero, equidad: la fiscalidad, la protección social y las políticas industriales deben corregir los desequilibrios derivados de la concentración de riqueza y poder.
La IA plantea también una cuestión internacional. Muchas decisiones económicas superan las fronteras estatales. Las cadenas de valor, los centros de datos, la extracción de minerales, el entrenamiento de modelos, el comercio de datos y la automatización empresarial tienen efectos globales. De aquí que se hace necesaria cooperación internacional, especialmente en favor de países y grupos vulnerables. La prosperidad tecnológica únicamente puede contribuir a la paz si es generalizada, inclusiva y sostenible.
9. Dependencia, control social y nuevas esclavitudes
Uno de los aspectos más incisivos del texto es la denuncia de nuevas formas de dependencia y sometimiento, vinculadas a la economía digital. Magnifica Humanitas advierte que el control contemporáneo no se ejerce solo mediante coerción directa. También puede producirse mediante diseño de entornos, captura de atención, manipulación de preferencias, vigilancia constante, perfilado de comportamientos y arquitectura de visibilidad. La libertad digital, por tanto, no es únicamente una cuestión interior; requiere normas claras, transparencia, vías de recurso y límites al uso de tecnologías invasivas.
La economía de la atención ocupa un lugar implícito en esta crítica. Cuando las plataformas están diseñadas para maximizar permanencia, interacción o consumo, pueden explotar fragilidades psicológicas y afectivas. La persona deja de ser tratada como sujeto libre y pasa a ser considerada un recurso de datos, tiempo y atención. Esta lógica se vincula con una mentalidad tecnocrática y posthumanista que considera al ser humano como objeto manipulable o recurso optimizable.
Se denuncia, asimismo, el carácter material e invisible de la IA. Aunque sus respuestas parezcan inmediatas y casi mágicas, detrás existen infraestructuras energéticas, recursos naturales, centros de datos, cables, dispositivos, microprocesadores y trabajo humano. La IA no es inmaterial. Su funcionamiento descansa sobre cadenas de extracción, producción, moderación, etiquetado de datos y entrenamiento de modelos. En muchos casos, ese trabajo es realizado por personas mal remuneradas, en condiciones precarias y con escaso reconocimiento social.
Resulta especialmente dura la situación de quienes participan en tareas poco visibles: etiquetado de datos, moderación de contenidos dañinos, entrenamiento de modelos y extracción de materiales necesarios para la tecnología. En algunas regiones, incluso, adolescentes y niños trabajan en condiciones peligrosas para obtener recursos utilizados en dispositivos y componentes. Esta observación desmonta la imagen limpia y abstracta de la IA. Cada sistema técnico tiene una huella humana, social y ambiental.
También se advierte contra un nuevo colonialismo de datos. Las regiones vulnerables pueden ser utilizadas como fuentes de información sanitaria, genética, epidemiológica, demográfica o conductual, sin que sus comunidades participen justamente en los beneficios. La extracción de datos puede convertirse en una forma de dominio si quienes aportan la información no tienen capacidad de decisión, control o retorno. La justicia social exige que los datos y el conocimiento no sean convertidos en instrumentos de subordinación.
10. Transhumanismo, posthumanismo y sentido del límite
La encíclica dedica una reflexión específica a las narrativas transhumanistas y posthumanistas. El transhumanismo es presentado como una corriente que imagina la potenciación del ser humano mediante biomedicina, ingeniería del cuerpo, dispositivos, algoritmos y tecnologías destinadas a aumentar rendimiento y capacidades. El posthumanismo, en sus versiones más radicales, va más allá: critica el antropocentrismo y plantea formas de hibridación entre ser humano, máquina y ambiente, llegando a imaginar una etapa evolutiva en la que la humanidad se supere a sí misma.
Ahora bien, no rechaza toda mejora técnica ni todo avance biomédico. No defiende una aceptación pasiva del sufrimiento ni una idealización de la enfermedad. Reconoce que es legítimo buscar soluciones que alivien el dolor, curen, acompañen y amplíen posibilidades de vida. El problema aparece cuando la técnica se convierte en promesa de salvación total y cuando el límite humano es interpretado únicamente como defecto que debe ser eliminado. En ese imaginario, la fragilidad, la dependencia, la vejez, la discapacidad o la vulnerabilidad pueden ser vistas como errores del sistema humano.
El texto ofrece una respuesta antropológica: el ser humano no florece a pesar del límite, sino muchas veces a su través. La finitud no es únicamente una carencia; también es el lugar donde se aprenden la paciencia, la compasión, la solidaridad y la responsabilidad. Una sociedad que no sabe habitar la fragilidad corre el riesgo de despreciar a quienes la encarnan de manera más visible. Por eso, advierte que, si el ser humano es tratado como materia que debe ser perfeccionada o superada, se hace más fácil aceptar que algunos sean considerados menos útiles, menos deseables o menos dignos.
11. IA, guerra y paz
Más adelante, la encíclica amplía la reflexión hacia la cultura del poder, la guerra y la paz. Advierte que la IA puede incorporarse a sistemas de armas, vigilancia, ciberataques, decisiones estratégicas, manipulación informativa y operaciones militares automatizadas. En este ámbito, el riesgo ético alcanza una gravedad especial, porque están en juego decisiones letales e irreversibles.
Cabe rechazar la idea de que una máquina pueda convertirse en “agente moral artificial”, capaz de distinguir el bien y el mal mejor que una persona. El juicio moral no se reduce a cálculo: exige conciencia, responsabilidad personal y reconocimiento del otro como persona. Por ello, no es lícito confiar a sistemas artificiales decisiones letales o irreversibles. La IA no hace la guerra moralmente aceptable; puede hacerla más rápida, impersonal y aparentemente eficiente, reduciendo a las víctimas a datos.
Entre los criterios precisos a tener presente, se encuentran, primero, la responsabilidad personal: quienes planifican, entrenan, autorizan y emplean sistemas bélicos con IA deben poder rendir cuentas. El segundo es el tiempo del juicio moral: en la guerra, la rapidez no puede ser el criterio supremo, porque las decisiones irreversibles requieren deliberación prudente. El tercero es la protección de civiles y la preservación de límites éticos estrictos. La automatización de la violencia puede bajar el umbral del recurso a la fuerza, haciendo que la guerra parezca más viable y menos sometida al control humano.
Esta reflexión se integra en una crítica más amplia de la cultura del poder. Así se denuncia la normalización de la guerra, la crisis del multilateralismo, la instrumentalización del miedo y la tendencia a presentar como realismo político lo que en realidad es resignación ante la fuerza. Frente a ello, propone una civilización fundada en justicia, diálogo, diplomacia, atención a las víctimas y construcción paciente de paz. La IA debe ser desarmada también en este sentido: no puede convertirse en acelerador de conflictos ni en infraestructura de dominación geopolítica.
12. Claves finales
La aportación principal de Magnifica Humanitas consiste en presentar la IA como una cuestión integral. No se limita a hablar de algoritmos, privacidad o regulación. La IA aparece como una realidad que obliga a revisar la comprensión de la persona, del trabajo, de la verdad, de la libertad, del poder, de la economía, de la educación, de la paz y del futuro común.
Por un lado, rechaza el entusiasmo ingenuo que identifica innovación con progreso moral. Por otro, evita el miedo estéril que condena la tecnología por sí misma. La posición propuesta es más exigente: discernir, gobernar, responsabilizar, educar, distribuir beneficios, proteger a los débiles y orientar la técnica hacia una vida más humana.
La IA es valiosa cuando ayuda a curar, educar, organizar mejor los servicios, ampliar oportunidades, liberar de tareas peligrosas, mejorar decisiones y favorecer la participación. Pero se vuelve problemática cuando sustituye el juicio humano, concentra poder, explota datos, manipula conciencias, precariza trabajos, debilita vínculos, multiplica desinformación, vigila sin control, excluye a los pobres o convierte la guerra en un proceso más automatizado.
El criterio decisivo es la dignidad humana. Toda innovación debe preguntarse si reconoce a cada persona como fin o si la convierte en medio. De ahí se derivan los demás criterios: bien común, acceso equitativo, transparencia, responsabilidad, participación, justicia social, solidaridad, sostenibilidad y paz.
Puede sintetizarse en una idea: la humanidad no debe construir una nueva Babel digital, brillante por fuera, pero fundada en orgullo, uniformidad, dominio y exclusión. Debe reconstruir una Jerusalén común: una sociedad capaz de integrar la tecnología en una cultura de comunión, justicia y cuidado. La IA será verdaderamente humana solo si queda subordinada a aquello que ninguna máquina puede producir por sí misma: conciencia, responsabilidad y verdad.
ElDerecho.com no comparte necesariamente ni se responsabiliza de las opiniones expresadas por los autores o colaboradores de esta publicación