Custodiar voces y rostros humanos
Queridos hermanos y hermanas:
El rostro y la voz son rasgos únicos, distintivos, de cada persona; manifiestan su propia identidad irrepetible y son el elemento constitutivo de todo encuentro. Los antigüos lo sabían bien. Así, para definir a la persona humana, los antiguos griegos utilizaron la palabra “rostro” (prósōpon), que etimológicamente indica aquello que está a la vista, el lugar de la presencia y de la relación. El término latino persona (de per-sonare) incluye en cambio el sonido; no un sonido cualquiera, sino la voz inconfundible de alguien.
El rostro y la voz son sagrados. Nos han sido dados por Dios, que nos ha creado a su imagen y semejanza, llamándonos a la vida con la Palabra que Él mismo nos ha dirigido. Palabra que resonó primero a través de los siglos en las voces de los profetas, y luego se hizo carne en la plenitud de los tiempos. Esta Palabra —esta comunicación que Dios hace de sí mismo— la hemos podido escuchar y ver directamente (cf. 1 Jn 1,1-3), porque se dio a conocer en la voz y en el rostro de Jesús, Hijo de Dios.
Desde el momento de su creación, Dios ha querido al hombre como su interlocutor y, como dice san Gregorio de Nisa,
[1] ha impreso en su rostro un reflejo del amor divino, para que pueda vivir plenamente la propia humanidad mediante el amor. Por tanto, custodiar rostros y voces humanas significa conservar este sello, este reflejo indeleble del amor de Dios. No somos una especie hecha de algoritmos bioquímicos definidos de antemano. Cada uno de nosotros tiene una vocación insustituible e inimitabile que surge de la vida y que se manifiesta precisamente en la comunicación con los demás.
La tecnología digital, cuando se falla en su cuidado, se corre el riesgo de modificar radicalmente algunos de los pilares fundamentales de la civilización humana, que a veces damos por descontado. Simulando voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas.
El desafío, por tanto, no es tecnológico sino antropológico. Custodiar los rostros y las voces significa, en última instancia, cuidarnos a nosotros mismos. Acoger con valentía, determinación y discernimiento las oportunidades que ofrecen la tecnología digital y la inteligencia artificial no significa ocultar para nosotros mismos los puntos críticos, las opacidades, los riesgos.
No renunciar al pensamiento proprio.
Desde hace tiempo existen múltiples pruebas de que algoritmos proyectados para maximizar la implicación en las redes sociales —redituable para las plataformas— premian emociones rápidas y penalizan en cambio expresiones humanas que necesitan tiempo, como el esfuerzo por comprender y la reflexión. Encerrando grupos de personas en burbujas de fácil consenso y fácil indignación, estos algoritmos debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social.
A esto se sumó una confianza ingenuamente acrítica en la inteligencia artificial como “amiga” omnisciente, dispensadora de toda información, archivo de toda memoria, “oráculo” de todo consejo. Todo esto puede desgastar aún más nuestra capacidad de pensar de modo analítico y creativo, de comprender los significados, de distinguir entre sintaxis y semántica.
Aunque la IA puede proporcionar apoyo y asistencia en la gestión de tareas comunicativas, eludir el esfuerzo de pensar por nosotros mismos y conformarnos con una recopilación estadística artificial, a la larga corre el riesgo de erosionar nuestras capacidades cognitivas, emocionales y comunicativas.
En los últimos años, los sistemas de inteligencia artificial están asumiendo cada vez más el control de la producción de textos, música y vídeos. Gran parte de la industria creativa humana corre así el riesgo de ser desmantelada y sustituida por la etiqueta “Powered by AI”, convirtiendo a las personas en meros consumidores pasivos de pensamientos no pensados, de productos anónimos, sin autoría, sin amor. Mientras que las obras maestras del genio humano en el campo de la música, el arte y la literatura se reducen a un mero campo de entrenamiento para las máquinas.
La cuestión que nos importa, sin embargo, no es en lo que logra o logrará hacer la máquina, sino qué podemos o podremos hacer nosotros, creciendo en humanidad y conocimiento, con un sabio uso de instrumentos tan poderosos a nuestro servicio. Desde siempre, el hombre se ha visto tentado a apropiarse del fruto del conocimiento sin el esfuerzo que supone el compromiso, la investigación y la responsabilidad personal. Sin embargo, renunciar al proceso creativo y ceder a las máquinas nuestras funciones mentales y nuestra imaginación significa enterrar los talentos que hemos recibido para crecer como personas en relación con Dios y con los demás. Significa ocultar nuestro rostro y silenciar nuestra voz.
Ser o fingir: simulación de las relaciones y de la realidad
A medida que nos desplazamos por nuestros flujos de información (feeds), cada vez es más difícil saber si estamos interactuando con otros seres humanos o con “bots” o “influencers” virtuales. Las intervenciones opacas de estos agentes automatizados influyen en los debates públicos y en las decisiones de las personas. En particular, los chatbots basados en grandes modelos lingüísticos (LLM), se están demostrando ser sorprendentemente eficaces en la persuasión oculta, mediante una optimización continua de la interacción personalizada. La estructura dialógica y adaptativa, mimética, de estos modelos lingüísticos es capaz de imitar los sentimientos humanos y simular así una relación. Esta antropomorfización, que puede resultar incluso divertida, es al mismo tiempo engañosa, sobre todo para las personas más vulnerables. Porque los chatbots excesivamente “afectuosos”, además de estar siempre presentes y disponibles, pueden convertirse en arquitectos ocultos de nuestros estados emocionales y, de este modo, invadir y ocupar la esfera de la intimidad de las personas.
La tecnología que se aprovecha de nuestra necesidad de relacionarnos no solo puede tener consecuencias dolorosas para el destino de las personas, sino que también puede dañar el tejido social, cultural y político de las sociedades. Esto ocurre cuando sustituimos las relaciones con los demás por relaciones con IA entrenadas para catalogar nuestros pensamientos y, por lo tanto, para construir a nuestro alrededor un mundo de espejos, donde todo está hecho “a nuestra imagen y semejanza”. De este modo, nos privamos de la posibilidad de encontrar al otro, que siempre es diferente a nosotros y con el que podemos y debemos aprender a relacionarnos. Sin la aceptación de la alteridad no puede haber ni relación ni amistad.
Otro gran desafío que plantean estos sistemas emergentes es el de la parcialidad (en inglés: bias), que lleva a adquirir y transmitir una percepción alterada de la realidad. Los modelos de la IA están moldeados por la visión del mundo de quienes los construyen y, a su vez, pueden imponer formas de pensar que replican los estereotipos y prejuicios presentes en los datos de los que se nutren. La falta de transparencia en el diseño de los algoritmos, junto con la representación social inadecuada de los datos, tiende a mantenernos atrapados en redes que manipulan nuestros pensamientos y perpetúan y profundizan las desigualdades y las injusticias sociales existentes.
El riesgo es grande. El poder de la simulación es tal que la inteligencia artificial también puede engañarnos con la fabricación de “realidades” paralelas, apropiándose de nuestros rostros y nuestras voces. Estamos inmersos en una multidimensionalidad, donde cada vez es más difícil distinguir la realidad de la ficción.
A esto se suma el problema de la falta de precisión. Los sistemas que hacen pasar una probabilidad estadística por conocimiento nos ofrecen, en realidad, como mucho, aproximaciones a la verdad, que a veces son auténticas “alucinaciones”. La falta de verificación de las fuentes, junto con la crisis del periodismo de campo, que implica un trabajo continuo de recopilación y verificación de información en los lugares donde ocurren los acontecimientos, puede favorecer un terreno aún más fértil para la desinformación, provocando una creciente sensación de desconfianza, desconcierto e inseguridad.
Una posible alianza
Detrás de esta enorme fuerza invisible que nos involucra a todos, hay solo un puñado de empresas, aquellas cuyos fundadores han sido recientemente presentados como los creadores de la “persona del año 2025”, es decir, los arquitectos de la inteligencia artificial. Esto suscita una importante preocupación por el control del oligopolio de los sistemas algorítmicos y de inteligencia artificial capaces de orientar sutilmente los comportamientos e incluso reescribir la historia de la humanidad —incluida la historia de la Iglesia— a menudo sin que nos demos cuenta realmente.
El desafío que nos espera no es el de detener la innovación digital sino el de guiarla, y en ser conscientes de su carácter ambivalente. Corresponde a cada uno de nosotros alzar la voz en defensa de las personas humanas para que estos instrumentos puedan realmente ser integrados por nosotros como aliados.
Esta alianza es posible, pero necesita fundamentarse en tres pilares: responsabilidad, cooperación y educación.
En primer lugar, la responsabilidad. Según las funciones, esta puede traducirse en honestidad, transparencia, valentía, capacidad de visión, deber de compartir conocimientos, derecho a estar informado. Pero, en general, nadie puede eludir su responsabilidad ante el futuro que estamos construyendo.
Para quienes están en la cúspide de las plataformas online esto significa asegurarse de que las propias estrategias empresariales no estén guiadas por el único criterio del máximo beneficio, sino también por una visión de futuro que tenga en cuenta el bien común del mismo modo que cada uno de ellos se preocupa por el bienestar de sus hijos.
A los creadores y programadores de modelos de la IA se les pide transparencia y responsabilidad social respecto a los principios de planificación y a los sistemas de moderación que están en la base de sus algoritmos y de los modelos diseñados con el fin de favorecer un consentimiento informado por parte de los usuarios.
La misma responsabilidad se exige también a los legisladores nacionales y a las entidades reguladoras supranacionales, a quienes compete vigilar sobre el respeto de la dignidad humana. Una reglamentación adecuada puede proteger a las personas, de crear vínculos emocionales con los chatbots y contener la difusión de contenidos falsos, manipuladores o confusos, preservando la integridad de la información frente a una simulación engañosa de la misma.
Las agencias de noticias y los medios de comunicación no pueden permitir que los algoritmos orientados a ganar a toda costa la batalla por unos segundos más de atención, prevalezcan sobre la fidelidad a sus valores profesionales, orientados a la búsqueda de la verdad. La confianza del público se gana con precisión y transparencia, no con la búsqueda de cualquier tipo de implicación. Los contenidos generados o manipulados por la IA deben señalarse y distinguirse claramente de los contenidos creados por personas. Debe protegerse la autoría y la propiedad soberana del trabajo de los periodistas y otros creadores de contenidos. La información es un bien público. Un servicio público constructivo y significativo no se basa en la opacidad, sino en la transparencia de las fuentes, la inclusión de las partes implicadas y un alto nivel de calidad.
Todos estamos llamados a cooperar. Ningún sector puede afrontar por sí solo el desafío de guiar la innovación digital y la forma de governar la IA. Es necesario, por tanto, crear mecanismos de protección. Todas las partes interesadas —desde la industria tecnológica a los legisladores, desde las empresas creativas al mundo académico, desde los artistas a los periodistas y a los educadores— deben implicarse en construir y hacer efectiva una ciudadanía digital consciente y responsable.
A esto mira la educación: a aumentar nuestras capacidades personales de reflexión crítica; evaluar la credibilidad de las fuentes y los posibles intereses que están detrás de la selección de información que nos llega; comprender los mecanismos psicológicos que se activan ante ello; a permitir a nuestras familias, comunidades y asociaciones elaborar criterios prácticos para una cultura de la comunicación más sana y responsable.
Precisamente por esto es cada vez más urgente introducir en los sistemas educativos de cada nivel también la alfabetización en los medios de comunicación, en los medios de información y en la IA, que algunas instituciones civiles ya están promoviendo. Como católicos, podemos y debemos aportar nuestra contribución para que las personas, especialmente los jóvenes, adquieran la capacidad de pensar críticamente y crezcan en la libertad del espíritu. Esta alfabetización también debería integrarse en iniciativas más amplias de educación permanente, llegando también a las personas mayores y a los miembros marginados de la sociedad, que a menudo se sienten excluidos e impotentes ante los rápidos cambios tecnológicos.
La alfabetización en los medios de comunicación, de información y en la IA ayudará a todos a no adaptarse a la deriva antropomorfizante de estos sistemas, sino a tratarlos como herramientas, a utilizar siempre una validación externa de las fuentes —que podrían ser imprecisas o erróneas— proporcionadas por los sistemas de IA, a proteger su privacidad y sus datos conociendo los parámetros de seguridad y las opciones de impugnación. Es importante educar y educarse a usar la IA en modo intencional y, en este contexto, cuidar la propia imagen (foto y audio), el propio rostro y la propia voz, para evitar que vengan utilizados en la creación de contenidos y comportamentos dañosos como estafas digitales, ciberacoso, deepfakes que violan la privacidad y la intimidad de las personas sin su consentimiento. Al igual que la revolución industrial exigía una alfabetización básica para que las personas pudieran reaccionar ante las novedades, la revolución digital también requiere una alfabetización digital (junto con una formación humanística y cultural) para comprender cómo los algoritmos modelan nuestra percepción de la realidad, cómo funcionan los prejuicios de la IA, cuáles son los mecanismos que determinan la aparición de determinados contenidos en nuestros flujos de información (feeds), cuáles son y cómo pueden cambiar los supuestos y modelos económicos de la economía de la IA.
Necesitamos que el rostro y la voz vuelvan a expresar a la persona. Necesitamos custodiar el don de la comunicación como la verdad más profunda del hombre, hacia la cual orientar también toda innovación tecnológica.
Al proponer estas reflexiones, agradezco a quienes están trabajando por los fines aquí expuestos y bendigo de corazón a todos los que trabajan por el bien común con los medios de comunicación.
Vaticano, 24 de enero de 2026, memoria de san Francisco de Sales.
LEÓN XIV PP.
___________________________
(1) “El hecho de ser creados a imagen de Dios significa que, al hombre, desde el momento de su creación, le ha sido impreso un carácter real [...]. Dios es amor y fuente de amor; el divino Creador también ha puesto este rasgo en nuestro rostro, para que mediante el amor —reflejo del amor divino— el ser humano reconozca y manifieste la dignidad de su naturaleza y la semejanza con su Creador” (cf. S. Gregorio de Nisa, La creación del hombre: PG 44, 137).
