La gente suele preguntarme si creo que todas las novelas futuras serán escritas por IA. Es menos una pregunta real y más un desafío. ¿Me preguntan si me preocupa que una máquina pueda hacer mi trabajo, y hacerlo mejor? Normalmente lo evado con algo como: "¡Ningún algoritmo va a escribir Anna Karenina!" Pero eso tampoco es una respuesta real.
Por eso estoy agradecido al Papa León XIV, el papa estadounidense, por su reciente carta al mundo, Magnifica Humanitas: Sobre la Salvaguarda de la Persona Humana en la Era de la Inteligencia Artificial. Es un documento extenso (más de 40,000 palabras), inteligente y reflexivo donde el papa aborda cómo esta tecnología de rápido crecimiento puede ser utilizada y mal utilizada. Ahora, cuando alguien me pide mi opinión sobre la IA, puedo simplemente remitirlos a la carta del papa, o al menos al capítulo tres.
La carta comienza con una referencia bíblica adecuada a los trágicos resultados de una ruptura en la comunicación humana. La humanidad enfrenta una "elección crucial: o construir una nueva Torre de Babel o edificar una ciudad en la que Dios y la humanidad habiten juntos". Lo que sigue es una mirada detallada a cómo los predecesores del Papa León pensaron sobre estos temas, y las ideas del Vaticano sobre el trabajo, la autoridad, el gobierno, la ciencia, el poder y nuestro deber moral hacia los demás. También destaca el trabajo de la iglesia en la defensa de la dignidad y la libertad humanas.
El tercer capítulo, Tecnología y Dominio: La Grandeza de la Humanidad ante las Promesas de la IA, está a la altura del título de la carta. En un pasaje poderoso (y a menudo citado) que explica lo que la IA no es, el papa define esencialmente lo que significa ser humano. "Las llamadas inteligencias artificiales no experimentan vivencias, no poseen un cuerpo, no sienten alegría ni dolor, no maduran a través de las relaciones y no conocen desde dentro lo que significan el amor, el trabajo, la amistad o la responsabilidad". La IA no tiene conciencia moral y no muestra una preocupación real por el bien común de la humanidad.
La carta luego dice lo más importante y necesario sobre lo que podría ser la mayor amenaza de la IA: puede ser programada únicamente para maximizar las ganancias, lo que solo puede llevar a que muchos sufran en beneficio de unos pocos. El papa advierte contra la "manipulación de la privacidad" y el "uso indebido de la información", contra el uso de algoritmos para gestionar el empleo, controlar el acceso a servicios públicos y créditos, y para mejorar o dañar la reputación personal de alguien.
La compasión, la misericordia y el perdón —no muy altos en la lista de prioridades de una máquina— podrían volverse obsoletos. "Pueden comenzar a justificarse 'sacrificios necesarios', colocando la carga sobre los más vulnerables en pos de la supuesta optimización de la especie". Si las herramientas de este nuevo poder terminan en manos de quienes ya tienen riqueza e influencia, se utilizarán para mejorar la comodidad, la salud y el bienestar de nuestros ciudadanos más ricos y privilegiados.
El papa no está condenando la IA de plano, sino más bien la forma en que puede ser utilizada como herramienta para la represión política y para empeorar la desigualdad económica.
Al concluir la carta, el papa nos llama a mantenernos fieles a la verdad, invertir en educación, construir relaciones y vivir en justicia y paz, para resistir cómo las nuevas tecnologías pueden "explotar a los más vulnerables, crear nuevas formas de esclavitud y obtener ganancias del conflicto". Queda claro que el papa no está condenando la IA de plano, sino más bien la forma en que puede ser utilizada como herramienta para la represión política y para empeorar la desigualdad económica.
En teoría, se podría criticar la carta por no llegar lo suficientemente lejos, por no usar otra metáfora bíblica —el becerro de oro— para condenar la IA porque prioriza el ahorro de dinero sobre el bienestar espiritual, individual y comunitario. Pero ese barco ya zarpó, y no hay mucho que León XIV —o cualquier líder religioso— pueda hacer para condenar estos nuevos avances como una forma de idolatría del siglo XXI.
Aun así, la visión de la naturaleza humana en la encíclica, el espíritu de justicia y empatía que debe prevalecer, y la importancia esencial de los valores morales más elevados —es, en última instancia, tan amable, tan positiva, tan generosa y tan claramente correcta sobre nuestro deber de proteger a los débiles y pobres que es difícil encontrar razones para descartarla.
Pero esa es la parte aterradora. Aparentemente, ha habido cierta resistencia desde Silicon Valley, donde los creadores y maestros de la última tecnología han sugerido que el papa no sabe de lo que está hablando.
La opinión de The Guardian sobre el Papa y Claude: La encíclica de León XIV sobre la IA tiene razón al poner a la humanidad en primer lugar | Editorial
Leer más
Jeremy Nixon, fundador de AGI House —un grupo centrado en demostrar que la IA es esencialmente igual al cerebro humano— fue citado en el New York Times diciendo que la iglesia no había "pensado profundamente sobre... la IA", añadiendo: "No podrían tener una posición al respecto, porque no la entienden". Y parece haber una creencia generalizada de que el resultado final de la investigación actual será, en efecto, un nuevo Dios, o al menos una imitación convincente. Preocupada por los peligros del futuro, nuestra sociedad está eligiendo ignorar la evidencia de que los aspectos negativos de la IA ya están aquí. A la hija de un amigo, estudiante universitaria especializada en publicidad, su asesor le dijo recientemente que para cuando se gradúe, todos los trabajos en publicidad habrán sido reemplazados por IA.
Si los maestros de esta nueva tecnología no pueden estar de acuerdo con lo que el papa ve como sus peligros e inconvenientes, estamos en graves problemas. El problema no es que tengamos un robot escribiendo Anna Karenina. El problema es que nadie verá la necesidad de una novela que capture tan bellamente el sufrimiento de una mujer, un ser humano único.
No tendría sentido un libro así a menos que esa historia de un error que cambia la vida pudiera convertirse en ganancias por un emprendedor tecnológico visionario y usarse para comprar un yate más grande y mejor, presumiblemente atendido por una subclase permanente, por trabajadores cuya dignidad, cuyos trabajos una vez valorados y valiosos, han sido robados por las formas codiciosas de inteligencia artificial.
Francine Prose es expresidenta del PEN American Center y miembro de la Academia Estadounidense de las Artes y las Letras y de la Academia Estadounidense de las Artes y las Ciencias. Su nueva novela, Cinco Semanas en el Campo, fue publicada en mayo.
Preguntas Frecuentes
Aquí hay una lista de preguntas frecuentes basadas en la declaración Estoy agradecido al Papa por su encíclica sobre la IA He aquí por qué
Preguntas de Nivel Principiante
P ¿Qué es una encíclica
R Es una carta formal del Papa a toda la Iglesia Católica sobre un tema importante Su propósito es enseñar y guiar a las personas
P ¿Por qué el Papa escribió una encíclica sobre la Inteligencia Artificial
R Porque la IA está cambiando rápidamente cómo vivimos, trabajamos e interactuamos El Papa cree que plantea profundas cuestiones morales y éticas sobre la dignidad humana, la justicia y la paz, por lo que quiso ofrecer orientación
P ¿Está diciendo el Papa que la IA es mala
R No No está en contra de la tecnología Está diciendo que debemos ser cuidadosos y usar la IA de maneras que respeten la vida humana, protejan a los vulnerables y promuevan el bien común, no solo las ganancias o el poder
P ¿Cuál es el mensaje principal de la encíclica sobre la IA
R La idea central es que la IA debe servir a la humanidad, no reemplazarla ni controlarla Hace un llamado a una conversación global para asegurar que la IA sea desarrollada y utilizada éticamente, con un enfoque en la paz, la verdad y la dignidad humana
P ¿Cómo me afecta esto como persona común
R Importa porque la IA ya está en tu vida: en motores de búsqueda, redes sociales, banca e incluso diagnósticos médicos El Papa está pidiendo a todos que piensen sobre la equidad, la privacidad y si estas herramientas están ayudando o dañando a la sociedad
Preguntas de Nivel Intermedio
P ¿Qué peligros específicos advierte el Papa sobre la IA
R Advierte sobre una sociedad algorítmica donde las máquinas toman decisiones que afectan la vida de las personas sin equidad ni transparencia También destaca los riesgos de vigilancia, desinformación y el aumento de la desigualdad entre quienes controlan la IA y quienes no
P ¿Habla la encíclica sobre la IA en armas o guerra
R Sí Condena firmemente el desarrollo de sistemas de armas autónomas: máquinas que pueden matar sin decisión humana El Papa argumenta que esto despoja a la guerra de cualquier responsabilidad moral y podría llevar a conflictos catastróficos
P ¿Cómo difiere la visión de la Iglesia sobre la IA de la visión de las empresas tecnológicas
