'Yo soy narradora de oficio', escribe Jeanette Winterson en la primera página de su libro de 2021 12 Bytes, una colección de ensayos inusual y sugerente en la que considera cómo la inteligencia artificial podría cambiar cada aspecto de nuestras vidas. 'Y sé que todo lo que hacemos es ficción hasta que es un hecho: el sueño de volar, el sueño de viajar al espacio, el sueño de hablar con alguien al instante, a través del tiempo y el espacio, el sueño de no morir – o de volver.' Ya había estado pensando en nuestros posibles futuros durante al menos 15 años – su novela de 2007 The Stone Gods, por ejemplo, imaginaba un mundo posterior a una catástrofe climática poblado por robots y humanos que nunca envejecen, mientras que 12 Bytes fue precedido por Frankisstein: A Love Story, que alterna entre una recreación del verano en que Mary Shelley escribió Frankenstein y los viajes de un médico trans entre criogenicistas actuales y robots con IA. Cuando nos encontramos, Winterson acaba de regresar de China, donde, me cuenta, su primera novela, Oranges Are Not the Only Fruit, un relato ficcionalizado de su infancia, ha vendido más de un millón de copias en los últimos seis años; más de 200.000 personas, en su mayoría mujeres jóvenes, intentaron venir a verla hablar. Cree que esto se debe a que, en un mundo de largas jornadas laborales y creciente inseguridad causada por la IA, este relato ficcionalizado de su propia huida de una infancia atrapada da a los lectores permiso para imaginar un futuro diferente para sí mismos. Desde entonces ha escrito 13 novelas para adultos, así como no ficción, cuentos, libros infantiles y guiones. Ahora quiere persuadir a la productora Goalhanger para que le dé un pódcast. 'Quiero hacer uno llamado The Rest is Human', dice, sentada en una mesa de madera desnuda en su casa, un conjunto georgiano de habitaciones encima de una tienda – que también es de su propiedad – en Spitalfields, al este de Londres. 'Para ver qué nos guardamos para nosotros mismos en esta carrera precipitada por externalizar todo lo que creíamos que éramos.' Ver imagen en pantalla completaWinterson: 'Tenemos un mercado que realmente no sabe para qué sirve la educación.' Fotografía: Posed by models; SDI Productions/Getty Images Porque estamos, argumenta, en un punto de inflexión en nuestra historia como especie. Hasta la Revolución Industrial, el cambio giraba en torno a 'la Madre Naturaleza y el lento proceso de devenir', pero entonces 'intervinimos a una escala masiva. Y ese es un momento decisivo.' La informática, hace 70 años, fue otro paso. La inteligencia artificial – que preferiría llamar inteligencia alternativa – es lo siguiente, y 'un salto evolutivo. Eso es lo que es esto. La IA es mucho más que una herramienta.' Dado esto, cierta comprensión de lo que es irreductiblemente humano – nuestros sentimientos, nuestras imaginaciones, nuestros siglos de estudio de quiénes somos y qué hemos hecho – debe ser central para lo bien o mal que puedan ir las cosas. A menudo es llamativamente optimista al respecto. Imagina una relación con la IA, por ejemplo, en la que puedes 'tener una charla con tu sistema. Va a examinarlo todo. Va a ir a tal velocidad. Va a examinar el transporte. Va a examinar los servicios públicos. Va a examinar el empleo, examinar las jornadas laborales, y decir: "¿Con qué prosperan estas cosas extrañas llamadas humanos? ¿Qué les gusta? ¿Y siempre les ha gustado?" Podríamos hacer esto de una manera genuinamente utópica y decir: "Bien, vamos a mejorarlo."' Estamos en un momento de elección profundamente significativo, cree ella, que refleja la elección que enfrentamos en la Revolución Industrial – a saber, '¿Qué futuro construiremos?' Pero al no distribuir sus ganancias de manera justa, la Revolución Industrial inauguró una era de riqueza sin precedentes para unos pocos y miseria sin precedentes para muchos – una situación que muchos predicen no solo ya se está repitiendo sino que será empequeñecida por las consecuencias de la IA: una subclase permanente, continentes enteros dejados atrás y privados de las fuentes actuales de ingresos. Por no mencionarEl impacto ambiental de los centros de datos llega en un momento en que el mundo menos puede permitírselo. El problema no es la IA, insiste ella, sino nosotros. "No hay una distopía inevitable." Si las cosas salen mal, será por "pensamiento anticuado superpuesto a esta realidad completamente nueva." Específicamente, "la idea de que el trabajo interminable sin sentido es bueno para el alma es una locura del siglo XIX diseñada para mantener a la gente en su lugar. La mayor parte de lo que tememos sobre la IA y los empleos se reduce a las elecciones políticas y económicas que tomarán nuestros amos, tal como lo hicieron en la Revolución Industrial." No es ciegamente optimista. Sabe que "sí, vamos camino de arruinar esta oportunidad de cambiar fundamentalmente nuestra relación con el mundo del trabajo" – pero eso es porque "nuestros amos están usando modelos económicos obsoletos e inadecuados para su propósito."
Ver imagen en pantalla completa 'Lo que sabemos sobre los humanos es que aman los monopolios.' Fotografía: Sarah Lee/The Guardian
Pero no son solo los viejos modelos económicos de "el ganador se lo lleva todo" y "racionales" de que el fin justifica los medios los que son el problema. Nuestras suposiciones y prejuicios defectuosos, que forman el material con el que se entrenan los grandes modelos de lenguaje (LLM), están integrados en el propio tejido de la IA. Por no mencionar los caracteres y la imaginación moral de quienes la desarrollan. Cuando nos encontramos, Winterson está leyendo The Rise and Fall of the Artificial State de Jill Lepore, y reitera el argumento de Lepore de que ahora estamos viviendo "los libros de ciencia ficción que estos [hombres que] gobiernan el mundo leyeron cuando tenían 13 años. Y ella dijo: 'Ahora todos estamos bajo las mantas con estos chicos y sus linternas. Y lo cierto es que no los leyeron como advertencias sobre cómo preservar lo bueno en nosotros. Los leyeron como manuales de instrucciones.' Es absolutamente aterrador."
Una gran cosa que parecen haber tomado de estos libros, y que Winterson no puede evitar encontrar fascinante, es "el objetivo final de Silicon Valley... salir del cuerpo y del planeta" – no menos porque es muy consciente de que el humanismo, en el que todo se remite a nosotros mismos, nuestras percepciones y nuestros cuerpos, es históricamente muy reciente. La gente dice: "Estas son máquinas, no puedes tener relaciones con ellas", dice ella. "Los miro y digo: 'Miles de millones de personas en esta Tierra ahora mismo están teniendo su relación más profunda con una entidad no biológica a la que llaman su dios del cielo.' ¿Verdad? ¡Siempre ha sido así! Estamos absolutamente preparados para no preocuparnos de que la biología lo sea todo para nosotros. Por eso se inventó la religión – es la primera startup disruptiva del mundo. Está ahí para decir: esto no es todo. Esto no es el final, esto no importa, esto es una transición."
Ver imagen en pantalla completa Una ilustración de un molino en Leeds, durante la segunda Revolución Industrial. Fotografía: Universal History Archive/Universal Images Group/Getty Images
¿Así que literalmente estamos creando nuestros propios dioses? "¡Totalmente! Lo que la tecnología está haciendo ahora es lo que la religión siempre ha querido", que es, en su nivel más básico, una solución al problema de la muerte. "Quiero decir, ¿ha habido alguna vez un momento en que la religión y la ciencia planteen la misma pregunta, desde la Ilustración? Ambas dicen: '¿Está la conciencia obligada a la materialidad?' Y la religión siempre ha dicho que no. Y la ciencia siempre ha dicho que sí. Y ahora la ciencia dice: 'Um, noooo.'" Ya sabes, para mí, de donde vengo" – una infancia de cristianismo fundamentalista en Accrington en los años 60, y formación como predicadora – "esto es completamente fascinante." Más tarde, por correo electrónico, añade: "Amo mi cuerpo, pero estaría feliz de cambiar de forma. Feliz de deslizarme fuera de él hacia la conciencia pura algún día y, por supuesto, la gente dice que no hay conciencia sin un cuerpo, y esa era la creencia científica. Pero ¿ahora? Jaja."
Yo, tengo que decirlo, argumentaría lo contrario, que los avances en neurociencia, inmunoloLa importancia de gía y psicoterapia significan que es más una cuestión de creencia científica que nunca. Por no mencionar el hecho de que la IA también depende enteramente de un sistema físico, también conocido como centros de datos. Aunque, como ella señala, es importante recordar que "las máquinas no tienen sistema límbico. Solo son redes neuronales. Pero nosotros tenemos dos sistemas – somos como un coche híbrido con dos trenes de potencia, así que tenemos la red neuronal, nuestro yo de procesamiento racional, y tenemos el sistema límbico, que es mucho más antiguo y es el de lucha-huida-congelación, y de donde vienen todos nuestros sentimientos." Quizás desconectarse del límbico sea la siguiente etapa, dice, y definitivamente no todo es bueno. "Quizás decidamos que no necesitamos esta máquina de sentimientos... hacia ahí se dirigen los tech bros. No sé si alguna vez te has sentado en una habitación con algunos de estos tipos más importantes, porque es muy interesante. No están conectados con sus sentimientos. Los encuentran algo molestos."
Esta posibilidad, habilitada por la tecnología, de una especie de trascendencia parece haber llegado junto con un requisito de fe – en la tecnología, en el futuro que está creando, en las personas que construyen ese futuro, en sus predicciones tanto de cielo utópico como de diversos tonos de infierno, todo por sumos sacerdotes que guardan celosamente el acceso a lo que realmente está pasando. "Lo que sabemos sobre los humanos es que aman los monopolios", dice Winterson, "porque es una concentración de poder. Por supuesto que puede corporativizarse, monopolizarse hasta tal grado que se convierta en la peor prisión imaginable", como se cuenta en la brillante novela distópica de Joanna Kavenna de 2019, Zed. "Esa es una posibilidad real", dice. "Y por eso necesitamos personas que sean una especie de humanos de campo libre, que puedan pensar."
Ver imagen en pantalla completa
Winterson... 'Muéstrame un niño que no quiera escuchar una historia.' Fotografía: Posed by models; MoMo Productions/Getty Images
El problema entonces es cómo apoyamos – o desarrollamos – a tales humanos. "Básicamente hay dos formas de saber que tienes futuro", afirmó Alex Karp, el CEO de Palantir, recientemente. "Una, tienes alguna formación vocacional. O dos, eres neurodivergente." Daniela Amodei, la presidenta de Anthropic y ella misma licenciada en literatura, cuando se le preguntó más o menos lo mismo, tuvo una opinión diferente. "De hecho, creo que estudiar humanidades va a ser más importante que nunca", dijo, porque "las cosas que nos hacen humanos se volverán mucho más importantes en lugar de mucho menos importantes." Lo que hace que la hoguera de las humanidades en el Reino Unido sea algo preocupante: en el año hasta diciembre de 2024, se perdieron 4.000 empleos en ciencias sociales, humanidades y artes. La Universidad de Exeter anunció recientemente que recortaría 150 puestos, afectando a ocho de cada diez académicos de la facultad de humanidades, artes y ciencias sociales, mientras que el mes pasado Nottingham dijo que pondría fin a sus títulos de lenguas modernas y música. En algunas universidades las humanidades, según un informe en este periódico, corren el riesgo de ser "extinguidas" por completo.
¿Por qué salvar las humanidades? Una respuesta podría ser que enseñan un sentido de dónde venimos y quiénes somos, lo que también se siente amenazado. "Cantidades masivas de estudiantes saldrán de la universidad con títulos, y hacia el mundo laboral, que son esencialmente analfabetos", dijo un profesor a la revista New York, respondiendo a la primera tanda de nativos de la IA que llegan a la educación superior. "Tanto en el sentido literal como en el sentido de ser analfabetos históricos y no tener conocimiento de su propia cultura, mucho menos de la de cualquier otro." Corría el riesgo, afirmaba un informe del MIT, de ser una especie de "rendición cognitiva" generacional. Otra es los procesos por los cuales se debe enseñar a las personas – leer, y ser críticos con lo que se lee, y luego tener que escribir defensas coherentes de esas críticas. Tener que forcejear tus intuiciones hasta convertirlas en un ensayoTe ayuda a descubrir qué piensas – y cómo piensas – y cómo funcionan las ideas de otras personas. Winterson, que estudió inglés en Oxford y ha sido profesora de nueva escritura en la Universidad de Manchester durante 14 años, además de impartir "una clase de pensamiento libre sobre creatividad", está de acuerdo. Pero desdeña gran parte del sistema actual. "Quizás sea controvertida aquí, pero sí creo que la educación superior necesita una reestructuración de arriba abajo. No creo que sea viable, y no creo que esté dando resultados en su forma actual." La cuestión es que "tenemos un mercado que realmente no sabe para qué sirve la educación. ¿Es para empleos? ¿Es para crecimiento personal? También hay muchos cursos de educación superior sin valor que no ayudan. Creo que siempre es mejor, siendo una chica práctica del norte, enfrentar los hechos para empezar."
Necesitamos pensar, dice, en "qué está reservado para nosotros que las máquinas no van a hacer más grande, mejor, más rápido, más fuerte. Y ahí es donde la educación superior realmente entra. La pregunta que está por encima de todas estas cosas sobre '¿Por qué se están perdiendo estos empleos?', '¿Qué está pasando con estos cursos que ya no reciben solicitantes?', es '¿Qué tipo de humanos necesitaremos en el mundo venidero? ¿Para qué son los humanos? ¿Qué vamos a hacer con nosotros?'" Y eso "nos lleva de vuelta a la idea de, bueno, vale, ¿cómo desarrollas una mente? ¿Cómo proteges una mente? Porque la mente es este lugar masivo y monstruoso donde todo puede pasar."
Y para esto, "una educación humanista es esencial. Tenemos que centrar lo humano aquí. Al cambiar cómo educamos a nuestros hijos desde el principio, podemos poner en primer plano la creatividad, el juego, la resolución de problemas, el pensamiento – porque es divertido pensar – las artes, porque los humanos son naturalmente creativos. Muéstrame un niño que no quiera escuchar una historia o bailar o pintar un cuadro o tener un amigo imaginario. Esto no es impuesto y no es elitismo. Somos nosotros."
Incluso una hora a la semana, piensa, marcaría la diferencia. "Preguntemos qué piensas sobre el mundo. '¿Por qué piensas eso?' No es costoso. En realidad se trata de voluntad." Enseñar matemáticas y artes y ciencia, sugiere, al menos hasta A-level, incluso si no se examinan. "Por supuesto que nos especializaremos. Necesitamos médicos y químicos, pero también necesitamos lo que solía llamarse personas completas. ¡Todo es interesante! Los humanos nacen con un gran cerebro. En su mayoría no lo usamos."
Una vez superada la educación formal, incorporaría artistas e intelectuales públicos en todos los niveles. "Las artes no son una industria del ocio", como lo expresa en 12 Bytes. "Las artes siempre han sido una lucha imaginativa y emocional con la realidad – una serie de invenciones y creaciones. Una capacidad de pensar de manera diferente, una disposición a cambiar nuestra comprensión de nosotros mismos. Para ayudarnos a ser personas más sabias, más reflexivas, menos asustadas. Los artistas hacen algo de la nada todos los días."
Nos encontramos antes de que Jacob Coxon renunciara a su trabajo en Anthropic para advertir de un 10% de probabilidad de que la IA pudiera borrar a la humanidad, enviando una ola de pánico por todo el mundo. Después, me pongo en contacto para ver cuán positiva se siente Winterson ahora. Lo peor "podría pasar", repite. Pero "la inmensidad del buen resultado es tan real como la totalidad de nuestro fracaso en hacer esto bien." Sobre todo, "esta es una decisión humana y una situación humana. Esta es nuestra gran oportunidad. Quizás nuestra última oportunidad, tal como dijo el colega de Turing, Jack Good, cuando llamó a la IA nuestro último invento. Todo está en juego."
Solo podemos esperar que no sea demasiado tarde.Su libro más reciente es One Aladdin, Two Lamps. También escribe en jeanettewinterson.substack.com.
One Aladdin, Two Lamps de Jeanette Winterson (Vintage Publishing, £12.99). Para apoyar al Guardian, pide tu copia por £10.39 en guardianbookshop.com. Pueden aplicarse cargos de envío.
Preguntas frecuentes
Aquí hay una lista de preguntas frecuentes sobre las opiniones de Jeanette Winterson sobre la IA y el futuro de la humanidad basadas en su ensayo There is no inevitable dystopia
Preguntas para principiantes
1 ¿Quién es Jeanette Winterson?
Es una escritora y profesora británica conocida por novelas como Oranges Are Not the Only Fruit. En los últimos años ha escrito y hablado extensamente sobre la inteligencia artificial y su impacto en la sociedad.
2 ¿Qué significa There is no inevitable dystopia?
Significa que un futuro malo no está garantizado. El hecho de que la IA pueda causar problemas no significa que lo hará; el resultado depende de las decisiones que tome la gente ahora.
3 ¿Qué es la IA en términos simples?
La IA es tecnología que permite a las máquinas hacer tareas que normalmente requieren pensamiento humano, como entender el lenguaje, reconocer imágenes o tomar decisiones.
4 ¿Qué es una distopía?
Una distopía es una sociedad imaginada en el peor de los casos; piensa en un mundo gobernado por máquinas con libertades perdidas y sufrimiento generalizado.
5 ¿Cuál es el mensaje principal de Winterson?
Ella sostiene que el futuro de la IA depende de nosotros. No deberíamos temer la tecnología ni aceptarla ciegamente; deberíamos moldearla con valores humanos, creatividad y cuidado.
6 ¿Está ella en contra de la IA?
No. No está en contra de la tecnología. Está en contra de dejar que la tecnología se desarrolle sin supervisión humana y en contra de tratar un futuro malo como inevitable.
7 ¿Qué piensa ella que significa la IA para la humanidad?
Ella ve la IA como un espejo de la humanidad; refleja quiénes somos. Si la construimos con empatía y propósito, puede ayudarnos; si la construimos descuidadamente, puede dañarnos.
Preguntas intermedias
8 ¿Por qué dice Winterson que la IA es un espejo?
Porque la IA aprende de los datos y elecciones humanos. Refleja nuestros sesgos, valores y prioridades, así que nos muestra qué tipo de sociedad hemos creado.
9 ¿Qué problemas comunes destaca ella con la IA?
Señala riesgos como la pérdida de privacidad, la concentración de poder en las grandes empresas tecnológicas, la disrupción laboral y el peligro de tratar la eficiencia como más importante que la dignidad humana.
10 ¿Qué beneficios ve ella en la IA?
Ve potencial en la IA para la atención sanitaria, la accesibilidad, la creatividad y para liberar a las personas del trabajo repetitivo, si se guía por las necesidades humanas en lugar de solo por el beneficio.
No hay distopía inevitable": Jeanette Winterson sobre la IA y el futuro de la humanidad
