La semana pasada, Meta—la empresa propietaria de Instagram y Facebook—aceptó pagar hasta 18 mil millones de dólares para resolver una demanda presentada por docenas de estados de EE. UU. Los estados acusaron a Meta de dañar a los menores con productos adictivos. Pero el impacto regulatorio de este acuerdo llegará mucho más allá de los adolescentes, afectando a todos los usuarios de redes sociales.
Si Meta realmente quiere priorizar la seguridad del usuario, su junta directiva debería pedirle a Mark Zuckerberg que renuncie y reestructurar la empresa para que la seguridad importe más que las ganancias.
El acuerdo no responde realmente a la pregunta científica de cuán adictivas son las redes sociales en realidad. En cambio, es el resultado de una larga lucha que comenzó en 2016, cuando periodistas e investigadores independientes empezaron a investigar cómo el diseño digital ayudó a difundir desinformación durante la campaña del Brexit en el Reino Unido y la elección presidencial de EE. UU. Zuckerberg es el hilo constante que recorre la historia de errores de mil millones de dólares de Meta que han dañado a personas reales.
Durante los últimos 15 años, he estudiado cómo la ciencia y la tecnología impulsan el cambio social—tanto para bien como para mal. Como fundador del Instituto Crítico de Estudios de Internet, lidero un equipo que investiga los daños causados por las nuevas tecnologías. Enseñamos a los profesionales tanto las características obvias como las ocultas de estas tecnologías, incluyendo sus defectos. En 2020, testifiqué ante el Congreso que la desinformación funciona como el "humo de segunda mano". Mi testimonio llegó después de que un ejecutivo de Meta comparara el diseño de los algoritmos de participación de Meta con cómo las empresas tabacaleras hicieron los cigarrillos más adictivos.
Un acuerdo de 18 mil millones de dólares—y Zuckerberg apenas se inmutó. A los gigantes tecnológicos se les debe despojar de su poder, y pronto.
En una serie de artículos de opinión, sesiones informativas para el Congreso y trabajos de investigación, amplié la comparación con el tabaco. Mostré cómo las visiones culturales de fumar como una elección personal fueron cambiadas por ideas como el humo de segunda mano y por pruebas científicas de que el tabaco aumenta el riesgo de cáncer. Los costos reales de fumar se trasladaron a las familias, las compañías de seguros y los empleadores que perdieron tiempo y dinero lidiando con ello. La respuesta de salud pública no prohibió fumar por completo, pero sí limitó dónde podía fumarse, estableció una edad mínima para comprar cigarrillos, obligó a las empresas a financiar educación pública sobre los peligros y—lo más importante—puso los cigarrillos detrás de los mostradores donde los cajeros tenían que verificar identificaciones. Las campañas de salud pública y las etiquetas de advertencia también jugaron un papel importante.
De manera similar, las empresas de redes sociales toman muchas decisiones importantes sobre lo que aparece en tu feed. Algunas de esas funciones están diseñadas con algoritmos para mantener a los usuarios en la aplicación por más tiempo.
Este acuerdo incluye restricciones de diseño: las cuentas de adolescentes están limitadas a dos horas al día, bloqueadas de medianoche a 6 a. m., y no reciben notificaciones durante el horario escolar. Las cuentas de adolescentes también deben estar vinculadas a la cuenta de un padre, junto con verificaciones de edad más estrictas. Aún no está claro cómo funcionará eso en la práctica, pero es probable que se convierta en un dolor de cabeza para la privacidad. Si bien estas reglas limitan el tiempo de pantalla para jóvenes de 13 a 18 años, no hacen mucho para abordar el contenido dañino—como cómo las drogas, el sexo y el juego terminan siendo recomendados por algoritmos.
Está claro que este último acuerdo señala un camino más difícil para las empresas de Zuckerberg. Meta ha librado muchas batallas legales mientras evitaba una regulación seria de la moderación de contenido (que cuesta dinero) o la publicidad (que genera dinero). Hacer cumplir estas nuevas reglas para adolescentes aumentará los costos. Meta ya ha enfrentado miles de millones en acuerdos y multas por problemas que van desde no proteger la privacidad del usuario, hasta una violación de seguridad en 2018, hasta resultados terribles para la salud mental de los jóvenes. Meta también ha causado daños a otros grupos sin compensación, incluida la amplificación del discurso de odio contra los rohinyá en Myanmar, y el alojamiento y la promoción algorítmica de desinformación médica generalizada y teorías de conspiración que llevaron a intoxicación tóxica y vacilación ante las vacunas—algo que la Organización Mundial de la Salud llamó una "infodemia". El término "infodemia" captura cómo la desinformación se propaga como un virus. Los fracasos de Mark Zuckerberg como líder causaron directamente daños graves y bien documentados a la vida cívica, la democracia y la salud mental y física de las personas en todo el mundo—especialmente entre los jóvenes. Desde que comenzó Facebook en 2004, Zuckerberg ha enfrentado demandas constantes por problemas como la propiedad y las acciones desde los primeros días. Fue entonces cuando comenzó a usar una estrategia de relaciones públicas para retrasar, negar y desviar los problemas que surgían de ejecutivos que elegían las ganancias sobre el bienestar del usuario. Los líderes de Meta se beneficiaron de la trágica amplificación del odio, el acoso y la incitación.
Al mismo tiempo, esto ha creado una ola de denunciantes, y es probable que vengan más ahora que está claro que las elecciones de estos ejecutivos llevaron a un "daño en el mundo real"—un término de Silicon Valley que separa los espacios en línea de la vida real. El acuerdo sigue a las duras audiencias de la semana pasada, donde el denunciante Arturo Béjar dijo audazmente: "Simplemente no puedes confiar en Mark Zuckerberg con los niños". Béjar, quien lideró los esfuerzos de seguridad en Instagram, vio a su hija adolescente enfrentar acoso sexista no deseado en la plataforma. Gracias a su papel en Meta, tenía datos reales para medir los daños de Instagram, incluido cómo diferentes cambios algorítmicos afectaron el crecimiento, la participación y la experiencia del usuario.
Un acuerdo de 18 mil millones de dólares es solo una fracción diminuta para Meta, pero la presión seguirá aumentando. Béjar estima que se reunió con Zuckerberg más de 100 veces antes de convertirse en denunciante. Muchos denunciantes comienzan intentando arduamente arreglar los problemas a través de los canales adecuados, solo para enfrentar la negativa de los superiores. Irónicamente, tienden a ser personas que siguen las reglas y se frustran más a medida que sus preocupaciones encuentran indiferencia o cumplimiento superficial en el trabajo.
En diciembre de 2023, enfrenté una intensa reacción negativa en el ámbito académico después de obtener documentos de otra denunciante, Frances Haugen, que planeaba compartir en una base de datos pública. Obtuve los documentos legalmente y usé mi experiencia para ayudar a expertos tecnológicos, periodistas, investigadores y personal de Washington a entender qué revelaban—y qué no—los documentos de Haugen sobre el conocimiento y la responsabilidad de Meta en los problemas de sus productos. Pero el mensaje era claro: Meta, entonces llamada Facebook, sabía sobre el daño que Instagram causaba a las adolescentes.
Sin embargo, a través de cada escándalo, la riqueza de Zuckerberg ha aumentado a casi 200 mil millones de dólares, según Forbes. Las multas no significan nada para alguien tan rico, así que el primer paso para proteger a la sociedad es darle a Meta un nuevo comienzo sin la influencia de Zuckerberg en los productos futuros. Su visión de "un futuro para todos" es una utopía superficial donde los agentes de IA manejan tu vida y tú simplemente fluyes a través de ella.
Más allá de los tribunales, Meta podría abordar esto pidiendo a Zuckerberg que renuncie voluntariamente. Traer esperanza para el futuro de la tecnología significa cambiar el liderazgo de Meta ahora, para que el futuro se forme colectivamente y se construya sobre una nueva reputación y compromiso. Zuckerberg no merece otra oportunidad solo porque puede permitírselo. Al final, todos pagamos por sus errores. Ahora es el momento de que los accionistas alcen la voz y desafíen el control de Zuckerberg.
Joan Donovan es profesora asistente de periodismo en la Universidad de Boston, donde estudia cómo la tecnología afecta a la sociedad. Fundó el Instituto Crítico de Estudios de Internet, donde lidera un proyecto sobre violencia política y movimientos sociales.
Preguntas Frecuentes
Aquí hay una lista de preguntas frecuentes basadas en la premisa del artículo
Preguntas Generales de Contexto
P ¿Quién es Joan Donovan?
R Es una académica e investigadora prominente que estudia cómo los medios, la tecnología y los movimientos sociales interactúan. Anteriormente lideró el Proyecto de Investigación de Tecnología y Cambio Social en el Centro Shorenstein de Harvard.
P ¿Cuál es el punto principal del argumento de Joan Donovan?
R Su punto principal es que Mark Zuckerberg tiene demasiado poder sin control sobre Meta. Argumenta que su control sobre los algoritmos y las políticas de contenido de la empresa ha causado daños graves a la democracia y la seguridad pública, y que debería renunciar como CEO.
P ¿Esto solo se trata de que Facebook sea impopular?
R No. Si bien Facebook tiene problemas de imagen pública, el argumento de Donovan es más específico. Se centra en fallas estructurales en cómo se gobierna Meta, argumentando que Zuckerberg toma decisiones unilaterales que priorizan el crecimiento y la participación sobre la seguridad del usuario y el bienestar social.
P ¿Por qué dice que Zuckerberg específicamente necesita renunciar en lugar de solo cambiar las políticas?
R Argumenta que el problema es la concentración de poder en sí misma. Mientras Zuckerberg tenga control de voto mayoritario, puede revertir cualquier cambio de política a voluntad. Cree que un cambio de liderazgo es necesario para reformar realmente la cultura y la responsabilidad de la empresa.
Críticas y Problemas Específicos
P ¿Qué daño específico dice Donovan que Meta ha causado?
R Señala varios problemas, incluida la amplificación de desinformación sobre elecciones y vacunas, la facilitación del discurso de odio y la incitación a la violencia, y el fracaso en proteger la privacidad de los datos de los usuarios.
P ¿Qué dice Donovan sobre el giro de Zuckerberg hacia el metaverso?
R Lo ve como una distracción. Argumenta que mientras Zuckerberg gasta miles de millones de dólares construyendo mundos de realidad virtual, Meta no está arreglando el daño del mundo real que ocurre ahora mismo en sus plataformas existentes.
P ¿Cuál es la conexión con el motín del Capitolio en este argumento?
