LAS REDES
DEL CAOS
🖧
La historia secreta de cómo
las redes sociales
empobrecen la mente y
erosionan el mundo
Un portentoso trabajo de investigación periodística que revela qué se esconde tras los likes y la aparente frivolidad de las redes sociales, al tiempo que describe una sociedad peligrosamente a merced de unos gigantes tecnológicos que eluden cualquier principio ético ante la perspectiva del lucro.
En 2018, un grupo de investigadores descubrió que el algoritmo de YouTube podía identificar correctamente un vídeo de un niño semidesnudo y determinar que esa característica era el atractivo de la grabación, al tiempo que lo promocionaba entre usuarios que buscaban contenido pedófilo. En Facebook tardaron poco en darse cuenta de que los usuarios pasaban muchas más horas en su página cuando las informaciones que leían sobre vacunas eran alarmistas o conspirativas, con lo que no dudaron en promocionar ese tipo de publicaciones, en especial entre grupos de madres.
Las redes sociales son probablemente el mayor experimento colectivo de la humanidad y su influencia es mucho más profunda de lo que imaginamos. Nuestras mentes, hijos y democracias están a merced de una industria carente de toda ética cuyo único objetivo parece ser apropiarse de nuestro tiempo y atención.
Basándose en años de reportajes en todo el mundo, Max Fisher cuenta la historia de cómo Meta, Twitter, YouTube y otras redes sociales han explotado la fragilidad psicológica de sus usuarios para crear algoritmos que potencien la radicalización, el extremismo y la violencia. Todo ello con un único objetivo: maximizar sus beneficios y la cuenta de resultados de sus empresas.
PRÓLOGO
Consecuencias
Entrar en la sede central de Facebook puede parecer como entrar en el Vaticano: un centro de poder rodeado de hermetismo y opulencia que abochornaría a cualquier oligarca ruso. La empresa destinó 300 millones de dólares solo a la construcción del número 21, una espaciosa plaza de acero y cristal formada por jardines, patios y restaurantes gratuitos que visité a finales de 2018. Entre reuniones, me llamó la atención un mural de dos pisos de altura que había en un muro trasero, pues me recordó a un famoso artista chino al que poco antes se le había dedicado una exposición en el Museo Guggenheim. Pregunté a la responsable de relaciones públicas que me acompañaba durante la visita si habían pintado el muro a propósito, imitando el estilo de ese artista. Ella sonrió con educación. No se trataba de una imitación. Habían traído al artista en avión expresamente para que pintara un original en los muros de Facebook. Y lo mismo con otros muchos artistas. A todo mi alrededor, programadores con un sueldo magnífico iban ajetreados de aquí para allá por pasillos adornados con murales de un valor incalculable.
Dentro de mi mochila, entre varias libretas, estaba mi tique de entrada: más de 1.400 páginas de documentos internos, procedentes de zonas de todo el planeta, que ponían al descubierto cómo la mano invisible de Facebook establecía los límites de lo aceptable en política y en los discursos para 2.000 millones de usuarios de todo el mundo. Para el trabajador que me los había filtrado, los archivos eran una prueba de la negligencia y los atajos de la compañía para intentar frenar el creciente revuelo internacional que, según él, los productos de la empresa agravaban o incluso provocaban. Para mí, eran mucho más que eso. Eran una ventana que permitía ver qué opinaban los directivos de Facebook sobre las consecuencias de la aparición y el crecimiento de las redes sociales.
Como otras muchas personas, de entrada yo había supuesto que los peligros de las redes sociales provenían sobre todo del mal uso que de ellas hacían personajes malvados -propagandistas, agentes extranjeros o vendedores de noticias falsas- y que, en el peor de los casos, las distintas plataformas eran una vía pasiva por la que discurrían problemas que la sociedad ya tenía de antes. Sin embargo, en casi todos los sitios a los que viajé por mi actividad periodística para informar sobre déspotas, guerras y revueltas de países lejanos, se vinculaban una y otra vez hechos extraños y extremos a las redes sociales. Unos disturbios repentinos, una nueva organización radical o la creencia generalizada en alguna estrambótica conspiración: todo ello tenía un vínculo común. Y, a pesar de que en Estados Unidos aún no había estallado la violencia, las similitudes con lo que estaba ocurriendo allí eran innegables. Todas las semanas salía alguna noticia sobre una conspiración de Twitter que llegaba a la política nacional, una subcultura de Reddit que derivaba en el neonazismo o un adicto a YouTube que perpetraba una masacre.
Y la inesperada victoria de Donald Trump en 2016 se había atribuido, en parte, a las redes sociales. Aunque el papel de las plataformas aún se entendía poco, ya era evidente que el ascenso de Trump se debía a unos nuevos y extraños movimientos de base y a unas opiniones muy polarizadas que proliferaban en internet, además de a unos agentes rusos que habían sacado partido de las tendencias de las redes sociales para distorsionar la realidad y reforzar la identidad. Ese patrón mundial parecía indicar algo fundamental de la tecnología, pero nadie era capaz de decirme qué era aquello exacta mente, por qué estaba sucediendo o qué significaba.
En el otro extremo del mundo, un joven al que llamaré Jacob -empleado de una de las muchas empresas a las que Silicon Valley subcontrata el trabajo sucio- albergaba más o menos las mismas sospechas que yo. Había hecho sonar todas las alarmas que había podido. Sus jefes le habían escuchado con preocupación, decía, incluso con solidaridad. Habían visto las mismas cosas que él. Había algo en el producto que supervisaban que estaba yendo peligrosamente mal.
Jacob, un chico delgado y amante de los libros, había crecido enamorado de internet y se había pasado años jugueteando con ordenadores. Aquellas tecnologías parecían representar lo mejor de Estados Unidos. Jacob admiraba mucho a magnates de internet como Mark Zuckerberg, director ejecutivo y fundador de Facebook, quien sostenía que conectar el mundo lo convertiría en un lugar mejor. Cuando Jacob encontró un trabajo en una empresa que revisaba contenido de usuarios de Facebook e Instagram, una de las varias agencias que la compañía subcontrata en todo el mundo, le pareció que empezaba a formar parte de la historia.
Cada día su equipo revisaba miles de publicaciones de todo el mundo y señalaba todas aquellas que incumplieran una norma o se pasaran de la raya. Él tenía la sensación de que era una tarea agotadora pero necesaria. No obstante, a lo largo de algunos meses de los años 2017 y 2018, se habían dado cuenta de que las publicaciones estaban cada vez más cargadas de odio, de conspiraciones y de extremismo. Y notaban que, cuanto más incendiaria era la publicación, más la difundían las plataformas. Les parecía que había un patrón, algo que se repetía en las decenas de sociedades e idiomas que tenían el encargo de supervisar.
Además, creían que su capacidad de frenar el odio y la incitación crecientes se veía limitada por lo mismo que supuestamente tenía que ayudarlos: los montones de reglamentos secretos que dictaban qué podían permitir en las plataformas y que tenían que eliminar. Para los más de 2.000 millones de usuarios de Facebook, estas normas son en su mayor parte invisibles. Están pensadas para que las plataformas sean seguras y civilizadas, y lo regulan todo, desde la frontera entre la libertad de expresión y los discursos de odio hasta los límites de los movimientos políticos permisibles. Pero a medida que los reglamentos se demostraron insuficientes para contener los perjuicios que con frecuencia creaba la propia plataforma, y a medida que la super visión empresarial de esta parte -muy poco glamurosa- del negocio iba a la deriva, las guías internacionales habían ido ampliándose hasta convertirse en cientos de páginas confusas y a menudo contradictorias.
Algunas de las más importantes -sobre cómo identificar el reclutamiento de terroristas o la supervisión de elecciones polémicas- estaban llenas de erratas, errores fácticos y vacíos legales obvios. La chapucería y las lagunas indicaban una peligrosa indiferencia por una labor que Jacob veía como una cuestión de vida o muerte, y eso en un momento en que las plataformas estaban repletas de un extremismo que cada vez más hacía derramar sangre en el mundo real. Tan solo unos meses antes, en Birmania, las Naciones Unidas habían acusado formalmente Facebook de permitir que su tecnología contribuyera a provocar uno de los genocidios más atroces desde la Segunda Guerra Mundial.
Jacob anotó las conclusiones y las preocupaciones de su equipo para enviarlas a instancias superiores. Pasaron meses. El aumento del extremismo en internet no hizo más que empeorar. Él iba todos los días al trabajo y esperaba delante de su ordenador a que llegase una respuesta de la sede central, en los lejanos Estados Unidos, pero nunca llegó. Jacob tuvo una idea. Consistiría en meterse dentro del sistema de seguridad en el trabajo, extraer a escondidas archivos confidenciales y filtrarlos al extranjero, y luego con vencer a los medios de que publicasen sus advertencias en su lugar: todo ello con la esperanza de hacer llegar la información a la pantalla de una persona: Mark Zuckerberg, fundador y director ejecutivo de Facebook. Jacob estaba seguro de que la distancia y la burocracia le impedían llegar a las personas responsables. Con que pudiera hablar con ellos, seguro que querrían arreglar las cosas.
Jacob se puso en contacto conmigo por primera vez a principios de 2018. Una serie de artículos míos en los que había investigado el papel de las redes sociales en el aumento de la violencia masiva en lugares como el pequeño país asiático de Sri Lanka, le parecieron una confirmación de que los problemas que él había observado en la pantalla eran reales. Y que tenían unas consecuencias cada vez mayores y a veces mortíferas. Pero sabía que su palabra por sí sola no sería suficiente. Tendría que sacar a hurtadillas de los ordenadores de su oficina los reglamentos internos de la empresa y los documentos sobre formación. No sería fácil -las máquinas estaban muy bien protegidas y las oficinas estaban monitorizadas de cerca-, pero era posible: un año antes, alguien había logrado hacer llegar algunos de los archivos a The Guardian y más adelante también se filtraron documentos a Vice News. Jacob creó un programa para sacar los archivos sin ser visto, encriptándolos y eliminando las huellas digitales con las que pudiera encontrarse su rastro o incluso que pudiera conducir hasta el país donde estaban ubicadas sus oficinas. Me envió algunos archivos mediante un servidor seguro. Al cabo de algunas semanas, me subí a un avión para ir a recoger el resto de los archivos y para reunirme con él.
Facebook, al saber lo que había obtenido, me invitó a su elegante sede central y me ofreció la posibilidad de entrevistarme con varios directivos de la empresa. Todos ellos eran profesionales tenaces. Algunos se habían granjeado una admirable reputación en Washington, en ámbitos como la lucha antiterrorista o la ciberseguridad, antes de sumarse a la fiebre del oro de Silicon Valley. Otros tenían un historial impresionante en el ámbito de los derechos humanos o la política. Nada tenían que ver con los hackers de garaje y los soñadores que no habían terminado los estudios que antes gobernaban las plataformas, aunque más adelante se vería a las claras que las ideologías y sesgos de residencia estudiantil de la primera época de Silicon Valley aún se defendían con una convicción casi religiosa en sus campus y seguían integrados en la propia tecnología que difundía esos mismos ideales al resto del mundo.
En mis conversaciones en la sede central de Facebook detecté un extraño patrón. Un ejecutivo me explicaba el desafío que consumía sus días: impedir que los terroristas reclutaran adeptos en la plataforma, ser más listo que los hackers de Gobiernos hostiles, determinar qué combinación de palabras constituía una inaceptable incitación a la violencia. Casi cualquier pregunta que formulaba, por sensible que fuese, daba lugar a una respuesta directa y matizada. Cuando un problema estaba por resolver, lo reconocían. Ninguno tuvo que comprobar sus notas para decirme, por ejemplo, cuál era la política de Facebook con respecto a las organizaciones independentistas kurdas o para explicarme sus métodos para elaborar las normas sobre los discursos de odio en tagalo.
Me preguntaba: con unos directivos tan meticulosos y ultracualificados, ¿por qué los problemas para los que articulan unas respuestas tan razonadas parecen ir siempre a peor? Cuando organizaciones pro derechos humanos alertan a Facebook de un peligro inminente salido de su plataforma, ¿por qué tan a menudo la empresa no actúa? ¿Por qué periodistas como yo, con tan poca capacidad de escudriñar las operaciones de la plataforma y una diminuta parte de su personal o presupuesto, siguen publicando informaciones sobre atrocidades y sectas nacidas en Facebook que parecen cogerlos por sorpresa? Pero en algún momento de cada entrevista, cuando les preguntaba por los peligros causados no por personajes malvados que hacen un mal uso de la plataforma, sino por la plataforma en sí, era como si se levantase un muro mental.
«Los abusos que ves no son ninguna novedad -dijo la jefa de políticas internacionales de la compañía cuando le pregunté por las consecuencias de la plataforma-. Lo que es distinto en este caso es el poder de amplificación de algo como una red social».
«Como sociedad, aún nos queda mucho para entender todas las consecuencias de las redes sociales», dijo el jefe de ciberseguridad de la compañía dando a entender que el cambio principal provocado por la tecnología había sido sencillamente reducir la «fricción» en la comunicación, lo cual permitía que los mensajes viajasen más deprisa y más lejos.
Aquella era una imagen extrañamente incompleta de cómo funciona Facebook. En la empresa, muchos parecían casi no ser conscientes de que los algoritmos y el diseño de la plataforma configuran de forma deliberada las experiencias y los incentivos de los usuarios y, por tanto, a los propios usuarios. Estos elementos son el núcleo del producto, la razón por la que cientos de programadores iban de un lado para otro mientras hablábamos. Era como entrar en una fábrica de cigarrillos y que los directivos te dijesen que no entendían por qué la gente se quejaba de los efectos sobre la salud de las cajetillas de cartón que ellos vendían.
En un momento dado, mientras hablaba con dos empleados que supervisaban la respuesta ante las crisis, dejé a un lado el modo periodista y los alerté de algo preocupante que había visto. En países de todo el mundo estaba aflorando un rumor espantoso, de forma al parecer espontánea, en Facebook: que unos misteriosos forasteros secuestraban niños locales para convertirlos en esclavos sexuales y extraerles los órganos. Las comunidades expuestas a ese rumor estaban respondiendo de maneras cada vez más peligrosas. Cuando a través de Facebook y WhatsApp el rumor llegó a una zona rural de Indonesia, por ejemplo, en nueve aldeas se habían formado turbas que habían atacado a transeúntes inocentes. Era como si ese rumor fuera algún virus misterioso que convertía comunidades normales en muchedumbres sanguinarias, y aquello parecía salir dela propia plataforma. Los dos emplea dos de Facebook escucharon y asintieron con la cabeza. Ninguno preguntó nada. Uno comentó de paso que tenía la esperanza de que, algún día, una instancia independiente investigase cosas como aquellas, y luego cambiamos de tema.
En cualquier caso, en Facebook siguieron apareciendo versiones del rumor. Una versión estadounidense, que había surgido primero en el tablón de mensajes 4chan bajo la etiqueta «QAnon», había llegado poco antes a Facebook como una cerilla a un charco de gasolina. Más adelante, cuando QAnon se convirtió en un movimiento con decenas de miles de seguidores, un informe interno del FBI lo identificó como una amenaza terrorista nacional. Durante todo el proceso, los motores de recomendación de Facebook fomentaron los grupos de QAnon hasta alcanzar enormes cifras de lectores, como si ese no fuera sino otro club más, con lo cual contribuyeron a agrandar la conspiración hasta que tuvo el tamaño de un partido político minoritario, al parecer por ninguna otra razón que los clics continuos que generaba el contenido de QAnon.
No obstante, dentro de los muros pintados de Facebook, el convencimiento de que el producto era algo positivo parecía inquebrantable. El ideal funda mental de Silicon Valley según el cual hacer que la gente pase más y más tiempo conectada a internet enriquecerá su mente y hará del mundo un lugar mejor estaba muy extendido entre los ingenieros que crean y moldean los productos.
«A medida que la plataforma llega a más países y más personas, aumentan los riesgos -afirmó una ingeniera veterana sobre el importantísimo canal de noticias de Facebook-. Pero también creo que hay mayores oportunidades para que la gente esté expuesta a nuevas ideas.» Y me aseguró que eliminarían cualquier riesgo derivado de la misión de la plataforma de maximizar la participación de los usuarios.
Más adelante me enteré de que, poco antes de mi visita, varios investiga dores de Facebook --designados por la empresa para estudiar los efectos de su tecnología en respuesta a las sospechas crecientes de que el sitio podía estar empeorando las divisiones políticas en Estados Unidos- habían alertado a nivel interno de que la plataforma estaba haciendo justo aquello de lo que los ejecutivos de la compañía, en nuestras conversaciones, habían hecho caso omiso.
«Nuestros algoritmos sacan provecho de la atracción del cerebro humano por la división», alertaron los investigadores en una presentación de 2018 que luego se filtró al Wall Street Journal. De hecho, decía también la presentación, los sistemas de Facebook estaban diseñados de tal forma que ofrecían «un contenido cada vez más divisivo para captar la atención de los usuarios e incrementar el tiempo que estos pasaban en la plataforma». Los ejecutivos guardaron el estudio en un cajón y rechazaron gran parte de las recomendaciones que en él se hacían.
Esos consejos habrían consistido en modificar los sistemas de promoción que elegían lo que ven los usuarios y podrían haber reducido el tiempo que pasaban conectados. La pregunta que yo había traído a los pasillos de Facebook -¿cuáles son las consecuencias de hacer pasar una porción cada vez mayor de la política, la información y las relaciones sociales humanas a través de unas plataformas de internet diseñadas expresamente para manipular la atención?- allí era un absoluto tabú. Los meses posteriores a mi visita coincidieron con lo que fue el periodo de mayores críticas públicas de la historia de Silicon Valley hasta entonces. Los gigantes de las redes sociales tuvieron que comparecer ante el Congreso estadounidense, se vieron forzados a aceptar leyes extranjeras, multas multimillonarias y amenazas de fragmentación forzosa. Los personajes públicos se referían de forma habitual a las compañías como una de las mayores amenazas de nuestro tiempo. En respuesta a eso, los directivos de las empresas se comprometieron a hacer frente a los daños que emanaban de sus servicios. Inauguraron salas donde se controlaría la integridad de las elecciones y actualizaron sus políticas de revisión de contenidos. Pero su modelo de negocio -mantener a las personas pegadas a sus plataformas cuantas más horas al día mejor-y la tecnología subyacente desplegada para alcanzar este objetivo no cambiaron casi nada. Y mientras los problemas que habían prometido resolver no hacían más que empeorar, ganaban más dinero que nunca.
La nueva década trajo una ola de crisis. La pandemia del coronavirus, conflictos raciales en Estados Unidos, el ascenso meteórico de una nueva ex trema derecha violenta y el intento de destrucción de la propia democracia estadounidense. Todas esas crisis pusieron a prueba la influencia de las plataformas en nuestro mundo. O la pusieron al descubierto, ya que sacaron a la luz ramificaciones que llevaban años formándose.
En verano de 2020, una auditoría independiente de Facebook -encargada por la compañía ante la presión de organizaciones de derechos civiles- llegó a la conclusión de que la plataforma era todo lo que sus ejecutivos me habían insistido en que no era. Sus políticas permitían una desinformación descontrolada que podía alterar elecciones. Sus algoritmos y sistemas de recomen dación estaban «conduciendo a los usuarios hacia cámaras de resonancia en las que se potenciaba el extremismo», lo cual les enseñaba a odiar. Pero quizás lo peor de todo era que el informe concluía que la empresa no entendía cómo sus productos afectaban a sus miles de millones de usuarios.
Sin embargo, había unas pocas personas que sí lo entendían y, bastante antes de que muchos de nosotros estuviéramos preparados para oírlo, intentaron alertarnos. La mayoría empezaron siendo unos verdaderos creyentes obsesionados con la tecnología, algunos formaban parte de Silicon Valley, motivo por el cual precisamente estaban mejor situados para darse cuenta pronto de que algo estaba yendo mal, para investigarlo y evaluar las consecuencias. Pero las empresas que afirmaban que querían entender esas ideas obstaculizaban sus iniciativas, cuestionaban su reputación y ponían en duda sus conclusiones, hasta que en muchos casos las empresas se vieron forzadas a admitir, aunque fuera solo de forma implícita, que quienes habían hecho sonar las alarmas tenían razón desde el principio. Hicieron su trabajo, al menos de entrada, de forma independiente, empleando métodos muy distintos para abordar la misma pregunta:
¿cuáles son las consecuencias de esta tecnología? Este libro trata sobre la misión de responder a esta pregunta, y está narrado, en parte, a través de las personas que la llevaron a cabo.
Se demostró que la creencia popular inicial de que las redes sociales fomentan el sensacionalismo y la ira, aunque era cierta, se quedaba muy corta. Una cantidad cada vez mayor de pruebas, recogidas por muchos académicos, periodistas, informantes y ciudadanos preocupados, hace pensar que sus efectos son mucho más profundos. Esta tecnología ejerce tal influencia en nuestra psicología y nuestra identidad, y es tan omnipresente en nuestras vidas, que cambia nuestra manera de pensar, comportamos y relacionarnos unos con otros. El efecto, multiplicado por miles de millones de usuarios, ha sido la transformación de la propia sociedad.
No se puede culpar a Silicon Valley de las flaquezas psicológicas que nos llevan a hacer daño a los demás o a actuar contra nuestros propios intereses. Ni de la profunda polarización cultural, en Estados Unidos y en otras partes, que allanó el camino para convertir esos nuevos espacios en campos para el conflicto partidista, donde se destruye todo sentido compartido de bienestar o realidad. Ni siquiera puede culparse a las compañías más grandes de Silicon Valley del modelo de financiación del sector de la alta tecnología que permitió su aparición, que consiste en ofrecer inversiones multimillonarias a veinteañeros con dificultades sociales y luego exigirles una rentabilidad in mediata y exponencial, sin que importen mucho los obscenos incentivos que eso genera.
Aun así, esas compañías acumularon algunas de las mayores fortunas empresariales de la historia sacando provecho de esas tendencias y debilidades, en un proceso que ha dado lugar a una época totalmente nueva de la experiencia humana. Las consecuencias -aunque, visto desde el presente, parecen casi previsibles al cien por cien, si alguien se hubiese tomado la molestia de prestar atención- quedaban escondidas detrás de una ideología según la cual las personas serían más felices y libres si pasaban más tiempo en internet. Y quedaban ocultas también detrás de una cepa del capitalismo de Silicon Valley que promueve una subcultura de ingenieros contestataria, descarada y casi mesiánica para dirigir las empresas que gobiernan nuestras mentes.
Cuando se presionó a esas compañías para que se comportasen, al menos en parte, como las instituciones de Gobierno de facto en las que se habían convertido, terminaron en el centro de crisis políticas y culturales de las que eran culpables parciales. Siendo benévolos, podríamos calificar el arbitraje de una democracia empeñada en su propia destrucción como una labor ingrata: si las compañías no hubieran alcanzado posiciones de tanto poder, no se habrían negado a asumir responsabilidades hasta que se les forzó a hacerlo a punta de pistola regulatoria y, en casi cada etapa del proceso, no habrían puesto en riesgo el bienestar de sus usuarios para seguir generando miles de millones de ingresos mensuales. Puesto que los gigantes de las redes sociales tenían pocos incentivos para afrontar el coste humano de sus imperios -un coste asumido por el resto de las personas, igual que un pueblo situado en el tramo inferior de un río en el que una fábrica desecha residuos tóxicos en su pozo comunitario-, tendrían que hacerlo en su lugar decenas de personas alarmadas externas al sector y desertores de Silicon Valley.
VER+:
.jfif)
.jfif)
