La cotidianeidad y la sensación de comunidad hacen que la mayoría de nosotros no entienda el problema que representan Facebook, Instagram, Twitter y similares. ¿Hemos creado una Máquina del Fin de los Tiempos con apariencia inocua, pero efectos gravísimos?

La Máquina del Juicio Final (en inglés, Doomsday Machine) es un dispositivo que asegura la extinción de toda la vida en el planeta. En política, se supone funciona como herramienta disuasoria frente a un ataque nuclear. De esa manera, el país dueño del dispositivo se aseguraría la mutua destrucción con su enemigo. La idea surgió en la década del 60, cuando los temores a una guerra nuclear eran palpables y novedosos. En cambio, la actual Máquina del Juicio Final es mucho más sutil y aparentemente inofensiva.

Hablamos de las redes sociales, y en especial de Facebook. Hoy en día se piensa que las redes sociales, y la Internet en general, podrían haber sido mejores, que son herramientas de por sí inocuas a las cuales les damos un mal uso. Sin embargo, es probable que el peligro esté en la estructura misma de estas páginas web y aplicaciones móviles, en realidad empresas poderosísimas no sólo económicamente sino también por la información que manejan.

Lo verdaderamente terrorífico de las redes sociales es que, a esta altura, nadie puede manejarlas. Con la elección de Donald Trump y otros líderes similares, se puso en cuestión la responsabilidad de las empresas de tecnología, hasta qué punto debían censurar o actuar como un medio de comunicación cualquiera. La idea de que Facebook y Twitter, por nombrar sólo dos, son sitios públicos donde los debates son abiertos y libres, o donde se comparten inocentemente fotos y estados, es profundamente errónea.

Cuando alguna red social se ve envuelta en una polémica, se suele argumentar que cometieron un error, que la negligencia de la empresa y el mal uso de los usuarios están socavando la reputación que alguna vez la Internet supo tener. Pero con el correr de los años queda cada vez más en claro que los errores no son tales porque, como dijimos, nadie puede manejar las redes. De ese modo, se han transformado en una especie de Máquina del Juicio Final.

Desde los comienzos de la Modernidad, las máquinas nos han amenazados con alienarnos. Desatamos fuerzas que nos superan, tal como lo demostró Frankestein y tantas otras ficciones y escritos filosóficos. A medida que le damos más poder a la tecnología para vivir mejor, esa misma tecnología nos encarcela. El poder nuclear es un claro ejemplo. Hemos llegado a construir la misma arma que destruirá la vida. Una paradoja hoy presente también en artefactos no tan rimbombantes.

Ni Facebook ni ninguna otra red social fue diseñada para mejorar la vida de nadie. Son empresas que buscan generar dinero y acumular poder, y no representan los intereses de los usuarios sino los propios. Es difícil de entenderlo porque las redes sociales parecen pertenecer a quienes la utilizan. Y así lo publicitan, como comunidades libres donde todos nos llevamos bien. Pero Facebook tomó el concepto de comunidad y le quitó todo significa moral.

Tomemos por ejemplo el ascenso de QAnon, el movimiento de conspiranoides cercano de la derecha más extrema de Estados Unidos. Con la ayuda de las redes sociales, QAnon está siendo tomado en serio por un número importante de estadounidenses. Una de las caras visibles del movimiento, Kristian Rouz, sostiene que la prohibición de Twitter sobre QAnon indicaba que “el estado profundo parece estar contraatacando“. Por “estado profundo” se refiere a un grupo de personas que supuestamente controla el mundo desde la oscuridad.

Puede verse como el problema está en la génesis misma de las redes, que permiten libertad y al mismo tiempo censuran cuando el daño está hecho. Por supuesto que una Máquina del Juicio Final es infinitamente más nociva en lo material, pero lo que está en juego sigue siendo cuestión de vida o muerte. Ninguna máquina debería ser capaz de controlar el destino de la población mundial, y eso es lo que hacen tanto Facebook como el resto de las redes.

Ya no eres dueño de ti mismo

Además de los problemas políticos y de censura, existe el grave problema de la privacidad, que llega a límites que la mayoría de los usuarios ni siquiera contempla. De hecho, un grupo de científicos ha descubierto recientemente que Facebook y Twitter representan una amenaza más grave de lo que se pensaba: la información que se comparte en las redes sociales podría permitir a los algoritmos o bots “clonar” tu persona.

En otras palabras, hay un yo real y un yo clonado, es decir una representación online de los pensamientos, comportamientos y respuestas de la persona real. Como si esto no fuera de por sí aterrador, estos perfiles clonados pueden utilizarse en las redes sociales para, por ejemplo, influir en la experiencia online del verdadero yo. Según el estudio, publicado en Nature Human Behaviour, las empresas tecnológicas podrían crear clones con fines políticos.

En el artículo, los científicos afirman: “…un modelo de lenguaje [el ‘alter’] puede ser entrenado con los datos disponibles para generar un nuevo texto con la “voz” de un usuario, y con ese modelo de lenguaje se podría derivar un perfil para el usuario consultándole la probabilidad de que haga cierto tipo de declaraciones… Los modelos lingüísticos derivados de este modo pueden tener importantes consecuencias: combinar las predicciones de un modelo lingüístico con un algoritmo para recomendar nuevos vínculos sociales.“

¿Cómo haremos entonces para detener al monstruo que hemos creado? Si aceptamos que no puede detenerse, sólo nos queda la esperanza de cambiarlo desde adentro. Pero eso es imposible por cómo están diseñadas las redes sociales. Podría decirse que alcanza con abandonar toda red social y pasar al anonimato. Tampoco es suficiente: según el estudio citado, los bots son capaces de clonar personalidades incluso de quienes nunca tuvieron una cuenta en Facebook.

La inquietante pregunta que queda en el aire es: ¿qué ocurre si el fin del mundo no llega en una explosión nuclear, sino en una confusión total de nuestras identidades que, en última instancia, nos llevará a la locura? ¿Estamos realmente tan lejos de eso?

Referencias:
Information flow reveals prediction limits in online social activity, en https://www.nature.com
The Atlantic Daily: 3 Reasons Facebook Is Dangerous, en https://www.theatlantic.com
Five Hidden Dangers Of Using Facebook, en https://www.tesh.com