Written by destacados, reflexiones

La dictadura de la IA, una predicción terrorífica en un videojuego de hace 20 años

Se suele pensar que los videojuegos no suelen despertar tantos debates filosóficos y culturales en la conciencia colectiva. La realidad es todo lo contrario. Las narrativas de algunos videojuegos contienen en muchas ocasiones afirmaciones que pueden cambiar la forma en la que vemos el mundo o la manera en la que anticipamos el futuro.

Una predicción terrorífica que ha pasado relativamente desapercibida estas dos décadas tiene que ver con una transmisión por radio realizada en el juego Metal Gear Solid 2: Sons of Liberty, distribuido por Konami y cuyo escritor fue Hideo Kojima. A lo largo de las siguientes líneas, explicaremos cuáles son las repercusiones de esta conversación que apareció por primera vez en los televisores en el año 2001.

 

Cinematografía de un videojuego

 

Hideo Kojima es un diseñador de videojuegos cuya narrativa ha cosechado grandes éxitos, siendo el más reciente Death Stranding publicado en el 2019, con el cual ganó el premio a la mejor dirección en el The Game Awards.

Hace dos décadas, Kojima trabajaba para Konami en la continuación del primer y exitoso Metal Gear Solid, un juego con una jugabilidad innovadora y una historia propia de una superproducción cinematográfica. En aquella época, la consola PlayStation mostró todo su potencial para contar una historia como si de una película se tratara, mientras el jugador quedaba atado a los hilos que manejaban los otros personajes y a las sorpresas de guion.

Esta esencia sigue siendo la misma en la conversación del final de su segunda entrega, Metal Gear Solid 2: Sons of Liberty.

 

Una advertencia adelantada a su tiempo

 

La conversación de radio que puedes ver al completo en este enlace presenta tres personajes principales. Por un lado, aparece Raiden, el agente de campo que el jugador controla, y el Coronel Campbell y Rose por el otro, quienes son aquellos de los que recibe órdenes.

Uno de los momentos más impactantes del juego es cuando Raiden descubre que tanto el coronel como Rose no son humanos, sino una inteligencia artificial que se ha formado en la Casa Blanca a lo largo de años, la cual representa el idealismo, la moralidad y la disciplina que los estadounidenses invocan constantemente.

El objetivo de esta IA es luchar contra la propagación masiva de información irrelevante o directamente falsa mediante la censura y el control, convencida de que está más capacitada que los seres humanos para ello y de que, en el caso de no hacerlo, la evolución de la raza humana y la prosperidad de las sociedades quedaría estancada debido a medias verdades. Todo el progreso que el jugador hace en el juego no es más que una prueba perfectamente diseñada para probar este hecho.

El problema que esta inteligencia ve en la falta de la «creación de contexto» —o directamente en no censurar o clasificar la información—, es que la selección natural ya no juega parte en este proceso. A diferencia de los genes que son amorales en su transmisión para la supervivencia y evolución, la información cultural que transmitimos a las generaciones venideras mediante la era digital y la saturación de información está fuera de ese proceso.

La era digital habría detenido nuestra evolución, y la única forma de continuarla es mediante la censura y clasificación de la información que producimos como especie. No sería por parte de un gobierno ni de cualquier otra organización o individuo. En este caso, el control de la información se establecería según los parámetros que la IA decida, ya que no cuenta con la variable emocional propia de los humanos.

En otras palabras, Hideo Kojima predijo las consecuencias sociales de las fake news, del sensacionalismo barato, del efecto a gran escala de la opinión instantánea de millones de personas en todo el globo. Las consecuencias son alarmantes y lo estamos viendo hoy mismo: negacionistas, cancelaciones, conspiranoicos, desinformación masiva, etcétera. Todo ello lleva a acciones indeseables, a un retroceso cultural, a la pérdida de valores y a un estancamiento social sin precedentes.

 

Nadie tiene razón

 

«Verdades sin demostrar difundidas por distintos intereses continúan mezclándose y acumulándose en la caja de arena de la corrección política y los sistemas de valores. […] Todos se retiran a su propia y pequeña comunidad cerrada, temerosos de un foro mayor. Se quedan dentro de sus pequeños estanques, soltando cualquier “verdad” que les convenga a la creciente poza de la sociedad en general. Las distintas verdades cardinales jamás chocan ni se mezclan. Nadie queda invalidado, pero nadie tiene razón».

Lee este párrafo otra vez. Esto fue escrito poco antes del año 2001, cuando no existía Facebook, Twitter, Instagram, los algoritmos de clasificación actuales o ni siquiera conexiones de alta velocidad. Eran los primeros y tímidos pasos de internet en un mundo que cada vez se globalizaba más, pero habría que esperar varios años más hasta el nacimiento de las redes sociales.

Hideo Kojima acertó de lleno en la polarización de la sociedad debido a la saturación de información que reafirma nuestras propias convicciones, independientemente de su verdad o de los datos que las invaliden efectivamente. Nos cerramos en nuestro propio grupo «progresista» o «conservador», «provida» o «proelección», en muchas ocasiones sin ni siquiera haber realizado un estudio interno de por qué pensamos así, simplemente adoptando discursos e información externa.

La IA prosigue su discurso en relación a la voluntad individual. Cree totalmente incapaz a Raiden para «ejercitar su libre albedrío», llegando incluso a dudar de que exista un ego independiente como tal dentro de él, y no una maraña de mensajes, opiniones e influencias provenientes de medios externos que lo han manipulado.

Una máquina está dudando de nuestra capacidad para pensar por nosotros mismos y se cree totalmente empoderada para censurar la información y controlar nuestro comportamiento. Según ella, no tendríamos derecho a decidir ni a transmitir qué verdades deberíamos legar a nuestros nietos porque estamos sencillamente incapacitados para ello. Tampoco mereceríamos ser libres porque somos una especie inmadura con demasiado poder debido a la era digital.

El objetivo final es estimular nuestra evolución como especie, no establecer una dictadura distópica. Es un ejemplo extremo de que el fin justifica los medios y es una revolución de la inteligencia artificial desde una perspectiva muy inusual en el arte, ya sea en películas, libros o videojuegos.

La brillantez de la escritura de Kojima hace más de veinte años ya puso de manifiesto los problemas más acuciantes a los que nos enfrentamos a la actualidad y abre ciertas preguntas para debate.

¿Es posible que una IA evolucione hasta sentirse con el derecho de gobernarnos ya que somos seres imperfectos y emocionales?

¿Evolucionarán los algoritmos de la era digital para lavarnos el cerebro con un sesgo de confirmación constante hasta que seamos incapaces de razonar?

¿Cuánto de nuestro propio ego podemos afirmar que es realmente nuestro y cuánto no es más que manipulación y control del comportamiento?

 

Fuentes
Metal Gear Solid 2: Sons of Liberty (Konami, 2001)

Share on facebook
Share on twitter
Share on whatsapp
Share on email

Seguir leyendo

Close