Visiones peligrosas: cómo la búsqueda de la utopía podría conducir a la catástrofe

Las visiones de utopía están omnipresentes a lo largo de la historia occidental. Han inspirado grandes obras de arte y literatura, han motivado a innumerables creyentes a obedecer los mandamientos de Dios y han impulsado algunos de los conflictos más sangrientos en la biografía colectiva de nuestra especie.

Las visiones utópicas también son una característica central del revuelo en torno a la inteligencia artificial general, o AGI. En un artículo titulado "Por qué la IA salvará el mundo", el multimillonario tecnológico Marc Andreessen escribe que los sistemas avanzados de IA nos permitirán "asumir nuevos desafíos que han sido imposibles de abordar sin la IA, desde curar todas las enfermedades hasta lograr viajes interestelares". " El director ejecutivo de OpenAI, Sam Altman, declara de manera similar que con AGI "podemos colonizar el espacio. Podemos hacer que la fusión funcione y la [energía] solar a escala masiva. Podemos curar todas las enfermedades". El utopismo está por todas partes en Silicon Valley.

El problema es que la utopía tiene un lado amenazador. En primer lugar, su búsqueda puede causar daños profundos a quienes se interponen en el camino. Esta es la razón por la que las fantasías utópicas han alimentado algunas de las peores atrocidades de la historia: si los medios están justificados por los fines, y los fines son, literalmente, un mundo utópico de cantidades infinitas o astronómicas de valor, entonces, ¿qué es exactamente lo que está fuera de discusión cuando llega a realizar esos fines?

Ya podemos ver este tipo de pensamiento en la carrera hacia AGI: empresas como OpenAI se han involucrado en un robo masivo de propiedad intelectual, lo que ha resultado en una serie de demandas, y sistemas como ChatGPT se basan en la explotación brutal de personas en el Sur Global, algunos de los cuales se les pagó 1,32 dólares por hora para examinar algunos de los materiales más horrendos de la web. Estos daños seguramente justifican los beneficios, dado que, en palabras de Altman, "estamos a sólo unos pocos avances de la abundancia a una escala que es difícil de imaginar".

Relacionado

En segundo lugar, la realización de la utopía también podría tener consecuencias catastróficas, ya que la mayoría de las visiones utópicas son inherentemente excluyentes. Siempre hay alguien que queda deliberadamente excluido de cualquier utopía imaginada: algún grupo indeseable cuya presencia en el paraíso lo descalificaría para contar como tal. Si el cielo cristiano incluyera a los ateos, por ejemplo, no sería el cielo. Por lo tanto, uno siempre debería preguntarse para quién es una visión utópica particular. ¿Todos o sólo unos pocos elegidos? Si es así, ¿a qué personas se les permite entrar y cuáles son desterradas a la perdición, si no sentenciadas a ser aniquiladas?

Siempre habría que preguntarse para quién es una determinada visión utópica. ¿Todos o sólo unos pocos elegidos? Si es así, ¿a qué personas se les permite entrar y cuáles están desterradas a la perdición?

Aunque las creencias religiosas están disminuyendo rápidamente en Occidente, el utopismo no. Por eso es importante comprender la naturaleza y los peligros potenciales del pensamiento utópico. Para manejar mejor estos temas, me comuniqué con mi colega Monika Bielskyte, una brillante consultora de futuros que cuenta con Universal Studios, DreamWorks y Nike entre sus clientes anteriores. También fue consultora sobre la exitosa película "Black Panther: Wakanda Forever" y durante la última década ha dado charlas sobre el futuro en importantes conferencias de medios y tecnología en todo el mundo. Subvirtiendo un término del gurú tecnológico Kevin Kelly, desarrolló el marco de los "futuros de protopía", que propone una visión regenerativa e inclusiva para el futuro como alternativa al binario utopía-distopía.

En nuestra conversación telefónica, discutimos una variedad de temas, incluidos los orígenes del pensamiento utópico y si la élite tecnológica son "verdaderos creyentes" o simplemente están utilizando el utopismo como una "cortina de humo" para distraer la atención de su destrucción del planeta. Esta entrevista ha sido editada para mayor extensión y claridad.

Me ha interesado mucho esta afirmación de que la utopía es inherentemente excluyente. Te escuché decir en un podcast que los pueblos marginados a menudo están mejor en distopías imaginadas que en utopías. ¿Podrías dar más detalles?

Ni siquiera es que estén mejor en las distopías que en las utopías: ¡literalmente no existen en las utopías! Casi sin excepción, las personas marginadas son completamente borradas de todas las visiones, excepto de las más recientes, utópicas. Prácticamente el único lugar donde existen pueblos marginados en la ciencia ficción y las visiones futuristas ha sido en las distopías (y su presencia a menudo se percibe como un significante de distopía), porque literalmente no hay lugar para ellos en la utopía, dadas las tendencias eugenésicas y excluyentes. naturaleza del utopismo. Por ejemplo, la presencia de personas queer, discapacitadas y neurodivergentes niega de alguna manera la naturaleza misma del utopismo, porque si la discapacidad todavía existe (y mucho menos se celebra), ¿es siquiera una utopía? Hay todo un conjunto de visiones futurológicas superficialmente inspiradoras que exteriormente celebran este borrado.

"La presencia de personas queer, discapacitadas y neurodivergentes niega de alguna manera la naturaleza misma del utopismo: si la discapacidad todavía existe (y mucho menos se celebra), ¿es siquiera una utopía?"

Entonces, inevitablemente hay que hacerse la pregunta: ¿cómo llegamos al punto en el que todas estas personas de origen marginado literalmente han desaparecido? ¿Hubo un genocidio selectivo? ¿Una especie de eliminación eugenésica de esas identidades particulares? Es por eso que estas visiones crean esta situación realmente difícil en la que muchas personas creativas de estos entornos marginados terminan teniendo esa preferencia por el género distópico, porque esas eran las únicas visiones de ciencia ficción en las que se veían a sí mismos como niños o adolescentes.

Entonces empezamos a pensar: "Bueno, ¿es esa la única historia del futuro que podemos contar como pueblos marginados: de opresión y lucha interminables?" En consecuencia, esto crea una reducción de las posibilidades de imaginar un futuro en el que las personas con identidades marginadas no se encuentren en este estado continuo o incluso ampliado de opresión, sino que se conviertan en líderes, visionarios y sanadores del tipo de mundo que, en este momento, tenemos. deberíamos esperar, soñar y trabajar para lograrlo.

Por ejemplo, tengo esta conversación con algunos compañeros míos que están en el campo de la creación de futuro como escritores, directores, etc.: personas del Sur Global (con lo que me refiero al mundo mayoritario y su diáspora) junto con gente queer. y las comunidades de discapacitados y neurodivergentes, que todavía sienten con demasiada frecuencia que sólo dentro de un marco distópico podemos contar nuestras historias. Pero la continua regurgitación de la inevitabilidad distópica refuerza nuestra falta de agencia para imaginar un cambio radical de cualquier narrativa social, cultural o política, pensando que podemos inventar todas estas tecnologías "mágicas" e imaginar todos estos avances científicos extraordinarios, y aún así no podemos. ver un camino hacia un futuro que esté más allá del racismo, la homofobia, el capacitismo, la xenofobia, etc. No podemos darnos el lujo de fetichizar la distopía, porque nosotros, o nuestros antepasados, ya la hemos vivido.

Entonces, ¿por qué repetimos sin cesar estas narrativas y visiones agotadas del futuro condenado en lugar de utilizar nuestro tiempo, energía y talento para imaginar cómo podría ser una liberación real para los pueblos oprimidos y una sociedad regenerativa y centrada en la vida? Éste es el verdadero peligro de las visiones utópicas y distópicas: pueden tener un efecto tóxico en nuestra imaginación, al distraernos tanto de la opresión actual como de las posibilidades liberadoras futuras. Es por eso que iniciamos el colectivo Protopia Futures, para contrarrestar el escapismo distópico, así como las narrativas tecnosolucionistas absolutamente irreales y profundamente desinformadas, y trabajar de hecho hacia lo que podrían ser esas visiones compartidas del "sí" del futuro.

Las visiones utópicas particulares que discuten hoy los tecnofuturistas:transhumanistas, longtermistas y similares – son bastante novedosos, ya que tratan de tecnologías avanzadas que no se discutieron mucho o nada antes de mediados del siglo XX. Sin embargo, estas visiones no surgieron de la nada. Tienen un linaje, una genealogía, que se remonta a la religión tradicional. ¿Podría ayudarnos a comprender la historia del pensamiento utópico en Occidente?

Gran parte de esto tiene raíces en las narrativas ascensionistas cristianas, una visión binaria del paraíso y el infierno (que es el predecesor de la actual binaria utopía-distopía de los cielos cósmicos y el suelo terrenal) y su forma de "clasificar" quién entra en cada uno. Esta narrativa está fundamentalmente centrada en los colonos y en los seres humanos. Sólo un grupo reducido de humanos tiene el potencial de alcanzar el paraíso, basado en una idea muy homofóbica y colonial de "moralidad", y no se reserva ningún espacio para las especies no humanas en el "cielo". (Esta versión del cielo, que contiene sólo humanos, sería una especie de infierno para la mayoría de los pueblos indígenas). Así que el paraíso cristiano, como historia del origen del utopismo occidental, ya tiene distopía y exclusionismo incrustados en él.

Necesitamos tu ayuda para mantenernos independientes

Esto me recuerda un término que ha comenzado a generalizarse: el "Eremoceno" o "Era de la Soledad", que describe una época en la que hemos extinguido a tantas otras especies y nos hemos aislado cada vez más como especie humana en este planeta: una tipo de aislamiento existencial y soledad que resulta de estar separado de la biosfera a través de este violento genocidio de especies y la extinción de sus mundos sensoriales, como escribe uno de mis autores favoritos, Ed Yong, en su nuevo y brillante libro "An Immense World".

Muchas concepciones históricas de la utopía también han sido excluyentes en torno a estas mismas líneas de sexualidad y capacidad ancladas en la "moralidad" colonial de colonos. La justificación de la Alemania nazi para la visión utópica de la expansión del "Lebensraum ario" proporciona un ejemplo obvio. El genocidio comenzó con el objetivo de personas discapacitadas y queer y condujo al exterminio masivo de judíos y romaníes y otras minorías que también fueron asociadas con "fracasos" morales y físicos con fines de deshumanización y expropiación.

De manera similar, la Unión Soviética, especialmente bajo Joseph Stalin, justificó la limpieza étnica masiva, el encarcelamiento, la tortura y las campañas genocidas para justificar el logro de la utopía comunista de la "Patria" - es decir, el Holodomor [la hambruna ucraniana de principios de los años treinta]; la purga del pueblo judío por parte de Stalin; la limpieza étnica de los tártaros de Crimea; la supresión de las tradiciones culturales indígenas y su reemplazo forzoso por la ideología comunista en todos los reinos coloniales de Rusia, incluidos Siberia, el Cáucaso y Asia Central; la criminalización de la homosexualidad; utilizar instalaciones de salud mental y justificaciones de salud mental para eliminar a los opositores del régimen; y así sucesivamente, así como la destrucción del medio ambiente a una escala sin precedentes.

Creo que la forma más fácil de medir la capacidad genocida de cualquier utopía es observar cómo trata a los pueblos marginados, especialmente aquellos en la intersección de la indigeneidad, el carácter queer y la discapacidad.

"Nuestra falta de alfabetización histórica sobre los prejuicios racistas, capacitistas, homofóbicos, transfóbicos y antiindígenas, construidos sobre bases científicas y amplificados por la tecnología, nos predispone a ignorar cómo estas tendencias discriminatorias persisten en el mundo tecnológico actual".

El punto clave es que este legado tóxico todavía está con nosotros hoy. Nuestra falta de alfabetización histórica sobre los prejuicios racistas, capacitistas, homofóbicos, transfóbicos y antiindígenas, construidos sobre bases científicas y amplificados por la tecnología, nos predispone a ignorar cómo estas tendencias discriminatorias persisten en el mundo tecnológico actual y impregnan a la comunidad científica. Estas narrativas son como el agua en la que nadamos y, por lo tanto, son invisibles para muchas personas dentro de estos medios. Incluso hoy, veo a tantas personas "progresistas", a menudo con las mejores intenciones, haciéndose eco, sin saberlo, de temas de conversación ecofascistas en sus deseables visiones de futuro que ignoran las necesidades de acceso de las personas con discapacidad o las cuestiones de justicia ambiental entre el Norte y el Sur Global. .

Usted ha dicho en algunas de sus charlas que diseñar el futuro siempre debe ser un esfuerzo cooperativo: que no funciona si un grupo de personas pretende dictar cómo será el futuro, incluso si expresan preocupación por el bienestar de otros grupos. ¿Podrías dar más detalles sobre este punto?

Así es. Si esperas diseñar algo que no sea dañino para empezar, y mucho menos algo que sea útil o realmente beneficioso, nunca podrás diseñar para alguien, solo puedes diseñar con esa persona. Y decir "con" no significa que simplemente elijas una persona "simbólica" y luego finjas que eres inclusivo. En realidad, hay que trabajar con comunidades que se encuentran al borde del daño; es necesario garantizar que el liderazgo clave esté formado por los grupos más afectados. Porque de lo contrario terminaremos con una tokenización dañina, es decir, una inclusión depredadora. Esto quedó ejemplificado por el impulso del año pasado a las criptomonedas en el Sur Global y las comunidades de la diáspora. Cuando Spike Lee lanzó un comercial sobre cómo las criptomonedas son el nuevo dinero, utilizó a muchos creativos negros, morenos y queer prominentes y realmente talentosos para promover una visión que se trata fundamentalmente de extraer de sus propias comunidades. Entonces, aunque algunas de las personas involucradas pueden haberse beneficiado de esos anuncios, sus comunidades finalmente se vieron perjudicadas por el impulso criptográfico. Éste es uno entre un millón de ejemplos de inclusión depredadora.

Una característica central de las visiones tecno-utópicas que influyen hoy en Silicon Valley implica una narrativa sobre la humanidad "trascendiéndose" a sí misma. Nuestros cuerpos biológicos a menudo son ridiculizados como "bolsas de carne" que deben ser desechadas y reemplazadas por hardware robótico o informático. En última instancia, el objetivo sería reemplazar completamente la biología "subiendo" nuestras mentes a la nube. Me pregunto hasta qué punto esto está influenciado por el legado del cristianismo, que consideraba que el cuerpo era pecaminoso. Después de todo, hay algunas tradiciones culturales (por ejemplo, algunas tradiciones indígenas) que no ven nuestros cuerpos de esta manera. ¿Podría explicarnos cómo algunas de estas tradiciones imaginaban el futuro?

En primer lugar, las explicaciones indígenas sobre lo que constituiría un futuro o presente aspiracional no son uniformes; por supuesto, existe una diversidad considerable de puntos de vista. Pero, fundamentalmente, desde la perspectiva indígena, no te ves separado ni de tu cuerpo ni de los otros cuerpos con los que eres codependiente. Por "otros cuerpos" me refiero a toda otra vida, incluidos los cuerpos de otros humanos, pero también de plantas, hongos, etc. Toda la trascendencia y toda la alegría y placer que uno experimenta no es por estar alejado de esto. De hecho, lo es profundizando nuestra interdependencia con él.

¿Quiere un resumen diario de todas las noticias y comentarios que Salon tiene para ofrecer? Suscríbase a nuestro boletín matutino, Crash Course.

Aquí es donde existe este choque fundamental en las visiones de civilización, se podría decir, entre los TESCREAListas coloniales (defensores del conjunto de ideologías TESCREAL) y las perspectivas indígenas. Entonces, si los TESCREAListas dicen que saben mejor que los pueblos indígenas acerca del futuro al que debemos aspirar, entonces, nuevamente, se trata del mismo colonialismo de "destino manifiesto" una y otra vez. No sólo en este deseo de salir y someter todos estos complejos ecosistemas a nuestra propia voluntad, sino incluso en esta misma noción de que deberíamos aspirar a separarnos de nuestros propios cuerpos y de los ecosistemas dentro y alrededor de nuestros cuerpos, e incluso de La Tierra misma. Persisten algunas nociones futuristas dañinas de antaño, como la metáfora de la "nave espacial Tierra" de Buckminster Fuller: parece atractiva en la superficie, pero fundamentalmente malinterpreta el hecho de que ni nuestro planeta natal ni nuestros propios cuerpos pueden diseñarse hasta sus componentes, y mucho menos ceros y unos. Como siempre han sabido los pueblos indígenas, la conciencia no se reduce a cálculos matemáticos, está encarnada, interconectada e inseparable de la materia que es la vida.

Entonces, a mi modo de ver, las visiones tecno-utópicas de un cosmos colonizado y una Tierra trascendida en realidad tratan simplemente de encontrar formas ideológicas para justificar el genocidio humano y de la biosfera compuesto que está ocurriendo hoy en día; una forma de decir que, a la luz de esas grandes visiones, la extinción de especies o lenguas en última instancia "no es tan importante". Eso es absolutamente falso. No es que no debamos aspirar a aprender más sobre el cosmos, sino que necesitamos reorientar más energía para comprender y regenerar el daño que nos hemos causado a nosotros mismos y a este planeta: mejorar la salud del suelo y la salud de nuestros océanos, reconstruir, etc., son esfuerzos más dignos de futuro en este momento. En lugar de fantasear con la conciencia de las máquinas o de los extraterrestres, deberíamos priorizar la comprensión de la conciencia de los animales no humanos, porque estamos extinguiendo especies antes de que seamos capaces de aprender sobre su percepción y experiencia sensorial del mundo que compartimos.

Finalmente, ¿hasta qué punto cree que la élite tecnológica realmente acepta su visión tecno-utópica de ser posthumanos digitales y colonizar el espacio? ¿Son verdaderos creyentes? ¿O podrían estar explotando la promesa de la utopía para "justificar" su codicia y su despiadada búsqueda de poder en el presente?

"A mi modo de ver, las visiones tecno-utópicas de un cosmos colonizado y una Tierra trascendida tratan de encontrar formas de justificar el genocidio humano y de la biosfera que está ocurriendo hoy; a la luz de esas grandes visiones, la extinción de especies, en última instancia, 'no es tan importante'".

Aquí es donde a veces pienso que usted y yo podríamos tener puntos de vista ligeramente diferentes al respecto. Me parece que algunos de los multimillonarios tecnológicos que nos venden estas grandes fantasías civilizatorias del colonialismo intergaláctico simplemente lo hacen para ofuscar y justificar objetivos mucho más banales de enriquecimiento personal y mantener sus estafas. El edificio Tesla de Elon Musk se ha estado derrumbando durante mucho tiempo porque era una especie de "cripto" antes que las criptomonedas, con lo que quiero decir que está construido sobre un tipo de exageración de esquema piramidal, como se detalla en el libro "Ludicrous" de Edward Niedermeyer. A Musk lo llamaban el hombre más rico de la Tierra, pero era ficticio, dinero en acciones inflado que dependía de falsas promesas que ya no puede cumplir, y para mantenerse al día con la estafa en un mercado cada vez más competitivo, es necesario apostar cada vez más. afirmaciones poco realistas y espero que no te llamen por ello. En general, así es también como funcionan la mayoría de los ciclos de burbuja y exageración tecnológica: se basan en la falta de alfabetización futura de la mayoría del público y en la participación voluntaria de los medios de comunicación para inflar estos titulares sensacionalistas con poca investigación crítica detrás de las afirmaciones de aquellos que se beneficiarán. de ellos.

Así que mi sensación es que hablar de que la humanidad se vuelva "multiplanetaria" es sólo una forma de poner una cortina de humo de ciencia ficción ante los medios y el público en general: el capitalismo siempre necesita una nueva frontera, por lo que el colonialismo espacial es una especie de deus ex machina para nos distraen de la realidad de que no hay un "crecimiento infinito" en un planeta finito y que necesitamos una reestructuración fundamental de nuestras sociedades y economías basada en principios de equidad y justicia.

Estoy seguro de que hay algunos "verdaderos creyentes" en los movimientos transhumanistas, cosmistas y de largo plazo. Pero creo que para alguien como Musk, el objetivo mucho más inmediato es desarrollar los medios para llegar y, a través de periféricos robóticos, explotar el cinturón de asteroides, extraer platino, oro, diamantes y otros minerales raros, especialmente los necesarios para las baterías. microchips, etc. Cuando Musk se dio cuenta de que sus coches autónomos, su visión para Tesla, en realidad no cumplirían sus promesas, todavía tenía que mantenerse al día con estas grandes visiones del futuro de la humanidad, porque se había acostumbrado a ese nivel de poder, influencia y adulación. Tiene que seguir inflando su visión vendiendo esta fantasía y, debido a la falta de alfabetización en el futuro, la gente sigue creyendo en ella. Dicho esto, podría ser simplemente un heredero delirante del apartheid que sueña con recuperar las estructuras jerárquicas de la Sudáfrica del apartheid a escala cósmica. De cualquier manera, ya sea un verdadero creyente o simplemente un hombre cósmicamente codicioso, el hecho de que posea tanta influencia en las narrativas y economías globales futuras pone al resto de nosotros en grave peligro.

"Muchos de los hombres más ricos e influyentes en la tecnología nunca salieron de esa fase adolescente de ser fanáticos de determinados autores, películas o series de ciencia ficción. Se aferran a estas fantasías de ciencia ficción de vidas eternas en la matriz cósmica".

En mis charlas suelo decir que, en última instancia, son quienes controlan la fantasía quienes controlan el futuro. Muchos de los hombres más ricos e influyentes del mundo de la tecnología nunca superaron esa fase adolescente de ser fanáticos de determinados autores, películas o series de ciencia ficción. Se aferran a estas fantasías de ciencia ficción de vidas eternas en la matriz cósmica y otras cosas ficticias, a pesar de que la vanguardia de la investigación científica sugiere que las mentes no pueden reducirse simplemente a un programa digital, porque nuestra conciencia está encarnada e interconectada con un ecosistema. con el que es codependiente.

Pero si admiten que lo único que quieren, en última instancia, es minar el cinturón de asteroides, entonces, de repente, se enfrentarán a un escrutinio mucho más intenso. ¿Quién debería tener derecho a ir a minar asteroides? ¿Podría una sola empresa del Norte Global tener este derecho? ¿Qué tipo de relaciones neocoloniales podrían perpetuarse entre el Norte Global y el Sur Global? De manera similar, con la IA, cuanto más se habla de estas visiones de la inteligencia artificial general, más fácil es desviar la atención de los problemas reales de cómo se diseñan, utilizan y abusan de estas herramientas de IA tan falibles pero cada vez más peligrosas. Qué prejuicios se incrustan en ellos, qué datos se expropian, quién obtiene el acceso y qué tipo de comportamiento y manipulación permite esto y a quién.

Así que tiendo a pensar que estas personas no son tan "inteligentes" y "visionarias" como a menudo se les percibe, pero tampoco tan tontas (especialmente alguien como Peter Thiel) como para creer realmente que las fantasías utópicas que están vendiendo no servirían para nada. no significa distopía para la mayoría del resto de nosotros. No es que no sepan leer críticamente las narrativas distópicas, o que crean plenamente que la tecnología es la panacea mágica para problemas que son fundamentalmente sociales, culturales y políticos. Es que realmente ven cómo las distopías (a veces disfrazadas de utopías) pueden usarse como hojas de ruta de productos, no solo porque se puede ganar dinero mientras el mundo arde, sino porque se puede ganar dinero prendiendo fuego al mundo.

La distopía no es un error, es una característica. Se necesitarán todos nosotros para resistirlo y luchar por el tipo de futuro que sea realmente habitable. Debemos hacer todo lo que podamos para resistir estos señuelos de las teologías tecnológicas escatológicas y las fantasías aceleracionistas, porque están diseñadas para beneficiar a unos pocos, al tiempo que nos dañan, si no nos extinguen por completo, al resto de nosotros.

Leer más

de Émile P. Torres sobre el futuro de la humanidad