Chris Jordan, Crushed cars #2, Tacoma (2004). Serie Intolerable Beauty: Portraits of American Mass Consumption. 44 x 62 cm

Imponderables tecnológicos: riesgo existencial y una humanidad en transformación

Seán Ó hÉigeartaigh

Seán Ó hÉigeartaigh

Centre for the Study of Existential Risk (CSER), Cambridge, Reino Unido

Seán Ó hÉigeartaigh es director ejecutivo del Centre for the Study of Existential Risk (CSER) de Cambridge, centro de investigación de primer nivel sobre riesgos globales y tecnologías emergentes. Es codesarrollador del Centre for the Future of Intelligence, una nueva colaboración Cambridge-Oxford-Imperial-Berkeley sobre las oportunidades y retos de la inteligencia artificial. Con anterioridad dirigió programas de investigación interdisciplinares sobre tecnologías emergentes y modelos de riesgos catastróficos en el Future of Humanity Institute de Oxford. Sus áreas de investigación incluyen tecnologías emergentes, riesgos, política tecnológica, estudio del horizonte y predicción. Es doctor en genómica por el Trinity College de Dublín.

CONOCE MÁS DEL AUTOR [+]

La humanidad se ha enfrentado siempre a amenazas a su supervivencia global tales como impactos de asteroides y supervolcanes. Y, sin embargo, es posible que los riesgos más graves a los que nos enfrentamos sean resultado de nuestro progreso científico y como civilización. Estamos desarrollando tecnologías de poder sin precedentes, como las armas nucleares o la ingeniería genética. También estamos erradicando especies, cambiando el clima y agotando los recursos del planeta a un ritmo insostenible a medida que crece la población mundial. No obstante, los avances del siglo que viene en ciencia y tecnología también proporcionarán soluciones a muchos de estos grandes retos.

Una nueva era de riesgo

En los albores del 26 de septiembre de 1983, Stanislav Petrov estaba de servicio en un búnker secreto a las afueras de Moscú. Como teniente coronel en las fuerzas de defensa aérea soviéticas, su labor consistía en supervisar el sistema soviético de alerta temprana ante ataques nucleares. Eran tiempos de gran tensión. Ese mismo mes los reactores soviéticos habían derribado un avión de pasajeros coreano, un incidente que el presidente de Estados Unidos, Ronald Reagan, había calificado de «crimen contra la humanidad que nunca se debería olvidar». La KGB había enviado a sus operadores un mensaje táctico urgente que les urgía a prepararse para una posible guerra nuclear.

El sistema de Petrov informaba de un lanzamiento de misiles de Estados Unidos. Guardó la calma, al sospechar un error informático. El sistema informó entonces de un segundo, un tercer, un cuarto y un quinto lanzamientos. Las alarmas saltaban entre destellos de luces. Petrov tenía «una sensación extraña en el estómago»;1 ¿por qué iba Estados Unidos a iniciar una guerra nuclear con solo cinco misiles? A falta de más información, emitió por radio el aviso de falsa alarma. Más tarde se supo que el destello de la luz del sol en las nubes en un ángulo inusual había disparado el sistema.

No había sido un incidente aislado. A lo largo de la Guerra Fría, la humanidad estuvo al borde de una guerra nuclear a gran escala en muchas ocasiones.2 En algunas, los culpables eran los sistemas informáticos, y la intuición humana la que salvaba la situación. En otras ocasiones, se trataba de un error de juicio humano, pero había otras mentes más serenas que evitaban la guerra termonuclear. Otras veces bastaba una bandada de gansos para disparar el sistema. Nada menos que en 1995, el lanzamiento de un cohete meteorológico noruego provocó que se abriera el maletín nuclear delante del presidente de Rusia, Boris Yeltsin.

Si cada uno de estos acontecimientos representara el lanzamiento de una moneda, una situación en la que unas circunstancias ligeramente distintas —como un oficial distinto en un lugar distinto, con una mentalidad distinta— podían haber desencadenado una guerra nuclear, hemos estado jugándonos la vida durante los últimos setenta años o más. Y con una buena suerte pasmosa.

EL RIESGO EXISTENCIAL Y UNA HUMANIDAD EN TRANSFORMACIÓN

La humanidad ya ha cambiado mucho en el transcurso de su vida como especie. Pese a que desde el punto de vista biológico no somos diametralmente distintos a los humanos de hace 70.000 años, las capacidades que nos otorgan nuestros logros científicos, tecnológicos y socioculturales han transformado el significado de qué es ser humano. Ya sea mediante los procesos agrícolas, la invención de la máquina de vapor, las prácticas de almacenamiento y transmisión de saber e ideas y los mecanismos para un trabajo conjunto y eficaz en grandes grupos, hemos aumentado nuestras capacidades biológicas de un modo espectacular. Podemos levantar objetos más pesados de lo que permite nuestra biología, almacenamos y tenemos a nuestra disposición más información de la que pueden contener nuestros cerebros y resolvemos de un modo colectivo problemas que de manera individual nos resultarían imposibles.

La especie cambiará todavía más durante las décadas y los siglos venideros, en la medida en que desarrollemos la capacidad de modificar nuestra biología, ampliar nuestras capacidades mediante varias formas de interacción humano-máquina y ahondar en el proceso de innovación sociocultural. A largo plazo, el futuro es enormemente prometedor: el progreso continuado podría permitir a la humanidad propagarse por una galaxia que, hasta donde sabemos, parece carente de vida inteligente. Sin embargo, lo que seremos en el futuro poco se asemejará a lo que somos ahora, tanto físicamente como en cuestión de capacidades. Es posible que nuestros descendientes sean aumentados mucho más allá de lo que hoy reconocemos como humano.

Esto se refleja en la cuidadosa redacción de la definición que Nick Bostrom hace del riesgo existencial, que es la definición estándar que se emplea en esta área: un riesgo existencial es «un riesgo que amenaza con la extinción prematura de la vida inteligente de origen terrestre o con la destrucción permanente y drástica de su potencial para un desarrollo futuro deseable».3 Los académicos de este campo se preocupan menos por la forma que pueda adoptar la humanidad en un futuro lejano y más por evitar las circunstancias que puedan arrebatar a nuestros descendientes, con independencia de la forma que adquieran, la oportunidad de prosperar.

Se podría dar el caso si un acontecimiento cataclísmico fuera a borrar a nuestra especie del mapa (y, con ello, quizá la capacidad de nuestro planeta de alojar vida inteligente en un futuro). Otra posibilidad consistiría en un cataclismo que estuviera a punto de extinguir a la humanidad pero modificara nuestras circunstancias de un modo que imposibilitara un ulterior progreso. Por ejemplo, un cambio climático desenfrenado no solo podría eliminarnos a todos, también dejar con vida a muy pocos de nosotros, dispersos por los polos y con un acceso a recursos tan limitado que haría imposible seguir progresando en el plano científico, tecnológico y cultural. En lugar de expandirnos por las estrellas, quizá nos obligaría a permanecer bloqueados en una batalla permanente por la supervivencia en un mundo mucho menos generoso.

Los riesgos que siempre hemos afrontado

Durante los dos primeros centenares de miles de años de historia humana, los riesgos que han amenazado al conjunto de nuestra especie han permanecido relativamente constantes. En Indonesia, el cráter del lago Toba es la consecuencia de una catastrófica supererupción volcánica ocurrida hace 75.000 años y que lanzó a la atmósfera una cifra estimada de 2.800 kilómetros cúbicos de materia. Mucho más tarde, la eyección de una masa de solo una centésima parte de volumen, procedente de la erupción del Tambora (la mayor de la historia reciente), bastó para generar el «año sin verano» de 1816, cuya interferencia con las cosechas causó una escasez de alimentos masiva en el hemisferio norte. Algunas líneas empíricas indican que entonces el incidente del Toba pudo haber eliminado a la gran mayoría de la población humana, aunque es un argumento controvertido. En el cráter del Chicxulub, en México, los geólogos descubrieron las marcas del meteorito que entonces, muy probablemente, eliminó al 75 % de las especies de la Tierra en aquel momento, incluidos los dinosaurios, hace 66 millones de años. Este suceso podría haber desembocado, en términos de espacios de vida disponibles, en la aparición de las especies de mamíferos y, en última instancia, de la humanidad.

Si profundizamos más en la historia de la Tierra, descubrimos otros incidentes todavía más cataclísmicos para las especies precedentes. La extinción pérmica-triásica eliminó entre el 90 % y el 96 % de las especies del momento. Entre las posibles causas se encuentran los impactos de meteoritos, un cambio climático súbito debido, quizá, al incremento de las emisiones de metano, la actividad volcánica a gran escala o una combinación de estos factores. Si nos remontamos todavía más en la historia, las cianobacterias que introdujeron el oxígeno en nuestra atmósfera y generaron las condiciones para la vida basada en la respiración de oxígeno tuvieron su contrapartida: causaron la extinción de la práctica totalidad de la vida existente en ese momento, para la cual el oxígeno era venenoso, y desencadenaron una edad de hielo que convirtió a la Tierra en algo semejante a una «bola de nieve».

La amenaza planteada por los impactos de meteoritos o asteroides o los supervolcanes no es solo cosa del pasado. En principio, un asteroide podría impactar en la Tierra en cualquier momento y con escaso preaviso. Varios puntos calientes geológicos podrían desencadenar una erupción volcánica; entre ellos, el más famoso es el punto caliente de Yellowstone, considerado «maduro» para otra explosión volcánica masiva.

No obstante, en la escala de la historia humana, estos riesgos tienen una probabilidad muy baja de ocurrir en el siglo próximo o, de hecho, en cualquier siglo en concreto. Han pasado 660.000 siglos desde el acontecimiento que liquidó a los dinosaurios; las probabilidades de que el siguiente hecho de este tipo suceda durante nuestra vida son de uno entre un millón. En cuanto a que Yellowstone «ya está maduro», significa que los geólogos esperan que un acontecimiento como ese se produzca en algún momento de los próximos 20.000-40.000 años. Además, estas amenazas son estáticas; hay poca evidencia de que sus probabilidades, características o modos de impacto estén cambiando de manera significativa en términos de la escala temporal de la civilización humana.

Nuevos desafíos

Nuestro progreso como civilización ha ido acompañado de la aparición de nuevos desafíos. A medida que nos organizábamos en grupos más grandes y en ciudades, facilitábamos el contagio de la enfermedad entre nosotros. Durante la Edad Media, las epidemias de peste negra eliminaron entre el 30 % y el 60 % de la población europea. Asimismo, nuestros viajes por el planeta nos permitieron llevar con nosotros enfermedades a lugares a los que, de otro modo, jamás hubieran llegado: tras la colonización europea de las Américas, los brotes de enfermedades liquidaron al 95 % de las poblaciones nativas.

Por otra parte, la Revolución Industrial permitió unos cambios enormes en nuestras capacidades como especie. Sentó las bases de un progreso veloz en el saber científico, la ingeniería y la capacidad de manufactura. Nos permitió sacar mucho partido de fuentes de energía baratas, potentes y de acceso rápido, los combustibles fósiles. Nos ayudó a sustentar una población mundial mucho más numerosa. De este modo, la población mundial creció hasta más del doble entre 1700 y 1850 y la población de Inglaterra (origen de la Revolución Industrial) se incrementó de 5 a 15 millones durante el mismo periodo, para volver a duplicarse hasta los 30 millones antes de acabar 1900.4 En efecto, estas nuevas capacidades tecnológicas nos permitían extraer más recursos, imponer cambios mucho mayores sobre nuestro medioambiente y sustentar a más humanos de lo que jamás había sido posible. Desde entonces no hemos cesado de acelerar en ese mismo camino, con un mayor grado de globalización, más desarrollo científico y tecnológico, una población mundial creciente y, al menos en los países desarrollados, un aumento de la calidad de vida y la huella que representa el consumo de recursos.

El 16 de julio de 1945, el día de la prueba nuclear Trinity, se alcanzó otro hito. La humanidad había desarrollado un arma que podía, de un modo plausible, cambiar el medioambiente planetario de un modo extremo, hasta el punto de amenazar la continuidad de la existencia de la especie humana.

En el Parque Nacional de Yellowstone (Wyoming, EEUU) se encuentra uno de los puntos calientes del planeta en los que se podría producir una explosión volcánica masiva

Poder, coordinación y complejidad

Hoy la humanidad cuenta con una capacidad de dar forma a su entorno, tanto a escala local como planetaria, mucho mayor que la de cualquier especie cuya existencia conozcamos; superior incluso a la de las cianobacterias que permitieron a este planeta albergar la vida basada en la respiración de oxígeno. En todo el mundo hemos transformado amplias superficies de tierra para nuestros propósitos: en campos para producir alimentos para nosotros, en ciudades para cobijar a miles de millones de personas, en carreteras para facilitar nuestro transporte, en minas de las que obtener nuestros recursos materiales y en vertederos para albergar nuestros residuos. Hemos desarrollado estructuras y herramientas, como el aire acondicionado y la calefacción, que nos permiten poblar casi todos los hábitats de la Tierra, redes de suministro necesarias para sustentarnos en estos distintos lugares y avances científicos (como los antibióticos y las prácticas como el saneamiento y el control de plagas) para defendernos de los patógenos y las plagas de nuestro entorno. Asimismo, nos modificamos para adaptarnos mejor a nuestro entorno, por ejemplo, mediante las vacunas.

Este mayor poder sobre nosotros y nuestro entorno, combinado con los métodos para poner en red y coordinar nuestras actividades sobre un gran número y extensión de zonas, nos ha otorgado una gran resistencia contra muchas de las amenazas que afrontamos. En la mayor parte del mundo desarrollado podemos garantizar un acceso adecuado a alimentos y agua a la gran mayoría de la población, dadas unas condiciones de fluctuación normal de las cosechas; nuestras fuentes de alimentos son variadas en tipo y en origen geográfico y muchos países almacenan una reserva alimentaria. De modo similar, las redes eléctricas proporcionan una fuente estable de energía a las poblaciones del mundo desarrollado, con unas condiciones normales de fluctuación de la producción. Contamos con unos sistemas adecuados de higiene y de acceso a servicios médicos, dadas unas fluctuaciones normales en la carga de enfermedades; y así sucesivamente. Por añadidura, tenemos los recursos y la estabilidad social suficientes como para financiar a muchas personas brillantes para que trabajen en soluciones de nuevos problemas o en el progreso de nuestras ciencias y tecnologías, a fin de que nos proporcionen herramientas cada vez mejores para modificar nuestro medio, incrementar nuestra calidad de vida y resolver nuestros problemas futuros.

Huelga decir que estos privilegios, que existen en un grado mucho menor en los países en vías de desarrollo, en muchos casos se derivan de relaciones de explotación con dichos países, pero esta es una cuestión que va más allá del alcance de este capítulo. Este se centra en la resistencia o la vulnerabilidad del ser humano como especie, que está más relacionada con la resistencia del más favorecido que con la vulnerabilidad del más desfavorecido, excepto en la medida en que las catástrofes que afectaran a las poblaciones más vulnerables del mundo influirían, sin duda alguna, en la resistencia de las poblaciones menos vulnerables.

Sin embargo, muchas de las herramientas, redes y procesos que nos hacen más resistentes y eficientes en circunstancias «normales» nos hacen más vulnerables en condiciones extremas. Pese a que una alteración moderada (por ejemplo, una cosecha local de bajo rendimiento) puede ser absorbida por una red y compensada, una alteración catastrófica puede sobrepasar el sistema entero e influir de un modo impredecible en los sistemas conectados con este. Los sistemas cruciales para que prospere el ser humano, como los alimentos, la energía y el agua, están interrelacionados de un modo inextricable (el denominado «nexo alimentos-energía-agua»), y una alteración sobre uno tendría, casi con total seguridad, un impacto en la estabilidad de los demás. Asimismo, afectan a otros procesos humanos o sujetos a influencia humana y, a su vez, reciben la influencia de estos: nuestra infraestructura física, electrónica y de comunicaciones, nuestra estabilidad política (las guerras tienden a preceder y suceder a las hambrunas), nuestros sistemas financieros y la meteorología extrema (un fenómeno cada vez más sujeto a la influencia humana). Estas interacciones son muy dinámicas y difíciles de predecir. No tenemos demasiada idea sobre cuál sería todo el impacto regional y mundial de un eventual agotamiento del suministro de agua del Himalaya, aunque sería razonable aventurar que habría, entre otras cosas, sequías, grandes problemas en las cosechas y hambrunas masivas, crisis financieras, una crisis migratoria a gran escala y enfrentamientos bélicos regionales que podrían alcanzar una dimensión nuclear y una escalada internacional. Aunque sea poco probable, no resulta inimaginable que, a través de una serie de desgraciados acontecimientos, una catástrofe avanzara hasta amenazar con el desmoronamiento de la civilización mundial.

En este sentido, hay dos factores que destacan. En primer lugar, los procesos que sustentan la salud de nuestro planeta están interrelacionados a través de todo tipo de vías complejas, y nuestras actividades sirven para incrementar el grado de complejidad, interrelación e impredictibilidad, especialmente en el caso de los acontecimientos extremos. El segundo factor radica en que, a pesar de nuestros diversos procesos coordinados, como especie tenemos una capacidad muy limitada para actuar como una entidad coordinada a escala planetaria, capaz de tomar las medidas más racionales en interés del conjunto de la humanidad o en el mejor interés de nuestra supervivencia y prosperidad continuadas.

Este segundo factor se manifiesta en la desigualdad mundial, que en ciertos aspectos beneficia a los países desarrollados, pero que al tiempo genera grandes vulnerabilidades en el planeta: las sequías, las hambrunas, las inundaciones y los desplazamientos masivos de población que probablemente causaría el cambio climático en el mundo en vías de desarrollo tendrían, sin duda alguna, un efecto negativo incluso sobre los países más ricos. Se manifiesta también en la incapacidad para actuar de un modo óptimo ante muchos de nuestros mayores retos. Una comunicación más eficaz en la acción y la distribución de recursos nos otorgaría más resistencia ante los estallidos de pandemias, como tan bien evidenció el brote de ébola de 2014: un brote relativamente leve de lo que debería de ser una enfermedad fácil de controlar puso de relieve lo inadecuado de la preparación y la respuesta ante pandemias.5, 6 Tuvimos suerte de que no se tratara de una enfermedad de mayor potencial pandémico, como una capaz de transmitirse por el aire y caracterizada por periodos de incubación largos.

Nuestra capacidad limitada para coordinar nuestros intereses a largo plazo se manifiesta también en la dificultad para reducir nuestro uso global de recursos, limitar el impacto de nuestras actividades colectivas en nuestro hábitat planetario e invertir nuestros recursos de un modo óptimo para nuestra supervivencia y nuestro bienestar a largo plazo. Este problema limita a su vez nuestra capacidad para garantizar que los avances en la ciencia y la tecnología se apliquen al progreso de nuestro bienestar y nuestra resistencia, en lugar de resultar desestabilizadores o, incluso, ser empleados con propósitos de hostilidad catastrófica, como en el caso de las armas nucleares.

Los problemas de acción colectiva son tan antiguos como la humanidad7 y hemos avanzado mucho en el diseño de instituciones eficaces, en especial tras la Primera y la Segunda Guerras Mundiales. Sin embargo, los riesgos que entrañan estos problemas crecen enormemente a medida que crece nuestro poder de influencia en nuestro entorno, ya sea mediante la cruda realidad de los números y la distribución en el planeta o a través de herramientas científicas y tecnológicas más potentes por medio de las cuales conseguir nuestro sinfín de objetivos o frustrar los de nuestros iguales. En la era en la que estamos entrando, los mayores riesgos que se nos presentan tienen una probabilidad abrumadoramente alta de ser el producto de nuestras propias actividades y de nuestra falta de capacidad para domeñar y limitar nuestro poder de forma colectiva.

NUESTRA HUELLA EN LA TIERRA

Población y uso de los recursos

Las Naciones Unidas estimaron que, a fecha de marzo de 2016, la población de la Tierra era de 7.400 millones de personas, por encima de los 6.100 millones de 2000, los 2.500 millones de 1950 y los 1.600 millones de 1900. El crecimiento a largo plazo es difícil de predecir (está sujeto al efecto de muchas variables inciertas, como las normas sociales, las enfermedades y las catástrofes) y, por consiguiente, varía mucho entre estudios. No obstante, las proyecciones de las Naciones Unidas apuntan, en estos momentos, a un crecimiento constante a lo largo del siglo xxi, aunque con una tasa de crecimiento más lenta, hasta alcanzar casi los 11.000 millones en 2100.8 La mayoría de estimaciones indican que la población mundial llegará a alcanzar un máximo y descenderá después, aunque sigue siendo muy incierto en qué momento sucederá. Las valoraciones actuales sobre la huella del uso de recursos indican que la población mundial está consumiendo por año el 50 % más de recursos de los que el planeta puede reponer. Es probable que esta cifra siga subiendo de un modo pronunciado, más rápidamente que la población total. Según algunas estimaciones, si el humano medio utilizara tantos recursos como el estadounidense medio, la población mundial estaría consumiendo recursos cuatro veces más rápido de lo que se pueden reponer. La inmensa mayoría de la población no consume alimentos, energía y agua, ni libera CO2, al nivel del estadounidense medio. No obstante, el rápido crecimiento de una gran clase media en China está empezando a generar un consumo mucho mayor de recursos y unas emisiones de CO2 muy superiores en esta región, y se prevé que el mismo fenómeno se reproduzca un poco más tarde en la India.

Cambio climático catastrófico

Sin un cambio de rumbo significativo en las emisiones de CO2, el mundo va camino de un notable calentamiento global por causas humanas. De acuerdo con el último informe del Grupo Intergubernamental de Expertos sobre Cambio Climático (IPCC, por sus siglas en inglés), se puede esperar un incremento de entre 2,5 y 7,8 °C si seguimos comportándonos «como hasta ahora». La estimación mínima tendrá repercusiones negativas significativas, en particular para los países en vías de desarrollo, pero es poco susceptible de comportar una catástrofe mundial; sin embargo, la estimación máxima tendría sin duda consecuencias catastróficas a escala planetaria. El amplio rango entre ambas estimaciones refleja, en parte, la gran incertidumbre sobre la robustez del sistema climático ante el efecto «perturbador» de nuestras actividades. En especial, los científicos centrados en un cambio climático catastrófico están preocupados por un sinfín de posibilidades de realimentación. Por ejemplo, una reducción del territorio cubierto por nieve, que refleja la luz del sol, podría incrementar la tasa de calentamiento, lo que a su vez agravaría la reducción de superficie cubierta por la nieve. La pérdida de permafrost ártico podría generar la emisión de grandes cantidades de metano a la atmósfera, lo que a su vez podría agravar el efecto invernadero. Se desconoce en qué medida los océanos pueden seguir ejerciendo de «disipadores de calor» y «sumideros de carbono» si elevamos la concentración de CO2 en la atmósfera. Los científicos teorizan sobre la existencia de «umbrales» que, una vez alcanzados, pueden desencadenar una transformación irreversible; por ejemplo, la caída de las capas de hielo del Antártico occidental, la fusión de los gigantescos glaciares de Groenlandia o un colapso de la capacidad de los océanos de absorber calor y CO2. En efecto, más allá de un cierto punto se puede desencadenar un «efecto montaña rusa», en el cual un aumento de 3 °C en la temperatura puede conducir rápida e irreversiblemente a 4 °C de aumento y, a continuación, a 5 °C.

Se han hecho progresos loables hacia una coordinación mundial para reducir las emisiones de carbono en el planeta, muy especialmente tras la Conferencia de las Naciones Unidas sobre el Cambio Climático (2015). Hasta 174 países firmaron un acuerdo para lograr la neutralidad en la emisión de gases antropogénicos de efecto invernadero antes de acabar el siglo xxi y «tomar medidas» para limitar el incremento de temperatura a 1,5 °C. Pese a ello, muchos expertos sostienen que dichos objetivos son poco realistas y que los compromisos y las medidas que se adoptan son insuficientes en comparación con lo que será necesario. De acuerdo con el director ejecutivo de la Agencia Internacional de la Energía, Fatih Birol, «consideramos que adolecemos de un gran retraso en tecnologías clave y que, en ausencia de un fuerte impulso gubernamental, estas tecnologías nunca se desplegarán en los mercados de la energía, de modo que las probabilidades de alcanzar el objetivo de 2 °C son muy escasas».9

Erosión del suelo

La erosión del suelo es un proceso natural. Sin embargo, la actividad humana ha incrementado su magnitud de un modo espectacular a escala mundial, con la deforestación, la sequía y el cambio climático como aceleradores de la tasa de pérdida de suelo fértil. Hay razones para esperar que esta tendencia se acelere, puesto que uno de los factores más potentes de erosión del suelo lo constituyen los acontecimientos climáticos extremos, cuya frecuencia y gravedad se espera que aumenten a consecuencia del cambio climático.

Pérdida de biodiversidad

El mundo está entrando en una era de extinción de especies a pasos agigantados a causa de la actividad humana.10 Desde 1900 han estado desapareciendo especies de vertebrados a un ritmo más de 100 veces superior al observado en periodos de no extinción. Además del valor intrínseco de la diversidad de formas de vida sobre la Tierra (de acuerdo con los conocimientos actuales, el único planeta que alberga vida en el universo), los académicos que estudian el riesgo catastrófico están preocupados por sus consecuencias para las sociedades humanas. La resistencia de los ecosistemas es un fenómeno de enorme complejidad y parece plausible que responda a umbrales. Por ejemplo, la caída de una o más especies esenciales que fundamentan la estabilidad de un ecosistema puede derivar en un desmoronamiento más amplio del ecosistema, con consecuencias potencialmente devastadoras para la estabilidad del sistema humano (por ejemplo, la desaparición de algunas especies polinizadoras clave tendría consecuencias de gran calado para la agricultura). Hoy, la prosperidad humana depende en gran medida de los servicios que prestan estos ecosistemas, pero los estamos poniendo en peligro a un ritmo sin precedentes, al tiempo que adolecemos de una capacidad mínima de predecir las consecuencias de nuestra actividad.

Todo influye en todo

De nuevo, la gran complejidad e interconexión de estos riesgos representa un reto crucial. Ninguno de estos procesos es aislado, de modo que los cambios en uno influyen en los demás. El cambio climático afecta a los ecosistemas al forzar la migración de las especies (las que pueden), modificar los patrones de crecimiento de plantas y animales e impulsar la extinción de las especies. La reducción del suelo disponible nos obliga a penetrar más profundamente en el terreno natural no agrícola para conseguir la tierra cultivable que necesitamos para alimentar a nuestra población. Asimismo, los ecosistemas que ponemos en jaque desempeñan papeles importantes en el mantenimiento de un clima y un entorno estables. Conscientes de que no pueden obtener todas las respuestas necesarias sobre estas cuestiones analizándolas por separado, los académicos del riesgo catastrófico se centran en las amenazas que plantea precisamente la interacción de estos fenómenos como área de estudio fundamental.

Todos estos cambios tienen como resultado un mundo más incierto, el surgimiento de fuentes de vulnerabilidad enormes e impredecibles y la aparición de acontecimientos más extremos y sin precedentes. Estos acontecimientos se producirán en un mundo muy poblado que contiene más tecnologías poderosas (y más armas poderosas) de las que nunca han existido.

LA HUMANIDAD Y LA TECNOLOGÍA EN EL SIGLO XXI

Nuestro progreso científico y tecnológico, así como los correspondientes avances de la civilización, nos han permitido albergar a muchas más personas en este planeta y han proporcionado el poder necesario para que dichas personas influyan en su entorno más que cualquier especie anterior. Este progreso no es negativo de por sí, como tampoco lo es la magnitud de nuestra población mundial.

Hay buenas razones para pensar que, con una planificación cuidada, este planeta podría albergar a 7.000 millones o más de personas de un modo estable y cómodo.11 Con unas prácticas agrícolas sostenibles y el uso innovador de métodos de riego, debería ser posible que muchas partes del mundo relativamente inhabitadas e improductivas desde el punto de vista agrícola proporcionaran sustento a más personas y produjeran más alimentos. Un crecimiento infinito de la población en un planeta finito no es posible sin un colapso. No obstante, el crecimiento hasta dicho punto no es en modo alguno inevitable. La estabilización de la magnitud de la población presenta una intensa correlación con varios factores en los que estamos progresando de un modo constante y a escala mundial: por ejemplo, la educación (en especial la de las mujeres) y los derechos, así como un mayor nivel de control de las mujeres sobre sus vidas. Pese a que muchos estudios discrepan,12 son numerosos los expertos que afirman que reducir la mortalidad infantil, pese a generar un incremento de la población a corto plazo, conduce a una reducción en el crecimiento de la población a largo plazo. Dicho de otra manera, a medida que avancemos hacia un mundo mejor, ofreceremos un mundo más estable, siempre que las etapas intermedias del proceso no desencadenen un colapso o daños duraderos a escala mundial.13, 14

Los avances actuales en la ciencia y la tecnología, pese a que no bastan por sí solos, sí desempeñarán un papel clave a la hora de posibilitar un futuro más resistente y sostenible. Se está progresando con celeridad en las fuentes de energía neutrales en carbono, como la energía fotovoltaica solar y otras renovables.15 El almacenamiento de energía representa todavía un problema, pero se está progresando en la eficiencia de las baterías. Los avances en las técnicas de riego y en las tecnologías de desalinización pueden posibilitarnos el suministro de agua a zonas en las que hasta ahora no ha sido posible, lo que permitiría tanto la producción alimentaria como otros procesos que dependen de un acceso fiable a agua limpia. Los avances en la tecnología de materiales brindarán ventajas en un gran abanico de aplicaciones, desde vehículos más ligeros y eficaces en el consumo de energía hasta edificios y redes eléctricas más eficientes, pasando por herramientas científicas más potentes y ulteriores innovaciones tecnológicas. Los avances en nuestra comprensión de la genética de las plantas están propiciando cosechas más productivas, con una mayor resistencia a los cambios de temperatura, las sequías y otros fenómenos meteorológicos extremos, así como una mayor resistencia a las plagas, con la consiguiente reducción en la necesidad de pesticidas contaminantes. Es probable que seamos testigos de muchas más innovaciones en la producción de alimentos; por ejemplo, los interesantes avances en la carne producida en laboratorio pueden conducir a la producción de carne con una huella medioambiental significativamente menor que las explotaciones ganaderas.

El origen de muchos de los procesos que han desembocado en nuestras actuales trayectorias insostenibles se puede encontrar en la Revolución Industrial y en nuestra adopción generalizada de los combustibles fósiles. Sin embargo, hay que reconocer también que la Revolución Industrial y los combustibles fósiles han permitido un nivel de prosperidad y un ritmo y una escala de progreso científico y tecnológico que, sencillamente, habrían sido imposibles en su ausencia. Una dependencia continuada de los combustibles fósiles sería catastrófica para nuestro medioambiente. Sin embargo, muchos de los grandes avances en la «tecnología limpia» que nos permitirán superar dicha dependencia quizá no habrían sido posibles sin los grandes avances científicos que nos proporcionó, directa o indirectamente, esta fuente de combustible abundante y de fácil acceso. El objetivo está claro: tras habernos beneficiado tanto de esta fase «sucia» de la tecnología, es el momento de aprovechar la oportunidad que nos brinda para pasar a tecnologías de fabricación y energías de nueva generación más limpias y potentes. El desafío radicará en hacerlo antes de superar los umbrales que traerían consigo consecuencias irreversibles para el planeta.

Con sus 537 m2 de paneles solares y seis bloques de baterías de litio-ion, que permiten una velocidad de navegación récord, PlanetSolar es la mayor nave solar que existe y el primer barco que ha dado la vuelta al mundo impulsado por energía solar

El reto consiste en que la humanidad, como especie, necesita una transición a una fase de desarrollo tecnológico y cooperación mundial en la cual la especie humana «viva de acuerdo con sus posibilidades»: producir y consumir energía, agua, alimentos y otros recursos a un ritmo sostenible y mediante métodos que no tengan consecuencias negativas a largo plazo para nuestro hábitat planetario, al menos mientras tengamos que permanecer en él. No hay razones físicas para pensar que quizá en un futuro no seamos capaces de desarrollar una extensa civilización en el espacio. Asimismo, si pervivimos lo suficiente, es probable que desarrollemos una gran capacidad para modificar el terreno en entornos extraterrestres para hacerlo acogedor o, de hecho, que nos transformemos para adecuarnos a entornos ahora mismo hostiles. No obstante, hoy en día, como afirma Martin Rees, en nuestro sistema solar no hay ningún lugar tan hospitalario, ni de lejos, como el más hostil de los entornos terrestres, de modo que estamos atados a nuestro frágil planeta azul.

Parte de este desafío más general implica entender mejor las complejas consecuencias de nuestros actos y, todavía más, los límites de nuestro conocimiento actual. Aunque no podamos saberlo todo, reconocer en qué punto nuestra falta de certidumbre nos puede conducir a terrenos peligrosos puede contribuir a que demos con un conjunto prudente de «parámetros de funcionamiento seguro» (por citar Planetary Boundaries,16 de Steffen et al.) para nuestras actividades. La segunda parte del desafío, quizás aún más difícil, consiste en desarrollar el nivel de coordinación y cooperación mundial necesario para que se respeten estos parámetros de funcionamiento seguro.

Imponderables tecnológicos

Pese a que gran parte de la investigación del Centro para el Estudio del Riesgo Existencial (CSER, por sus siglas en inglés) se concentra en estos retos (el cambio climático, el consumo de recursos y la población, los riesgos ecológicos y la interacción entre estos), la otra mitad de nuestro trabajo trata de otra clase de factores: las tecnologías transformadoras, tanto emergentes como futuras, y los «comodines» o imponderables, avances tecnológicos lo bastante significativos como para cambiar por sí mismos el curso de la civilización humana. Las armas nucleares son uno de estos imponderables, ya que su desarrollo cambió la naturaleza de la geopolítica de un modo instantáneo e irreversible. También cambiaron la naturaleza del riesgo mundial; ahora muchas de nuestras causas de preocupación podrían aumentar con bastante rapidez por la actividad humana hasta el peor de los escenarios posibles, con un intercambio a gran escala de misiles nucleares. El escenario más preocupante en términos de riesgo existencial es el que podría desencadenar un invierno nuclear: un nivel de destrucción suficiente para lanzar a la atmósfera enormes cantidades de materia en partículas y causar un periodo prolongado de oscuridad y frío en el planeta. De prolongarse demasiado, un periodo así desbarataría la producción alimentaria mundial y podría llevar a la especie humana a su práctica o total extinción. Los expertos no se ponen de acuerdo sobre la escala del intercambio nuclear necesario para desencadenar un invierno nuclear, pero todo apunta a que bastaría con el lanzamiento de los arsenales todavía existentes en el mundo.

Las armas nucleares se podrían considerar un comodín también en un sentido diferente: la ciencia en que se basan es la que permitió el desarrollo de la energía nuclear, una alternativa viable y neutra en carbono a los combustibles fósiles. Esta característica de doble uso —es decir, con unos fundamentos científicos aplicables a objetivos tanto destructivos como pacíficos— es común a muchas de las tecnologías emergentes que más nos interesan.

Las ciencias y tecnologías clave que centran la atención académica en esta área incluyen, entre otras:

Algunos temas de biociencia y bioingeniería, como la manipulación y la modificación de determinados virus y bacterias y la creación de organismos con características y capacidades nuevas (ingeniería genética y biología sintética).

La geoingeniería: la propuesta de un conjunto de intervenciones tecnológicas a gran escala que tendrían el propósito de «manipular» nuestro clima para ralentizar o incluso invertir los impactos más graves del cambio climático.

Los avances en la inteligencia artificial, en particular los relacionados con el progreso hacia una inteligencia artificial general, con sistemas de inteligencia artificial capaces de igualar o superar las capacidades intelectuales humanas en un amplio abanico de áreas y dificultades.

El progreso en estas ciencias está impulsado, en gran medida, por el reconocimiento de su potencial para mejorar nuestra calidad de vida o del papel que podrían desempeñar para ayudarnos a combatir los desafíos mundiales actuales o emergentes. Sin embargo, en sí mismos, estos avances también pueden plantear grandes riesgos.

Investigación sobre los virus

A pesar de los avances en la higiene, las vacunas y otras tecnologías de la salud, los estallidos epidémicos naturales siguen representando una de las amenazas mundiales más preocupantes; por ejemplo, el brote de gripe española de 1918 mató a más personas que la Primera Guerra Mundial. Esta amenaza es especialmente relevante en un mundo cada vez más poblado e interconectado como el nuestro. Es probable que los avances en la investigación virológica desempeñen un papel central en mejorar la protección y las respuestas ante los virus con potencial pandémico.

Una de las áreas de investigación más controvertidas es la investigación virológica sobre «ganancia de funciones», dedicada a modificar virus existentes para transformar su capacidad de transmisión al huésped y dotarlos de otras características. Los investigadores que participan en esta área pueden ayudar a identificar cepas con un potencial pandémico elevado y desarrollar vacunas y tratamientos antivíricos. No obstante, la investigación con agentes infecciosos corre el riesgo de provocar una liberación accidental desde las instalaciones de investigación. Se ha sospechado de fugas de agentes infecciosos desde instalaciones de laboratorios. Son muchas las sospechas de que el brote de gripe ruso de 1977-1978 se originó por un incidente de fuga en laboratorio17 y, en el Reino Unido, el brote de fiebre aftosa se pudo haber originado en las instalaciones de investigación de enfermedades animales de Pirbright.18 La investigación sobre los agentes infecciosos vivos se suele efectuar en instalaciones regidas por los más rigurosos procedimientos de contención de bioseguridad, pero algunos expertos afirman que el potencial de liberación, pese a ser bajo, sigue existiendo y, en algunos casos, puede ser injustificable pese a los beneficios de la investigación.

Hay quien se inquieta porque los avances de alguna de las mismas ciencias que los sustentan puedan hacer más viable el desarrollo de nuevas armas biológicas de precisión. En 2001, un grupo de investigación de Australia diseñó de un modo inadvertido una variante de la ectromelia infecciosa de gran letalidad para los ratones vacunados.19 Una liberación accidental o deliberada de un virus modificado de un modo similar que infectara a los humanos o a especies de las que dependemos en gran medida podría tener consecuencias catastróficas.

De forma análoga, la biología sintética podría propiciar un amplio abanico de enormes beneficios científicos. Esta área tiene el objetivo de diseñar y construir nuevos componentes, dispositivos y sistemas biológicos y de rediseñar por completo algunos organismos vivos para que desempeñen funciones útiles para nosotros. Estos esfuerzos pueden desembocar en la creación de «microfactorías» bacterianas y vegetales sintéticas, diseñadas para producir nuevos materiales, medicinas y combustibles, descomponer los residuos y actuar como sensores, entre otras muchas cosas. En principio, estas biofactorías se podrían diseñar con una precisión muy superior a la de los enfoques biolíticos y las modificaciones genéticas de la actualidad. Asimismo, deberían permitir la fabricación barata y limpia de productos. Estos avances tendrían un efecto transformador ante muchos de los retos que estamos afrontando a escala mundial; por ejemplo, en el cuidado sanitario, la energía y la manufactura.

A medida que se abaratan las herramientas e instalaciones necesarias para trabajar en la ciencia de la biología sintética, surge y se desarrolla una comunidad de «ciencia ciudadana» alrededor de esta disciplina. Las instalaciones comunitarias «DIY Bio» permiten a los particulares participar en nuevos proyectos artísticos y experimentos; algunos aficionados llevan a cabo proyectos de biología sintética incluso en casa. Gran parte de los líderes en esta área están comprometidos con el objetivo de una biología sintética tan abierta y accesible como sea posible en todo el mundo, que ponga a libre disposición de todos las herramientas y el conocimiento científicos. Concursos como iGEM (certamen internacional de máquinas diseñadas genéticamente) alientan a equipos de estudiantes universitarios a construir y poner a prueba sistemas biológicos en células humanas, a menudo con una especial atención, por una parte, a aplicar la ciencia a desafíos importantes en la vida real y, por otra, a mantener registros de sus resultados y productos para ponerlos a disposición de los equipos futuros y contribuir a su labor.

Esta ciencia ciudadana representa un modo maravilloso de hacer que la ciencia puntera resulte accesible e interesante para generaciones enteras de innovadores. No obstante, la creciente facilidad de acceso a unas herramientas cada vez más poderosas es fuente de preocupación para la comunidad que estudia el riesgo. Pese a que la gran mayoría de personas que trabajan en la biología sintética son responsables y bienintencionadas, cabe la posibilidad de que haya actores perversos o de consecuencias inesperadas (como la liberación de un organismo con consecuencias ecológicas imprevistas). Además, podemos esperar que aumente la variedad y la gravedad de las consecuencias negativas, así como la dificultad para hacer un seguimiento de aquellos con acceso a las herramientas y los conocimientos necesarios. Hoy, la bioseguridad y la bioprotección están profundamente integradas en las principales iniciativas en biología sintética. En Estados Unidos, el FBI trabaja codo con codo con los centros de biología sintética y los líderes de la disciplina defienden la necesidad de buenas prácticas a todos los niveles. Con todo, esta área avanzará con rapidez y habrá que lograr un equilibrio entre poner herramientas poderosas a disposición de un gran número de personas que puedan usarlas para hacer el bien y restringir el potencial de accidentes o de un mal uso deliberado. Queda por ver hasta qué punto será fácil conseguirlo.

En cuanto a la geoingeniería, plantea numerosos retos. Por ejemplo, la ingeniería de aerosoles estratosféricos representa una propuesta especialmente potente: plantea la liberación de un flujo constante de aerosoles reflectores en la atmósfera superior para reducir la cantidad de luz solar total que alcanza la superficie terrestre. En efecto, se trata de una técnica que imita el fenómeno de enfriamiento mundial que se produce tras una gran erupción volcánica, cuando las partículas de materia son lanzadas a la atmósfera. Sin embargo, el trabajo actual se centra en el diseño de modelos teóricos y hasta la fecha las pruebas prácticas sobre el terreno han sido mínimas. Quedan por responder preguntas sobre la factibilidad de conseguir este efecto en la práctica y a escala planetaria y acerca de qué impacto tendría en los patrones de lluvia y el crecimiento de las cosechas.

Debemos destacar que esta no es una solución al cambio climático. Pese a que se podría estabilizar o reducir la temperatura del planeta, si esto no es acompañado también de una reducción en las emisiones de CO2, seguiríamos sufriendo una serie de problemas, como la acidificación del océano. Por otra parte, si se permitiera mantener o incrementar las emisiones de CO2 durante este periodo, se podría manifestar un riesgo de primer orden denominado «choque final». En este caso, si por cualquier circunstancia cesara de manera abrupta la emisión de aerosoles estratosféricos por geoingeniería, la mayor concentración de CO2 en la atmósfera generaría un aumento rápido de la temperatura del planeta, con unas consecuencias mucho más graves para los ecosistemas y las sociedades humanas que los efectos de un calentamiento gradual, ya de por sí desastrosos.

Los críticos de esta vía de investigación temen que se entienda, de un modo equivocado, como una manera de evitar el proceso mucho más costoso de eliminar las emisiones de carbono. Asimismo, algunos esgrimen que intervenir tan a fondo en el funcionamiento de nuestro planeta resulta del todo irresponsable. Estas iniciativas también suscitan cuestiones espinosas sobre la gobernanza mundial: ¿un país debería tener derecho a aplicar técnicas de geoingeniería? En caso contrario, si tenemos en cuenta que vivimos todos bajo un mismo cielo, ¿cómo se podría tomar una decisión coordinada a escala mundial (en especial si los diversos países presentan diferentes grados de exposición al impacto del cambio climático y diferentes niveles de preocupación por la geoingeniería)?

Los defensores de estas técnicas ponen el acento en que en la presente etapa quizá ya tengamos que sufrir efectos graves del cambio climático a escala mundial y que aquellas podrían otorgarnos la suficiente capacidad de maniobra para la transición hacia la tecnología neutral en carbono al tiempo que mitigan temporalmente los daños más graves. Además, a menos que se investigue para evaluar la factibilidad y el impacto probable de este enfoque, no estaremos en una buena posición para tomar una decisión informada en el futuro, cuando los efectos del cambio climático quizás exijan ya medidas extremas. Eli Kintisch, que escribe en Science, es conocido por definir la geoingeniería como «una mala idea cuyo momento ha llegado».20

La inteligencia artificial, analizada en detalle en otros capítulos, puede representar el comodín más atrevido de todos. Todo lo que hemos logrado, en términos de progreso de la civilización y de adaptación del mundo que nos rodea a nuestros objetivos, ha sido el producto de nuestra inteligencia. No obstante, algunos de los retos intelectuales que afrontamos en el siglo xxi son precisamente aquellos que la inteligencia humana, por sí sola, no permite abordar de forma adecuada; por ejemplo, cribar enormes cantidades de datos e identificar patrones en ellos, así como integrar la información procedente de sistemas vastos e interconectados. Desde el análisis de fuentes dispares de datos climáticos, hasta el de millones de genomas humanos, pasando por la ejecución de miles de simulaciones, la inteligencia artificial (IA) contribuirá a nuestra capacidad para dar uso a una cantidad ingente de saber que podemos reunir y generar, además de ayudarnos a comprender nuestro mundo cada vez más complejo e interconectado. La IA ya se emplea para optimizar el consumo de energía entre los servidores de Google, reproducir intrincados experimentos de física y descubrir nuevas demostraciones matemáticas. Muchas tareas que tradicionalmente requerían la inteligencia humana, desde la traducción de lenguas hasta la conducción en carreteras concurridas, ahora se pueden automatizar, con el consiguiente incremento de la eficiencia y la productividad y de la liberación de inteligencia humana para las tareas que la IA todavía no puede hacer. Sin embargo, muchos de estos mismos avances tienen aplicaciones más preocupantes; por ejemplo, permitir la recogida y el análisis en profundidad de nuestros datos personales y sentar las bases para el desarrollo de armas autónomas baratas, potentes y fáciles de expandir destinadas al campo de batalla.

De hecho, estos avances ya tienen un impacto impresionante en nuestro mundo. Sin embargo, la gran mayoría de estos sistemas se pueden describir como IA «restringida». Pueden llevar a cabo funciones a un nivel igual o superior al humano en áreas limitadas y bien especificadas, pero carecen de las capacidades cognitivas generales que tienen los humanos, los perros o incluso las ratas; entre otras, la capacidad general de resolver problemas en un contexto del «mundo real» y de aprender de la experiencia y aplicar el saber a nuevas situaciones.

Ha renacido el entusiasmo por el reto de lograr una IA «general», que podría tener un rendimiento igual o superior al humano en todo el rango de entornos y problemas cognitivos en los que los humanos pueden operar. Sin embargo, por el momento se desconoce cuánto nos falta para llegar a un gran logro científico como este o cuán difíciles serán los desafíos fundamentales para alcanzarlo, mientras que los expertos muestran una gran disparidad de opiniones al respecto. La única prueba de principio de la que podríamos partir sería el cerebro humano, pero necesitaremos décadas de avances antes de entender de un modo significativo el cerebro en un grado que nos permita reproducir sus funciones clave. Sin embargo, cuando se logre ese descubrimiento, si se logra, hay razones para pensar que el progreso desde una inteligencia general de nivel humano hasta una IA general superinteligente podría ser muy rápido.

Las mejoras en los componentes de hardware y software de la IA, así como las ciencias y tecnologías relacionadas, podrían llegar con rapidez con la ayuda de una IA general avanzada. Resulta incluso concebible que los sistemas de IA puedan lanzarse directamente a la investigación de alto nivel sobre IA, con lo que acelerarían el proceso al permitir ciclos de automejora. Un número creciente de expertos en IA temen que un proceso de este tipo pueda desembocar con rapidez en sistemas muy potentes e inasequibles al control humano; Stuart Russell lo ha comparado con una reacción nuclear en cadena.

La IA superinteligente tiene el potencial de permitir un progreso sin precedentes en la ciencia, la tecnología y los desafíos de nuestro mundo; parafraseando a los fundadores de Google DeepMind, si la inteligencia se puede «resolver», también se puede utilizar a su vez para resolver todo lo demás. Pese a todo, el riesgo de esta tecnología hipotética, ya sea por un uso deliberado o por circunstancias inesperadas fuera de control, podría ser superior al de cualquier tecnología de la historia humana. Si es plausible que se alcance este nivel tecnológico durante el presente siglo, en las décadas previas será necesario un grado elevado de investigación y planificación, tanto en el diseño técnico de dichos sistemas como en las estructuras de gobernanza alrededor de su desarrollo, para conseguir una transición deseable.

Predecir el futuro

Esta área también efectúa labores de exploración y previsión sobre temas más orientados al futuro; por ejemplo, los avances futuros en neurociencia y nanotecnología, los futuros experimentos en física y las tecnologías de fabricación que se plantean y que se podrían desarrollar en las próximas décadas, como la fabricación molecular. Pese a que estamos limitados en lo que podemos describir en detalle sobre los descubrimientos científicos futuros, a menudo es posible hacer un útil trabajo preliminar. Sin ir más lejos, podemos identificar avances que, en principio y de acuerdo con nuestro conocimiento actual de la ciencia correspondiente, deberían ser posibles. Asimismo, podemos descartar ideas que son pura «ciencia ficción» o lo suficientemente poco factibles para que, de momento, podamos dejarlas de lado sin dudar, así como aquellas que representan un nivel de avance que hace su consecución poco probable hasta dentro de muchas generaciones.

Si nos centramos en aquellas ideas cuyo desarrollo en el próximo medio siglo es plausible, podemos reflexionar sobre sus características subyacentes y sus posibles efectos sobre el mundo, además de los principios generales que podríamos tener en cuenta en pos de la seguridad en su desarrollo y aplicación. Pese a que habría sido una tarea de locos intentar predecir todos los impactos de internet antes de 1960 o el desarrollo de las armas nucleares antes de 1945, sería sin duda posible desarrollar el pensamiento sobre las implicaciones posibles de una red mundial muy sofisticada de comunicaciones e intercambio de información, o de un arma con un enorme potencial destructivo.

Por último, si tenemos algunas ideas acerca de las posibles fuentes de avances transformadores, podemos trabajar en la investigación orientada al pronóstico y la planificación. De este modo podríamos ayudar a identificar: a) descubrimientos y avances que de otra forma resultarían poco relevantes pero que podrían señalar un progreso significativo hacia la consecución de una tecnología más transformadora y b) el umbral a partir del cual es probable que la dinámica mundial cambie de manera significativa (como el momento en el que el precio y el acceso a la energía fotovoltaica y el almacenamiento de electricidad lleguen a ser más asequibles que los de los combustibles fósiles).

Enfrentarnos a los límites de nuestro conocimiento

Una cuestión común a estos desafíos y tecnologías emergentes radica en que suele existir un elevadísimo nivel de incertidumbre científica y de desacuerdo entre los expertos. Es especialmente cierto en cuanto a las capacidades y los avances científicos futuros, las vías por las cuales los avances en un campo pueden influir en el avance en otros y los impactos y riesgos mundiales de los avances proyectados. Entre los temas de investigación en marcha en el CSER se encuentran las vías para obtener información útil a partir de un abanico de expertos con opiniones dispares; también los medios para lograr un progreso científico significativo ante nuestros desafíos cuando contamos con datos discontinuos o con pocos casos de estudio en los que basarnos o, incluso, cuando debemos caracterizar un acontecimiento totalmente carente de precedentes. Se podría tratar de un hipotético umbral ecológico, que de ser superado derivaría en una marcha irreversible hacia el colapso de un ecosistema crucial al completo. Asimismo, podría tratarse de un descubrimiento científico transformador, como el desarrollo de la IA general, cuando nuestra única referencia son las tendencias actuales en la capacidad de la IA, el hardware y las opiniones de expertos sobre problemas clave por resolver en este campo. No es realista esperar que podamos tener razón siempre o, ni siquiera, la mayoría de las veces. Debemos ser humildes, estar preparados para falsos positivos y ser capaces de identificar los objetivos prioritarios de la investigación a partir de señales muy tenues.

Con la consciencia de que hay límites en el nivel de detalle y de certeza que se pueden conseguir, esta labor a menudo se combina con el trabajo sobre los principios generales de la gobernanza científica y tecnológica. Por ejemplo, el trabajo en el apartado de «innovación responsable» se centra en el desafío de desarrollar una administración colectiva del progreso en la ciencia y la tecnología del presente, con la idea de conseguir unos buenos resultados en el futuro.21 Combina el pronóstico científico con procesos para implicar a actores esenciales en las fases adecuadas del desarrollo de una tecnología. Dichos actores podrían incluir, en diferentes etapas, a los científicos que toman parte en la investigación fundamental y la investigación aplicada, a los líderes del sector, a los investigadores dedicados a los riesgos, beneficios y demás impactos de una tecnología, a los patrocinadores, a los responsables de las políticas, a los reguladores, a las ONG y a los grupos de referencia, y aquellos particulares que utilizarán una tecnología o se verán afectados por su desarrollo. En el caso de las tecnologías con un papel potencial en un riesgo catastrófico a escala mundial, pueden afectar a la población de todo el planeta. Por consiguiente, las decisiones con consecuencias a largo plazo no pueden estar en manos de un pequeño grupo de personas, representar solo los valores de un pequeño subconjunto de individuos ni pasar por alto los impactos probables sobre la población mundial.

Ha habido varios ejemplos concretos y muy alentadores de esta colaboración y visión de futuro, en los cuales especialistas en un área científica, expertos interdisciplinares y patrocinadores, entre otros, han cooperado para intentar guiar el desarrollo de una tecnología emergente, establecer normas éticas y prácticas de seguridad y analizar sus usos y abusos potenciales de un modo científicamente riguroso. En bioingeniería, la famosa conferencia de Asilomar en 1975 sobre el ADN recombinado sentó precedentes notables, mientras que en tiempos más recientes se han celebrado cumbres sobre avances como la edición de genes humanos. Sobre IA ha habido varias conferencias importantes en los últimos tiempos, con la participación entusiasta de líderes académicos e industriales de la investigación en IA junto a expertos interdisciplinares y responsables políticos. Varios de los equipos de élite mundial en investigación sobre la IA han formado grupos asesores en ética para informar y guiar sus prácticas científicas. Asimismo, hace poco se ha anunciado la creación de una «Asociación para la IA en beneficio de las personas y la sociedad», de carácter intersectorial, y que incluye cinco empresas punteras en la investigación fundamental en la materia.22

En términos más amplios, es crucial que aprendamos de las lecciones de las tecnologías del pasado y que, en la medida de lo posible, desarrollemos principios y metodologías que podamos emplear en un futuro. Esto nos podría dar ventaja a la hora de prepararnos para avances todavía fuera de nuestro alcance y que podrían verse imposibilitados si nos ciñéramos a metodologías demasiado ligadas a tecnologías y riesgos específicos. Una de las preocupaciones principales asociadas con los riesgos de las tecnologías emergentes y futuras es el ritmo de progreso y la aparición de las consiguientes amenazas relacionadas. Pese a que todas las ciencias plantearán retos específicos y requerirán técnicas y conocimientos de expertos concretos de cada área, debemos acoger con los brazos abiertos cualquier herramienta o metodología que nos ayude a intervenir de un modo fiable y más temprano. Es posible que la oportunidad de evitar dichos riesgos sea efímera. De hecho, dicha oportunidad se podría dar en las primeras fases de desarrollo de una tecnología, mucho antes de que esté madura y a disposición del mundo, cuando ya sea difícil de controlar. Una vez abierta, la caja de Pandora es difícil de cerrar.

TRABAJAR EN EL RELOJ (DEL JUICIO FINAL)

En la actualidad, el progreso tecnológico nos ofrece la visión de un futuro extraordinario. Los avances que nos han llevado a una trayectoria no sostenible también han incrementado de forma espectacular la calidad de vida de muchos y han abierto caminos científicos que nos pueden conducir, a su vez, a un mundo más seguro, limpio y sostenible. Con el desarrollo tecnológico adecuado y sus aplicaciones, conjugados con el avance de los procesos sociales, democráticos y distributivos a escala mundial, se puede progresar ante todos los desafíos analizados en el presente capítulo. Los avances en las energías renovables y las tecnologías relacionadas, así como un consumo más eficiente de energía —avances que probablemente acelerará el progreso de tecnologías como la IA—, nos pueden conducir a la neutralidad en las emisiones de carbono. Las nuevas capacidades de fabricación que nos brinde la biología sintética pueden establecer vías más limpias para producir productos y procesar los residuos. Una mayor comprensión científica del mundo natural en el que vivimos y de los servicios que nos presta el ecosistema y de los que dependemos nos ayudará a marcar un rumbo que haga compatible la conservación de los sistemas medioambientales clave y la prosperidad humana. Incluso podemos contribuir a los avances en la educación y los derechos de las mujeres a escala mundial (que desempeñan un papel en la estabilización de la población) mediante las herramientas de educación, información y coordinación que nos proporciona la tecnología y, en términos más generales, por la creciente prosperidad en las zonas relevantes del mundo.

Existen riesgos catastróficos y existenciales que simplemente no podremos superar en ausencia de avances en la ciencia y la tecnología; por ejemplo, posibles brotes pandémicos, ya sean naturales o causados por el hombre. La identificación temprana de asteroides en trayectoria de impacto con la Tierra y las estrategias para desviarlos constituyen un tema de investigación activo tanto en la NASA como en otros ámbitos. Pese a que ahora mismo no se conocen técnicas para evitar o mitigar una erupción supervolcánica, puede que dentro de un siglo las herramientas a nuestra disposición sí nos lo permitan. De igual manera, a un plazo todavía más largo, una civilización que se haya diseminado permanentemente más allá de la Tierra, facultada para ello por los avances en el vuelo espacial, la manufactura, la robótica y la modificación del terreno, será una civilización mucho más susceptible de pervivir. Sin embargo, el sobrecogedor poder de las herramientas que estamos desarrollando no debe tomarse a la ligera. Hemos tenido la suerte de vivir la llegada de las armas nucleares sin sufrir una catástrofe global. Además, es realista esperar que, a lo largo del presente siglo, podamos reescribir gran parte de la biología para ajustarla a nuestros propósitos, intervenir deliberadamente y a gran escala en los mecanismos del clima de nuestro planeta e, incluso, desarrollar agentes con una inteligencia fundamentalmente ajena a la nuestra y que podría superarla en gran medida en algunas o la mayoría de áreas. Sería una evolución sin precedentes y con unas consecuencias impredecibles.

Da confianza observar que son relativamente escasos los acontecimientos que podrían causar una catástrofe existencial, es decir, una que desembocara en la extinción o el colapso permanente de la civilización. Dejando aparte los acontecimientos muy excepcionales (como los supervolcanes o los asteroides), los candidatos más plausibles a una catástrofe de este tipo incluyen el invierno nuclear, escenarios de calentamiento o enfriamiento extremo del planeta, la liberación deliberada o accidental de un organismo que alterara radicalmente el funcionamiento del planeta o la liberación de un patógeno de diseño. Asimismo, incluyen avances futuros que quedan en un terreno más especulativo, como nuevos tipos de armamento, una IA fuera de control o, quizá, experimentos de física más allá de lo que ahora mismo podemos prever. Muchos riesgos mundiales son aislados y no letales (al menos para algunos de nosotros), y es probable que la civilización humana pudiera recuperarse de ellos a largo plazo: un calentamiento global más leve, diversos desastres medioambientales y colapsos de ecosistemas, una hambruna generalizada, la mayoría de brotes pandémicos y la guerra por medios convencionales (aunque sea mundial).

No obstante, esta última categoría de riesgos, así como los factores que podrían impulsarlos (como la población, el consumo de recursos y el cambio climático), no deben ser ignorados por el estudio del riesgo existencial en términos más generales. Tampoco tiene sentido considerar estos desafíos de forma aislada; en un mundo interconectado como el nuestro, influyen los unos en los otros. La amenaza de una guerra nuclear a escala mundial no ha desaparecido y muchos estudiosos consideran que puede volver a agravarse (al escribir el presente capítulo, Corea del Norte había llevado a cabo su prueba nuclear más ambiciosa hasta la fecha). Si la sequía, el hambre, las presiones climáticas y otras sobre los recursos sirven para generar una escalada en las tensiones geopolíticas o si el uso potencial de una nueva tecnología como la geoingeniería condujera a un enfrentamiento nuclear, el resultado sería una amenaza existencial.

Por todas estas razones, entre otras, se está desarrollando una comunidad de académicos de todo el mundo que consideran que el siglo xxi será el escenario de cambios y desafíos de mayor calado que cualquier siglo anterior en la historia humana. Será un siglo de presiones sin precedentes a escala mundial, un siglo en el cual es probable que la frecuencia de los acontecimientos extremos e impredecibles alcance unos niveles inéditos. Será, además, un siglo en el que el poder de unas tecnologías distintas a las conocidas en el pasado se cernirá sobre nuestras cabezas como múltiples espadas de Damocles. Con todo, será también un siglo en el cual las tecnologías que desarrollemos y las estructuras institucionales que creemos podrían ayudarnos a resolver muchos de los problemas que afrontamos en la actualidad; sobre la base, eso sí, de que orientemos con cuidado su uso y sus aplicaciones.

Durante este siglo deberemos, como especie, aprender a cooperar a una escala y en un nivel sin precedentes, tanto para evitar la posibilidad de un conflicto con las armas de cataclísmico poder que hemos desarrollado como para prevenir las dañinas consecuencias de nuestras actividades combinadas sobre el planeta. Asimismo, pese a que con las armas nucleares estuvimos a punto de caer a las primeras de cambio, tenemos razones para ser muy optimistas. Respecto al pasado, la amenaza que plantean ha conducido a un nivel muy superior y desconocido de cooperación internacional y a estructuras internacionales dedicadas a evitar la posibilidad de una guerra a gran escala. En un mundo exento de armas nucleares quizá ya habríamos sido testigos de una tercera guerra mundial. Por añadidura, los esfuerzos internacionales por mitigar el cambio climático han sentado un poderoso precedente. En diciembre de 2015, países de todo el mundo acordaron dar pasos significativos para reducir la probabilidad de un daño catastrófico global contra las generaciones futuras, aunque en muchos casos es posible que las medidas correspondientes choquen tanto con los intereses económicos individuales de estos países como con los intereses económicos de la generación actual. Con cada uno de estos pasos aprendemos más y reforzamos un poco más el andamiaje científico e institucional que necesitaremos para responder con eficacia a los retos por venir.

Si lo hacemos bien en este siglo, la humanidad tendrá un largo futuro en la Tierra y también en las estrellas.

Nota del autor

El trabajo de Seán Ó hÉigeartaigh cuenta con financiación de la Templeton World Charity Foundation. Las opiniones expresadas en este capítulo son las del autor y no reflejan necesariamente las opiniones de dicha fundación.

NOTAS

1. Garber, M., «The Man Who Saved the World by Doing Absolutely Nothing», en The Atlantic, 26 de septiembre de 2013. http://www.theatlantic.com/technology/archive/2013/09/the-man-who-saved-the-world-by-doing-absolutely-nothing/280050/

2. Lewis, P. M., Williams, H., Pélopidas, B. y Aghlani, S., Too Close for Comfort: Cases of Near Nuclear Use and Options for Policy, Londres, Chatham House, the Royal Institute of International Affairs, 2014.

3. Bostrom, N., «Existential Risks», en Journal of Evolution and Technology, vol. 9, n.o 1, 2002.

4. Jefferies, J., «The UK Population: Past, Present and Future», en Focus on people and migration, Reino Unido, Palgrave Macmillan, 2005.

5. Gates, B., «The Next Epidemic—Lessons from Ebola», en New England Journal of Medicine, vol. 372, n.o 15, 2015.

6. Farrar, J. J. y Piot P., «The Ebola Emergency—Immediate Action, Ongoing Strategy», en New England Journal of Medicine, vol. 371, n.o 16, 2014.

7. http://slatestarcodex.com/2014/07/30/meditations-on-moloch/

8. Departamento de Asuntos Económicos y Sociales de las Naciones Unidas, World Population Prospects: The 2015 Revision, Nueva York, Naciones Unidas, 2015. https://esa.un.org/unpd/wpp/Publications/Files/Key_Findings_WPP_2015.pdf

9. https://www.technologyreview.com/s/601601/six-months-after-paris-accord-were-losing-the-climate-change-battle/

10. Ceballos, G., Ehrlich, P. R., Barnosky, A. D., García, A., Pringle, R. M. y Palmer, T. M., «Accelerated Modern Human-induced Species Losses: Entering the Sixth Mass Extinction», en Science Advances, vol. 1, n.o 5, 2015.

11. Ord, T., «Overpopulation or Underpopulation», en Goldin, I. (ed.), Is the Planet Full?, Oxford, Oxford University Press, 2014.

12. Shelton, J. D., «Taking Exception. Reduced Mortality Leads to Population Growth: an Inconvenient Truth», en Global Health: Science and Practice, vol. 2, n.o 2, 2014.

13. https://www.givingwhatwecan.org/post/2015/09/development-population-growth-and-mortality-fertility-link/

14. Gates, B., «3 Myths that Block Progress for the Poor», en Gates Foundation, Carta Anual, 22 de enero de 2014. http://www.gatesfoundation.org/Who-We-Are/Resources-and-Media/Annual-Letters-List/Annual-Letter-2014

15. King, D., Browne, J., Layard, R., O’Donnell, G., Rees, M., Stern, N. y Turner, A., «A global Apollo Programme to Combat Climate Change», en London School of Economics and Political Science, Londres, Centre for Economic Performance, 2015. http://www.globalapolloprogram.org/

16. Steffen, W., et al., «Planetary Boundaries: Guiding Human Development on a Changing Planet», en Science, vol. 347, n.o 6.223, 13 de febrero de 2015.

17. Rozo, M. y Gronvall, G. K., «The Reemergent 1977 H1N1 Strain and the Gain-of-Function Debate», en mBio, vol. 6, n.o 4, 2015.

18. Pennington, T. H., «Biosecurity 101: Pirbright’s Lessons in Laboratory Security», en BioSocieties, vol. 2, n.o 4, diciembre de 2007, pp. 449-453.

19. Selgelid, M. J., Weir, L., Jackson, R. y Ramshaw, I., «The Mousepox Experience», en EMBO Reports, vol. 11, n.o 1, enero de 2010, pp. 18-24.

20. https://www.wired.com/2010/03/hacktheplanet-qa/

21. Stilgoe, J., Owen, R. J. y Macnaghten, P., «Developing a Framework for Responsible Innovation», en Research Policy, vol. 42, n.º 9, Elsevier, 2013,

pp. 1.568-1.580.

22. http://www.partnershiponai.org/

Canal Openmind

Compartir

lee el libro completo

El próximo paso: la vida exponencial

[ + ]

Artículos relacionados

Innovación: es un hecho generalmente aceptado que la ciencia conforma la tecnología, pero ¿eso es todo?

[ + ]

Estudios del futuro: teorías y metodologías

[ + ]

Inteligencia artificial de beneficios probados

[ + ]

OTROS LIBROS