>DISRUPCIÓN DIGITAL Y REAJUSTE: IMAGINAR NUEVAS VÍAS

Robin Mansell

Imagen: ¿Todo son beneficios en la tecnología digital?

>ROBIN MANSELL

Robin Mansell es profesora de Nuevos Medios e Internet, así como jefa del Departamento de Medios y Comunicaciones de la London School of Economics and Political Science. Es internacionalmente conocida por su trabajo en los ámbitos social, político y económico que surgen con las innovaciones tecnológicas. Es miembro de la junta directiva de TPRC (Research Conference on Communications, Information and Internet Policy) y fue presidenta de la International Association for Media and Communication Research, presidenta científica de Communications Policy Research Conference de EURO, así como directora adjunta y rectora de la LSE. Ha publicado, entre otras, las obras Imagining the Internet. Communication, Innovation and Governance (2012) y The International Encyclopaedia of Digital Communication and Society (2015).

CONOCE MÁS DEL AUTOR [+]

>DISRUPCIÓN DIGITAL Y REAJUSTE: IMAGINAR NUEVAS VÍAS

Este artículo evalúa los beneficios y perjuicios derivados de las tecnologías digitales disruptivas. Tiene en cuenta los imaginarios sociales que apoyan la idea de que cada cual debe ajustarse naturalmente a la senda de las innovaciones, aunque ello implique el riesgo de que los humanos acabemos cediendo el control de nuestras vidas a los operadores de las grandes plataformas digitales, a los gobiernos o a tecnologías inspiradas en la inteligencia artificial. El artículo expone por qué es esencial promover un debate sobre mundos alternativos a este, y valorar si nos estamos adentrando en un camino de consecuencias negativas que no sea posible corregir ex post con intervenciones políticas.

Introducción

Con la posible excepción de la nanotecnología y la biotecnología, ninguna otra tecnología parece prometer tantas mejoras en las vidas de los ciudadanos como la digital. Esta se distingue por su ubicuidad y sus múltiples aspiraciones de uso. Las tecnologías digitales están implicadas en cómo trabajamos, cómo compramos, cómo aprendemos y cómo jugamos, y desempeñan el papel vital de empoderar a los individuos y las comunidades. Se espera que la aplicación de dichas tecnologías incremente la productividad y la competitividad, transforme los sistemas educativos y culturales, estimule el intercambio social y democratice las instituciones. Aun así, hay constantes peticiones para reevaluar su gestión cuando los beneficios prometidos van acompañados de peligros, reales o imaginarios, para los consumidores y los ciudadanos en general. La difusión de estas tecnologías por toda la sociedad está poniendo en cuestión nuestras ideas más arraigadas sobre el poder, los privilegios y la influencia social. Urge evaluar si estas aspiraciones están siendo realmente realizadas, dada la posibilidad que de los supuestos beneficios puedan tornarse en promesas vanas o acaben siendo simples aproximaciones a las transformaciones profundas que se prometían.

Desde los medios sociales manejados por algoritmos hasta el «internet de las cosas» (la casa inteligente Alexa, de Amazon), pasando por los test para coches sin conductor, los robots para el cuidado personal, los ordenadores portátiles, los robots abogados para el acceso de las personas a la justicia y las máquinas de reventa para comprar entradas o vales de descuento, para algunos la tecnología digital está abriendo nuevas posibilidades que convertirán este mundo en un lugar más equitativo. En las últimas décadas, la innovación en las técnicas digitales ha tenido lugar en las intersecciones de las industrias establecidas. La convergencia tecnológica ofrece vías innovadoras para configurar los componentes digitales, pero generalmente se asocia con la consolidación de los mercados. Aunque algunos ven la convergencia en el mercado laboral como un desarrollo bienvenido, otros la ven como una forma de reproducir las asimetrías de poder en la sociedad. Convergencia tecnológica y consolidación de mercados parecen estar llevando a cabo nuevas estructuras de control jerárquico y a desigualdades que están enriqueciendo a unos pocos a expensas de la mayoría. Este mismo desarrollo es entendido por otros como productor de eriales anárquicos intercalados con espacios online cerrados, que admiten solo a aquellos que se someten a la autoridad de ciertos proveedores de servicios. ¿Qué pasaría si los proveedores de tecnologías y servicios digitales estuvieran siguiendo un camino equivocado con consecuencias negativas para la humanidad?

La innovación digital: problemas y beneficios

Estos desarrollos están influidos por la política y la regulación, así como por los valores introducidos en las tecnologías mismas. A causa de su modularidad, a medida que estas tecnologías van evolucionando, asumen progresivamente características de «sistema». Esto da lugar a una impredecibilidad considerablemente mayor que en el pasado, lo que a su vez hace difícil considerar los beneficios y problemas futuros asociados a la innovación tecnológica digital disruptiva.

«La desigualdad social y económica está aumentando dentro de los países, incluso cuando las BRECHAS de conectividad digital se están Cerrando con la difusión de los teléfonos móviles.»

Desde el punto de vista de los beneficios, los algoritmos que impulsan cada vez más los servicios digitales pueden proporcionar información que ayude a mitigar los daños causados por los desastres, proteger a las personas en los espacios públicos, señalar los riesgos para la salud y vigilar el cambio climático. El uso de algoritmos que apoyen los servicios permite a las empresas aumentar sus beneficios. Nuevos tipos de riesgos están llamando la atención del público en general, y las innovaciones tecnológicas, así como sus aplicaciones, se espera que acudan a salvarnos cuando, por ejemplo, las redes eléctricas fallen, las crisis financieras empeoren o se produzcan fugas de información. Estos servicios también proporcionan a los ciudadanos información que apoya políticas de resistencia frente a las prácticas injustas.

En cuanto a los problemas, los innovadores modelos de negocio ideados por las empresas que operan en la economía digital están permitiendo a compañías como Amazon vender productos a precios reducidos, selectivamente para clientes específicos, pero también reducen los márgenes de las librerías, pequeñas y grandes. El contenido digital se está convirtiendo rápidamente en publicidad de servicios pagados que agregan, filtran e integran información que puede venderse a una minoría de clientes escogidos que están dispuestos a pagar y son capaces de hacerlo. Los medios de comunicación públicos, incluido el servicio de radiodifusión, se enfrentan a una intensa competencia frente a las plataformas digitales que añaden contenido y funcionan como vigilantes. La combinación de rápida innovación y poder asimétrico en el mercado está dejando sin poder a colectivos diversos, a través del desempleo provocado por la tecnología, el aumento de la criminalidad, la pérdida de intimidad y, a menudo, la limitación de la libertad de expresión. La desigualdad social y económica está aumentando dentro de los países, incluso cuando las brechas de conectividad digital se están cerrando con la difusión de los teléfonos móviles. Los bancos, las empresas, las escuelas y los organismos policiales o de asistencia sociales utilizan habitualmente los sistemas automatizados para la toma de decisiones. Si están mal diseñados o no son transparentes, pueden causar daños significativos en forma de discriminación y marginación social. En Europa, el Reglamento General de Protección de Datos de la Unión Europea (GDPR) puede ayudar a minimizar los efectos negativos otorgando a los ciudadanos el derecho a recibir explicaciones sobre la toma de decisiones que dependan de estos sistemas, pero la regulación no ha sido puesta a prueba y los desafíos con vistas a proteger los derechos fundamentales de los adultos y los menores en la era digital continúan creciendo en todas las regiones del mundo.

Ajustarse a la disrupción digital

A raíz de todos estos acontecimientos, se están haciendo esfuerzos para desarrollar visiones de sociedades de la información equitativas y que mejoren el bienestar. En todos los países, ricos y pobres, algunos expertos afirman que la inversión en tecnologías digitales está proporcionando oportunidades para que las naciones de ingresos bajos y medios den un gran salto en materia de tecnología. Se espera que se igualen, e incluso superen, a los países ricos, asegurando los beneficios de la tecnología digital para los ciudadanos. Aunque la Declaración de Principios acordada en la Cumbre Mundial sobre la Sociedad de la Información, celebrada en 2003, hace hincapié en el «deseo común y el compromiso de construir una sociedad de la información centrada en las personas, inclusiva y orientada al desarrollo», en consonancia con la Carta de las Naciones Unidas y la Declaración Universal de los Derechos Humanos, predomina una aproximación centrada en la tecnología, tanto en la literatura sobre políticas y comercio como en la literatura de muchas ramas académicas. Algunos expertos insisten en que no existe un modelo único de sociedad digital, pero persiste el modelo homogéneo que minimiza los factores sociales, culturales, políticos y económicos que pueden conducir a resultados de inversión digital muy diferenciados. Incluso cuando las visiones de una vía hacia el futuro transformadora surgen de la deliberación de múltiples actores, la suposición subyacente es que serán los mercados competitivos los que la traigan, a pesar de que los mercados de servicios digitales no operan de acuerdo con los supuestos de la teoría del mercado perfectamente competitivo. La opinión predominante es que la innovación en el ámbito digital debe entregarse al mercado con la menor intervención política proactiva posible. Una excepción a todo esto se encuentra en el ámbito de la cualificación digital. La brecha de habilidades es sustancial y hay mucho debate acerca de la descualificación y la mejora de la cualificación. La dirección que lleva la innovación digital está afectando a la distribución de ingresos de las poblaciones, reemplazando a seres humanos por máquinas para aumentar la productividad, con predicciones muy variables sobre la gravedad de la amenaza para la subsistencia de los trabajadores y sobre la rapidez con que se producirá el desplazamiento laboral. Es muy escasa la oferta de trabajadores cualificados en ámbitos como la inteligencia artificial (IA), la gestión de datos, el control de calidad de los datos y la visualización de datos. Los estudios sobre la brecha digital suelen centrarse en la mejora de competencias en el ámbito técnico. Muchos países están introduciendo estrategias para mejorar la cualificación en materias STEM (ciencia, tecnología, ingeniería y matemáticas, incluida la codificación). Estas cualificaciones son necesarias para el empleo en análisis de datos, la ciencia de los datos y el campo de la IA, pero la falta de equidad en el mundo digital no puede ser abordada sin prestar atención a otros elementos determinantes de desigualdad y exclusión.

Las desigualdades exacerbadas por la difusión de las tecnologías digitales no pueden abordarse aumentando el número de informáticos y licenciados con formación técnica especializada. Los ciudadanos deben ser capaces de manejar la información de forma creativa. Necesitan tener la capacidad de seleccionar la información, ignorar la que sea irrelevante e interpretar patrones de información, y estas no son destrezas técnicas. Esta característica, propia de la falta de cualificación, es especialmente importante en relación con la producción y el consumo de contenidos mediáticos en los que las noticias falsas o «fakes» son un problema creciente. Los bulos online tienen por finalidad obtener beneficios y fomentar la inestabilidad política. Los contenidos de este tipo que circulan por las redes sociales engañan a los ciudadanos, crean una cultura de la desconfianza y la confusión, y cada vez hay más indicios de desigualdad entre los que confían en los medios y los que no lo hacen. En principio, cualquiera puede crear una página de inicio, pero el uso cualificado de internet depende de toda una serie de capacidades para participar en la comunicación interactiva, la difusión y la recopilación de información, así como de la interpretación de la propia información. La falta de progresos significativos en el desarrollo de una amplia alfabetización digital de base significa que la gente que carece de la cualificación apropiada está siendo progresivamente marginada y excluida. Pueden ser discriminados por su incapacidad para reconocer el valor o la utilidad de los servicios digitales o porque no entienden cómo los servicios pueden ser utilizados de manera social o económicamente productiva.

Las tecnologías digitales están cambiando el mercado y los hábitos de consumo.

El analfabetismo digital es un problema creciente. Hay herramientas para filtrar y censurar la información, pero cuando los menores y los adultos no pueden discernir un anuncio o entre «noticias falsas y noticias fiables», se ponen en cuestión los supuestos fundamentales de la participación cívica en el sistema político. En el Reino Unido, las investigaciones demuestran que solo el 25 por ciento de los niños de entre ocho y once años pueden entender la diferencia entre un anuncio o un enlace patrocinado y un post corriente colgado en las redes sociales. Alrededor del 33 por ciento no lo saben diferenciar. Algo menos del 50 por ciento de los niños de entre doce y quince años y solo seis de cada diez adultos podían explicar la diferencia[1]. Investigadores estadounidenses examinaron a estudiantes de todo el país y también hallaron que relativamente pocos podrían distinguir un anuncio de una noticia o de la información de un grupo de presión política. Concluyeron que «nos preocupa que la democracia se vea amenazada por la facilidad con que se propaga y prospera la desinformación sobre los asuntos cívicos».[2]

La responsabilidad y el coste de involucrarse en sociedades tecnológicamente convergentes y digitalizadas están recayendo directamente sobre los individuos. Las tecnologías y plataformas digitales crean oportunidades para favorecer relaciones directas e intermediadas entre empresas y clientes (así como entre gobiernos y ciudadanos), y las comparativas de precios pueden hacerse a escala global. La competitividad entre los operadores de las plataformas más grandes puede crear una mayor variedad y más opciones para algunos, pero el riesgo está en que este desarrollo pueda excluir a los desfavorecidos o fomente su inclusión en términos menos favorables que para los acomodados.

Las tecnologías de la próxima generación y el futuro

Con los avances en la potencia de los ordenadores y la difusión de aplicaciones digitales, para quienes estén incluidos y adquieran las capacidades apropiadas para el mundo digital, su inclusión aún puede ser problemática si, como resultado de ello, acaban perdiendo el control de sus vidas. El objetivo en el campo de la IA ha sido desde hace muchos años automatizar la inteligencia humana. Algunos ejemplos actuales de tecnologías «inteligentes» pueden ser el soldado aumentado o el consumidor digitalmente habilitado. El compromiso consiste en codificar algoritmos que «razonen» sobre la fiabilidad y la honestidad. La automatización de la vida cotidiana, ya sea por medio del «internet de las cosas» o de la robótica avanzada, es a menudo representada en la literatura popular como sinónimo de progreso bajo la promesa de una vida mejor para todos y, en última instancia, una reducción de la desigualdad social y económica.

Los medios existentes para dirigir la innovación en el campo de la tecnología digital no están bien posicionados para abordar cuestiones fundamentales sobre los tipos de sociedades de la información que son deseables, en contraposición con los que podrían ser posibles. Los debates sobre un futuro mejor suelen priorizar las expectativas acerca de los beneficios del camino de innovación tecnológica digital que se está siguiendo. El potencial valor económico de alcanzar estas expectativas cuanto antes significa que las políticas para mitigar los problemas que puedan surgir en la actual vía se introducen con precaución y solo después de que se hayan constatado daños reales. Las medidas que podrían abordar la desigualdad social y económica, así como la potencial pérdida de autoridad humana sobre los sistemas digitales avanzados de procesamiento de información, suelen ser vistos como perjudiciales para el ritmo de la innovación y el mercado. Sin embargo, es esencial preguntarse si el camino hacia los sistemas tecnológicos que transforman las relaciones entre máquinas y humanos es compatible con el desarrollo del ser humano, en el sentido de que las personas deben ser capaces de participar en «un tipo de vida activa»,[3] una vida en la que se respeten valores como el altruismo, la solidaridad y la dignidad. Si se quiere asegurar a largo plazo este tipo de vida, debe evitarse el camino hacia sociedades de la información algorítmicas o calculadoras con una menor autoridad humana.

«LOS DEBATES SOBRE UN FUTURO MEJOR SUELEN PRIORIZAR LAS

EXPECTATIVAS ACERCA DE LOS BENEFICIOS DEL CAMINO DE INNOVACIÓN TECNOLÓGICA DIGITAL QUE SE ESTÁ SIGUIENDO.»

Manuel Castells señaló a finales de los años noventa la gran brecha existente entre el «sobredesarrollo tecnológico» y el «subdesarrollo social», y esta brecha sigue ampliándose.[4] Reducirla requiere considerar vías alternativas para el futuro de las sociedades digitales, pero el debate actual se centra básicamente en cómo garantizar el derecho público de acceso a la información, la libertad frente a la vigilancia indeseable y la protección de la privacidad individual utilizando las tecnologías disponibles en el mercado. En los trabajos dirigidos a abrir la caja negra digital, la investigación se centra en el impacto de los sistemas computacionales avanzados en la clasificación social y la discriminación, en si las personas activas online son conscientes de estos sistemas y sus sesgos, y en si quienes operan los sistemas son responsables ante alguna «autoridad superior» cuando algo sale mal. Sin embargo, con el desarrollo de la IA, sus aplicaciones y sus brillantes perspectivas como industria fundamental para el crecimiento económico, hay una fascinación por lo cuantificable, con datos y predicciones cada vez más precisos sobre la conducta humana y la no humana. En la industria, el objetivo es garantizar, independientemente de los sesgos de los sistemas computacionales y las máquinas de aprendizaje, la investigación y el desarrollo, sean llevados a cabo con el objetivo de mantener a la gente segura, feliz y potencialmente más rica. El desafío para los responsables de la formulación de políticas es determinar no solo si los sistemas digitales actuales son explotadores o liberadores, inclusivos o exclusivos, sino también evaluar si la innovación avanza por un camino en el que los sistemas técnicos se conviertan en los principales impulsores de los resultados sociales y, crecientemente, nieguen la voluntad humana.

Imaginarios sociales y mundos alternativos

Valoraciones de este tipo nos obligan a pensar más allá de las estrategias de gestión a corto plazo y de los modelos de negocio para considerar «imágenes y nociones normativas más profundas» ampliamente compartidas acerca de cómo una sociedad determinada está, y debe estar, organizada. La forma en que las personas dan sentido al mundo que las rodea, los valores que privilegian y sus vías preferidas con vistas al futuro son factores cruciales que determinarán los resultados a largo plazo. Como demuestra el filósofo Charles Taylor, estas nociones e imágenes pueden ser tratadas como imaginarios sociales que influyen en las prácticas colectivas de una sociedad. Dichos imaginarios son los que dan lugar a las historias que la gente se cuenta acerca de hipotéticos desarrollos tecnológicos y sus consecuencias.[5] Taylor observa que, históricamente, siempre ha habido imaginarios sociales que compiten entre sí y que hacen afirmaciones sobre el modo en que la autoridad y la responsabilidad deben establecerse.

En la actualidad, el imaginario social predominante sobre el papel de los sistemas digitales en la sociedad prioriza la innovación rápida y la difusión de tecnologías que exhiban cierto grado de inteligencia «emocional». Este imaginario fomenta el procesamiento e interpretación de cantidades cada vez mayores de información digital y el aumento masivo de la capacidad tecnológica para producir, procesar, distribuir y almacenar información. En este imaginario, es necesario adaptarse a las convulsiones en el orden social, económico, cultural y político fruto de la rápida innovación tecnológica.[6] Su premisa básica es que una «autoridad superior», por ejemplo el Estado, el sector empresarial o el cliente, tenga el control sobre los resultados del proceso de innovación. Este imaginario social sostiene visiones programáticas de investigación científica, ingeniería y matemáticas que se centran en los sistemas de retroalimentación y la automatización, como los sistemas de control para aplicaciones militares o civiles. Se supone que los mercados eficientes y la elección individual guían los cambios en el sistema digital. La interacción del imaginario social predominante con las manifestaciones de poder de las plataformas digitales, que operan en mercados altamente concentrados, significa que estas empresas desempeñan el papel de intermediarias, con capacidad para bloquear o filtrar la información digital y procesar los datos de los clientes. Su fortaleza financiera les otorga prácticamente un monopolio, un poder de decisión sustancial y la capacidad de influir si deben ser reguladas y cómo. Para este imaginario, a veces factores residuales desvían de manera repentina la trayectoria del cambio, pero la posibilidad de que el progreso tecnológico pueda ser perjudicial para los seres humanos no forma parte de él.

En un imaginario social menos prominente, pero muy influyente, se supone que la «autoridad superior» es colaboradora, no jerárquica ni heterárquica, organizada por las redes descentralizadas. Dicho imaginario está inspirado en un compromiso con sistemas digitales abiertos, con acceso libre a la información y limitaciones mínimas para la libertad de expresión y la preservación de la privacidad, pero también depende de sistemas computacionales y aplicaciones de IA cada vez más sofisticados. Se asume que el imaginario social que sustenta esta visión de la vía de la innovación tecnológica, por regla general, favorece la producción basada en los bienes comunes, la transparencia y la capacidad de la autoridad humana en el mundo digital.

En ambos imaginarios sociales, sin embargo, la «autoridad superior» imaginada (o real) es un ser humano, y en este sentido la vía de la innovación tecnológica no se cuestiona, o se cuestiona muy rara vez. En el primer imaginario, se espera que las propiedades emergentes de un sistema digital complejo produzcan resultados positivos para los individuos, mediados por el mercado y, ocasionalmente, por la intervención del gobierno. En el segundo, son las actividades generativas de los diseñadores tecnológicos y de los participantes online las que se espera que logren estos resultados. En ambos casos, el papel del participante en el mundo digital comprometido busca etiquetar y revisar datos, mientras que la «autoridad superior», los mecanismos de gobierno corporativo, estatal y/o de la sociedad civil, quedan encargados de tomar acciones basadas en los resultados del análisis de datos. Se supone que estas decisiones se alinearán con los intereses en forma de ganancias comerciales, con equidad y justicia, al menos, a largo plazo. Tanto el imaginario social dominante como el subordinado pertenecen a un entorno digital que potencia las relaciones humano-máquina, máquina-máquina y humanohumano, en cada caso, con riesgos manejables para nosotros.

Conformación de la vía digital

Ampliar la gama de los futuros que se pueden imaginar requiere de una agenda proactiva encaminada a guiar la vía de la innovación tecnológica digital. Los imaginarios sociales imperantes, que asumen una trayectoria «natural» de la innovación, están siendo cuestionados. Por ejemplo, Luc Soete se pregunta: «¿Es posible que la innovación no sea siempre buena para usted?».[7] Sugiere que, en lugar de un proceso beneficioso de destrucción creativa al estilo de Schumpeter, que depende de un proceso continuo de innovación tecnológica, en la actualidad estamos siendo testigos de un período de «creación destructiva».

Los acuerdos de gobierno influyen en el tipo de sociedades que aparecen; configuran las perspectivas vitales básicas, la calidad de vida a la que las personas tienen derecho y si las sociedades van a ser inclusivas, respetuosas y capacitadoras para todos. Se puede considerar que los algoritmos gobiernan porque estructuran la comprensión de posibilidades futuras. Cuando los resultados a que dan lugar se tratan como si fueran ciertos, desaparece la capacidad para pensar en mundos y en vías de desarrollo tecnológico alternativos. Cuando nos basamos principalmente en el imaginario social dominante, se supone que los individuos están sujetos a las elecciones de los grandes operadores de las plataformas digitales o del Estado. Si tenemos en cuenta el segundo imaginario social y el poder generador de las comunidades online, distribuidas a escala mundial, no hay garantías de que los resultados sean equitativos o inofensivos, porque los movimientos online no siempre son positivos. En ambos casos, se ha asumido hasta hace poco que los seres humanos son la «autoridad superior» y que tienen el control de los sistemas computacionales.

La realidad virtual es un desarrollo tecnológico que abraza la inteligencia emocional.

En el entorno digital actual, cuando la economía o la política se consideran bajo el prisma algorítmico de las visualizaciones de mapas de riesgos, puntuaciones y banderas, normalmente es que siga siendo un individuo o un grupo de individuos los que toman las decisiones de actuar. La distribución de poder asimétrica significa que quienes tienen poder de actuación son, frecuentemente, los militares, otras ramas del Estado o las grandes empresas, aunque también se puede incluir a grupos de activistas online, organizados a través de movimientos de protesta social. Junto con los diseñadores tecnológicos que incorporan valores al sistema digital, todos ellos están eligiendo sobre el camino al que se dirige nuestro futuro entorno digital. Sin embargo, si la cuantificación de todo significa que las sociedades corren el riesgo de llegar a ser ingobernables por humanos, entonces hay que reevaluar la noción de que la cuantificación de la vida, permitida por sofisticados sistemas de IA y las aplicaciones, es sinónimo de mayor interés para la humanidad. Son posibles resultados alternativos, pero solo si un imaginario social diferente comienza a destacarse y a dar forma a las decisiones sobre la equidad y la justicia en el presente, y también sobre si la «autoridad superior» debe seguir siendo humana.

Históricamente, la vía de la innovación tecnológica digital no ha sido alcanzada de forma lineal, aunque a veces se supone que ha sido una progresión «natural» de lo analógico a lo digital, desde las industrias segmentadas especializadas en telecomunicaciones o informática hasta las industrias y tecnologías convergentes que incluyen las actuales plataformas digitales y de servicios. Las industrias y los líderes gubernamentales esperan que las aplicaciones digitales, incluidas en robots, apoyadas por los algoritmos y el aprendizaje automático, y organizadas en redes nada transparentes de tecnologías modulares y complejos enlaces jerárquicos, horizontales y diagonales, aumenten los niveles de ingresos. Algún activista de la sociedad civil espera que estas aplicaciones apoyen el éxito de movimientos de protesta. Pero, de nuevo, sus aspiraciones se afirman en el movimiento a lo largo de una vía de innovación tecnológica concreta.

La idea de que las tecnologías digitales ofrecerán soluciones a los problemas de la sociedad es un tema común. Cuando se hace hincapié en la difusión de innovaciones y en la dinámica competitiva de las plataformas y los servicios digitales, los efectos de segundo orden o superiores, que aumentan incertidembre y dan lugar a resultados que no pueden predecirse o modelarse fácilmente, hacen parecer que la única alternativa fuera explotar el camino tecnológico, que parece más probable que conduzca a ganancias económicas a corto y medio plazo. La innovación y la destrucción creativa han sido históricamente las características de la economía que generan más crecimiento económico, mayor productividad y mejor bienestar social. Esto conduce a una actitud de «esperar a ver» en la que los individuos se ajustan al cambio tecnológico disruptivo en el corto plazo. Se espera que el mercado, el Estado y/o la sociedad civil aporten respuestas que suavicen la disrupción, y se supone que el efecto posterior del cambio tecnológico será positivo. Los ajustes necesarios se consideran en gran medida espontáneos, lo que lleva a afirmar que «sabemos que los incrementos de productividad y eficiencia, nuevos servicios y nuevos puestos de trabajo, etc. están en el horizonte».[8] La orientación política dominante consiste en estimular la competitividad económica basada en la premisa de que, si un país no alcanza una posición de liderazgo en campos emergentes de innovación tecnológica —como el aprendizaje automático y la IA—, lo hará otro. La consecuencia es un énfasis abrumador en las políticas orientadas a influir en las estrategias de empresa después de que las tecnologías hayan llegado al mercado.

Algunos representantes de los gobiernos, de la industria y de la sociedad civil empiezan a reconocer que la cuarta revolución industrial «alterará fundamentalmente la manera en que vivimos, trabajamos y nos relacionamos» como consecuencia de la ubicuidad de los sensores digitales, la IA y el aprendizaje automático, así como, la forma en que se combinan con el mundo físico y biológico.[9] El cambio está ocurriendo a gran velocidad y los ciudadanos, los funcionarios públicos y los líderes empresariales encuentran difícil entender los sistemas computacionales digitales avanzados. A medio y corto plazo, las aplicaciones de tecnología digital tienen un gran potencial para abordar la desigualdad social y económica y los desafíos sociotécnicos globales, y es totalmente razonable que se busque maximizar los beneficios de la innovación tecnológica. Pero los imaginarios sociales imperantes son persistentes y fomentan la idea de que basta con conectar a los no conectados para lograr sociedades de información inclusivas, junto con la mejora de la alfabetización técnica digital y una mínima intervención en el mercado para responder a las amenazas. Incluso en el contexto de los dos imaginarios sociales predominantes, tanto los adultos como los menores necesitan una amplia gama de alfabetización digital si quieren aprender a navegar eficazmente en este entorno.

«SE ESPERA QUE EL MERCADO, EL ESTADO Y/O LA SOCIEDAD CIVIL

APORTEN RESPUESTAS QUE SUAVICEN LA DISRUPCIÓN, Y SE SUPONE QUE EL EFECTO POSTERIOR DEL CAMBIO TECNOLÓGICO SERÁ POSITIVO.»

Además, si la trayectoria tecnológica apunta, a largo plazo, hacia un mundo digital incompatible con el mantenimiento de los derechos y libertades que muchos países valoran, incluida la democracia responsable, es esencial promover el debate sobre los contramundos o caminos alternativos, así como sobre los cambios necesarios para alcanzarlos. En la medida en que, cuantos más beneficios digitales hayan, menos oportunidades existan para que los individuos ejerzan un control y tengan autoridad sobre sus vidas, es esencial cuestionarse la idea de que la única opción consiste en adaptarse a lo que se produce en el laboratorio. Los imaginarios sociales prevalecientes hacen difícil concebir caminos tecnológicos digitales alternativos, pero no es imposible. Los avances en la IA y las aplicaciones de aprendizaje automático están generando consultas de carácter ético que se preocupan por asuntos relacionados con la dignidad humana, las libertades, la igualdad, la solidaridad y la justicia. En estos foros se plantean constantemente cuestiones sobre cómo garantizar que los sistemas de tecnología digital no sean perjudiciales para el individuo, pero la postura política sigue estando notablemente orientada hacia la intervención ex post.

Conclusión

Se necesitan políticas para mejorar la cualificación, hacer frente a los fallos del mercado, limitar los daños y reducir la desigualdad, pero las cuestiones más importantes planteadas por la invasión de la IA y el aprendizaje automático no deben dejarse en manos del mercado, de los negocios, del Estado ni de los representantes de la sociedad civil. Lo más importante es asegurar un sólido diálogo entre todas las partes que permita considerar las «nociones e imágenes normativas más profundas» que sustenten la creencia generalizada de que la dirección general del cambio tecnológico es consistente con la autonomía y el florecimiento humanos. Es importante reconocer que la dirección del cambio tecnológico no era históricamente inevitable, y ahora tampoco lo es. El discurso sobre la inevitabilidad tecnológica y la adaptación para asegurar la competitividad económica industrial está profundamente arraigado, como también la visión de que se puede ampliar en la la sociedad civil, sin la ayuda de instituciones formales, para generar resultados consistentes con la consecución de la igualdad. Si la «creación destructiva» es ciertamente el resultado más probable de la vía de la innovación tecnológica digital, entonces es necesario actuar antes de que sea demasiado tarde y no haya posibilidad de retroceder, porque la autonomía individual se ha visto ya comprometida. Es necesario poner de manifiesto las normas y la dinámica de poder del «gobierno de los medios sociales» o «gobierno de la infraestructura»[10] en el período actual, pero esto debe ir acompañado de una mayor atención para fomentar activamente imaginarios sociales consistentes con el que las personas mantengan una posición de autoridad de control en relación con la tecnología.

La robótica es un ejemplo de tecnología que ya está mejorando la productividad y la eficiencia.

La inmersión de todos los individuos como protagonistas de lo que Chantal Mouffe considera foros que permitan una confrontación agonista,[11] es una forma de estimular las discusiones necesarias. En enfrentamientos de este tipo, deberían debatirse imaginarios sociales alternativos y a menudo opuestos. Los objetivos y valores que deberían regir las elecciones sobre las vías de innovación tecnológica podrían evaluarse de esta manera. Mientras el principal supuesto de los imaginarios sociales sea que la organización óptima de la sociedad llega a través de una mayor complejidad computacional, no transparente, esta visión continuará siendo interiorizada, limitando la capacidad de todos los implicados para imaginar alternativas. Es necesario el diálogo, aunque sea conflictivo, para debatir lo que los seres humanos harán con sus vidas en el futuro y cómo, por quién y bajo qué «autoridad superior» se establecerán las oportunidades de vida de la gente.

El debate y la consiguiente controversia sobre la autoridad humana en el mundo digitalizado probablemente darán como resultado uno o varios nuevos imaginarios sociales hegemónicos; potencialmente, incluirán imaginarios que podrían inculcar valores y conducir a decisiones que alienten un futuro en el que el ser humano conserve la autoridad y en el que las desigualdades sociales y económicas, así como los perjuicios, sean abordados con mayor eficacia que hoy en día. Es probable que esto requiera una mayor intervención proactiva en el mercado, que sustente uno u otro de los dos imaginarios sociales señalados anteriormente. Como dijo Raymond Williams: «Una vez que se desafían las inevitabilidades, comenzamos a reunir recursos para un viaje de esperanza»[12]. El mundo digital, en última instancia, puede ser construido de manera que favorezca la equidad y la inclusión, pero también, y de manera crucial, valore que los seres humanos conserven el control de su destino.

NOTAS

1 Sonia Livingstone, Kjartan Ólafsson y George Maier, «If Children Don’t Know an Ad from Information, How Can They Grasp How Companies Use Their Personal Data?», blog del LSE Media Policy Project, 18 de julio de 2017, http://tinyurl.com/ya26w9so.

2 Stanford History Education Group, «Evaluating Information. The Cornerstone of Civic Online Reasoning», con el apoyo de la Fundación Robert R. McCormick, 21 de noviembre de 2016, http://tinyurl.com/h3zneuz.

3 Martha C. Nussbaum, «Who is the Happy Warrior? Philosophy, Happiness Research, and Public Policy», International Review of Economics, vol. 59, núm. 4 (2012), p. 342.

4 Manuel Castells, The Information Age. Economy, Society and Culture; volume III: End of Millennium, Oxford, Blackwell, 1998, p. 359 (hay trad. cast.: La era de la información. Economía, sociedad y cultura, vol. III: Fin de milenio, Madrid, Alianza, 1999).

5 Charles Taylor, Modern Social Imaginaries, Durham, NC, Duke University Press, 2004 (hay trad. cast.: Imaginarios sociales modernos, Barcelona, Paidós, 2006).

6 Robin Mansell, Imagining the Internet. Communication, Innovation and Governance, Oxford, Oxford University Press, 2012.

7 Luc Soete, «SPRU’s Impact on Science, Technology and Innovation», Research Policy (en prensa).

8 House of Commons, Robotics and Artificial Intelligence, Londres, House of Commons Science and Technology Committee, Fifth Report of Session 2016-2017, 2017, p. 36.

9 Klaus Schwab, «The Fourth Industrial Revolution. What it Means, and How to Respond», World Economic Forum, 14 de enero de 2016, p. 1, http://tinyurl.com/hlah7ot, y The Fourth Industrial Revolution, Londres, Portfolio Penguin, 2017 (hay trad. cast.: La cuarta revolución industrial, Barcelona, Debate, 2016). Para Schwab, la cuarta revolución sigue a la primera, de 1760-1840 (ferrocarril y máquinas de vapor), la segunda, de finales del siglo XIX y principios del xx (producción mecánica), y la tercera, que transcurre entre 1960 y aproximadamente 2010 (computerización). Hay diferentes periodizaciones en la literatura. Para Chris Freeman y Francisco Louça, en As Time Goes By. From Industrial Revolutions to the Information Revolution, Oxford, Oxford University Press, 2001, las tecnologías digitales constituyen la quinta revolución tecnoeconómica. Para Erik Brynjolfsson y Andrew McAfee (The Second Machine Age. Work, Progress, and Prosperity in a Time of Brilliant Technologies, Nueva York, W. W. Norton & Co, 2014), el período actual es la segunda era de las máquinas.

10 Laura DeNardis y Andrea M. Hackl, «Internet Governance by Social Media Platforms», Telecommunications Policy, vol. 39 (2015), pp. 761-770, y Laura DeNardis y Francesca Musiani, «Governance by Infrastructure», en Francesca Musiani, Derrick L. Cogburn, Laura DeNardis y Nanette S. Levinson, eds., The Turn to Infrastructure in Internet Governance, Nueva York, Springer Link, 2016, pp. 3-21.

11 Chantal Mouffe, Agonistics. Thinking the World Politically, Londres, Verso Books, 2013.

12 Raymond Williams, Towards 2000, Londres, The Hogarth Press, 1983, p. 268 (hay trad. cast.: Hacia el año 2000, Barcelona, Crítica, 1984).

www.bbvaopenmind.com

Canal de Twitter de OpenMind

Canal de Facebook de OpenMind

Canal de Youtube de OpenMind

Compartir

Leer libro completo en español

La era de la perplejidad: repensar el mundo que conocíamos

Varios autores

[+]

Leer libro completo en inglés

The Age of Perplexity. Rethinking The World we Knew

Several Authors

[+]

Cita bibliográfica

Mansell, R., "Disrupción digital y reajuste: imaginar nuevas vías, en La Era de la Perplejidad. Repensar el Mundo que conocíamos, Madrid, BBVA, 2017.

Artículos relacionados

Manuel Castells

El impacto de internet en la sociedad: una perspectiva global

[+]

Stuart Russell

Inteligencia artificial de beneficios probados

[+]

Darrell M. West

Avance tecnológico: riesgos y desafíos

[+]

Otros libros [+]