Disrupción digital y reajuste: imaginar nuevas vías

Con la posible excepción de la nanotecnología y la biotecnología, ninguna otra tecnología parece prometer tantas mejoras en las vidas de los ciudadanos como la digital. Esta se distingue por su ubicuidad y sus múltiples aspiraciones de uso. Las tecnologías digitales están implicadas en cómo trabajamos, cómo compramos, cómo aprendemos y cómo jugamos, y desempeñan el papel vital de empoderar a los individuos y las comunidades. Se espera que la aplicación de dichas tecnologías incremente la productividad y la competitividad, transforme los sistemas educativos y culturales, estimule el intercambio social y democratice las instituciones. Aun así, hay constantes peticiones para reevaluar su gestión cuando los beneficios prometidos van acompañados de peligros, reales o imaginarios, para los consumidores y los ciudadanos en general. La difusión de estas tecnologías por toda la sociedad está poniendo en cuestión nuestras ideas más arraigadas sobre el poder, los privilegios y la influencia social. Urge evaluar si estas aspiraciones están siendo realmente realizadas, dada la posibilidad que de los supuestos beneficios puedan tornarse en promesas vanas o acaben siendo simples aproximaciones a las transformaciones profundas que se prometían.

Desde los medios sociales manejados por algoritmos hasta el «internet de las cosas» (la casa inteligente Alexa, de Amazon), pasando por los test para coches sin conductor, los robots para el cuidado personal, los ordenadores portátiles, los robots abogados para el acceso de las personas a la justicia y las máquinas de reventa para comprar entradas o vales de descuento, para algunos la tecnología digital está abriendo nuevas posibilidades que convertirán este mundo en un lugar más equitativo. En las últimas décadas, la innovación en las técnicas digitales ha tenido lugar en las intersecciones de las industrias establecidas. La convergencia tecnológica ofrece vías innovadoras para configurar los componentes digitales, pero generalmente se asocia con la consolidación de los mercados. Aunque algunos ven la convergencia en el mercado laboral como un desarrollo bienvenido, otros la ven como una forma de reproducir las asimetrías de poder en la sociedad. Convergencia tecnológica y consolidación de mercados parecen estar llevando a cabo nuevas estructuras de control jerárquico y a desigualdades que están enriqueciendo a unos pocos a expensas de la mayoría. Este mismo desarrollo es entendido por otros como productor de eriales anárquicos intercalados con espacios online cerrados, que admiten solo a aquellos que se someten a la autoridad de ciertos proveedores de servicios. ¿Qué pasaría si los proveedores de tecnologías y servicios digitales estuvieran siguiendo un camino equivocado con consecuencias negativas para la humanidad?

La innovación digital: problemas y beneficios

Estos desarrollos están influidos por la política y la regulación, así como por los valores introducidos en las tecnologías mismas. A causa de su modularidad, a medida que estas tecnologías van evolucionando, asumen progresivamente características de «sistema». Esto da lugar a una impredecibilidad considerablemente mayor que en el pasado, lo que a su vez hace difícil considerar los beneficios y problemas futuros asociados a la innovación tecnológica digital disruptiva.

La desigualdad social y económica está aumentando dentro de los países, incluso cuando las BRECHAS de conectividad digital se están Cerrando con la difusión de los teléfonos móviles.

Desde el punto de vista de los beneficios, los algoritmos que impulsan cada vez más los servicios digitales pueden proporcionar información que ayude a mitigar los daños causados por los desastres, proteger a las personas en los espacios públicos, señalar los riesgos para la salud y vigilar el cambio climático. El uso de algoritmos que apoyen los servicios permite a las empresas aumentar sus beneficios. Nuevos tipos de riesgos están llamando la atención del público en general, y las innovaciones tecnológicas, así como sus aplicaciones, se espera que acudan a salvarnos cuando, por ejemplo, las redes eléctricas fallen, las crisis financieras empeoren o se produzcan fugas de información. Estos servicios también proporcionan a los ciudadanos información que apoya políticas de resistencia frente a las prácticas injustas.

En cuanto a los problemas, los innovadores modelos de negocio ideados por las empresas que operan en la economía digital están permitiendo a compañías como Amazon vender productos a precios reducidos, selectivamente para clientes específicos, pero también reducen los márgenes de las librerías, pequeñas y grandes. El contenido digital se está convirtiendo rápidamente en publicidad de servicios pagados que agregan, filtran e integran información que puede venderse a una minoría de clientes escogidos que están dispuestos a pagar y son capaces de hacerlo. Los medios de comunicación públicos, incluido el servicio de radiodifusión, se enfrentan a una intensa competencia frente a las plataformas digitales que añaden contenido y funcionan como vigilantes. La combinación de rápida innovación y poder asimétrico en el mercado está dejando sin poder a colectivos diversos, a través del desempleo provocado por la tecnología, el aumento de la criminalidad, la pérdida de intimidad y, a menudo, la limitación de la libertad de expresión. La desigualdad social y económica está aumentando dentro de los países, incluso cuando las brechas de conectividad digital se están cerrando con la difusión de los teléfonos móviles. Los bancos, las empresas, las escuelas y los organismos policiales o de asistencia sociales utilizan habitualmente los sistemas automatizados para la toma de decisiones. Si están mal diseñados o no son transparentes, pueden causar daños significativos en forma de discriminación y marginación social. En Europa, el Reglamento General de Protección de Datos de la Unión Europea (GDPR) puede ayudar a minimizar los efectos negativos otorgando a los ciudadanos el derecho a recibir explicaciones sobre la toma de decisiones que dependan de estos sistemas, pero la regulación no ha sido puesta a prueba y los desafíos con vistas a proteger los derechos fundamentales de los adultos y los menores en la era digital continúan creciendo en todas las regiones del mundo.

Ajustarse a la disrupción digital

A raíz de todos estos acontecimientos, se están haciendo esfuerzos para desarrollar visiones de sociedades de la información equitativas y que mejoren el bienestar. En todos los países, ricos y pobres, algunos expertos afirman que la inversión en tecnologías digitales está proporcionando oportunidades para que las naciones de ingresos bajos y medios den un gran salto en materia de tecnología. Se espera que se igualen, e incluso superen, a los países ricos, asegurando los beneficios de la tecnología digital para los ciudadanos. Aunque la Declaración de Principios acordada en la Cumbre Mundial sobre la Sociedad de la Información, celebrada en 2003, hace hincapié en el «deseo común y el compromiso de construir una sociedad de la información centrada en las personas, inclusiva y orientada al desarrollo», en consonancia con la Carta de las Naciones Unidas y la Declaración Universal de los Derechos Humanos, predomina una aproximación centrada en la tecnología, tanto en la literatura sobre políticas y comercio como en la literatura de muchas ramas académicas. Algunos expertos insisten en que no existe un modelo único de sociedad digital, pero persiste el modelo homogéneo que minimiza los factores sociales, culturales, políticos y económicos que pueden conducir a resultados de inversión digital muy diferenciados. Incluso cuando las visiones de una vía hacia el futuro transformadora surgen de la deliberación de múltiples actores, la suposición subyacente es que serán los mercados competitivos los que la traigan, a pesar de que los mercados de servicios digitales no operan de acuerdo con los supuestos de la teoría del mercado perfectamente competitivo. La opinión predominante es que la innovación en el ámbito digital debe entregarse al mercado con la menor intervención política proactiva posible. Una excepción a todo esto se encuentra en el ámbito de la cualificación digital. La brecha de habilidades es sustancial y hay mucho debate acerca de la descualificación y la mejora de la cualificación. La dirección que lleva la innovación digital está afectando a la distribución de ingresos de las poblaciones, reemplazando a seres humanos por máquinas para aumentar la productividad, con predicciones muy variables sobre la gravedad de la amenaza para la subsistencia de los trabajadores y sobre la rapidez con que se producirá el desplazamiento laboral. Es muy escasa la oferta de trabajadores cualificados en ámbitos como la inteligencia artificial (IA), la gestión de datos, el control de calidad de los datos y la visualización de datos. Los estudios sobre la brecha digital suelen centrarse en la mejora de competencias en el ámbito técnico. Muchos países están introduciendo estrategias para mejorar la cualificación en materias STEM (ciencia, tecnología, ingeniería y matemáticas, incluida la codificación). Estas cualificaciones son necesarias para el empleo en análisis de datos, la ciencia de los datos y el campo de la IA, pero la falta de equidad en el mundo digital no puede ser abordada sin prestar atención a otros elementos determinantes de desigualdad y exclusión.

Las desigualdades exacerbadas por la difusión de las tecnologías digitales no pueden abordarse aumentando el número de informáticos y licenciados con formación técnica especializada. Los ciudadanos deben ser capaces de manejar la información de forma creativa. Necesitan tener la capacidad de seleccionar la información, ignorar la que sea irrelevante e interpretar patrones de información, y estas no son destrezas técnicas. Esta característica, propia de la falta de cualificación, es especialmente importante en relación con la producción y el consumo de contenidos mediáticos en los que las noticias falsas o «fakes» son un problema creciente. Los bulos online tienen por finalidad obtener beneficios y fomentar la inestabilidad política. Los contenidos de este tipo que circulan por las redes sociales engañan a los ciudadanos, crean una cultura de la desconfianza y la confusión, y cada vez hay más indicios de desigualdad entre los que confían en los medios y los que no lo hacen. En principio, cualquiera puede crear una página de inicio, pero el uso cualificado de internet depende de toda una serie de capacidades para participar en la comunicación interactiva, la difusión y la recopilación de información, así como de la interpretación de la propia información. La falta de progresos significativos en el desarrollo de una amplia alfabetización digital de base significa que la gente que carece de la cualificación apropiada está siendo progresivamente marginada y excluida. Pueden ser discriminados por su incapacidad para reconocer el valor o la utilidad de los servicios digitales o porque no entienden cómo los servicios pueden ser utilizados de manera social o económicamente productiva.

La responsabilidad y el coste de involucrarse en sociedades tecnológicamente convergentes y digitalizadas están recayendo directamente sobre los individuos. Las tecnologías y plataformas digitales crean oportunidades para favorecer relaciones directas e intermediadas entre empresas y clientes (así como entre gobiernos y ciudadanos), y las comparativas de precios pueden hacerse a escala global. La competitividad entre los operadores de las plataformas más grandes puede crear una mayor variedad y más opciones para algunos, pero el riesgo está en que este desarrollo pueda excluir a los desfavorecidos o fomente su inclusión en términos menos favorables que para los acomodados.

Las tecnologías de la próxima generación y el futuro

Con los avances en la potencia de los ordenadores y la difusión de aplicaciones digitales, para quienes estén incluidos y adquieran las capacidades apropiadas para el mundo digital, su inclusión aún puede ser problemática si, como resultado de ello, acaban perdiendo el control de sus vidas. El objetivo en el campo de la IA ha sido desde hace muchos años automatizar la inteligencia humana. Algunos ejemplos actuales de tecnologías «inteligentes» pueden ser el soldado aumentado o el consumidor digitalmente habilitado. El compromiso consiste en codificar algoritmos que «razonen» sobre la fiabilidad y la honestidad. La automatización de la vida cotidiana, ya sea por medio del «internet de las cosas» o de la robótica avanzada, es a menudo representada en la literatura popular como sinónimo de progreso bajo la promesa de una vida mejor para todos y, en última instancia, una reducción de la desigualdad social y económica.

Los medios existentes para dirigir la innovación en el campo de la tecnología digital no están bien posicionados para abordar cuestiones fundamentales sobre los tipos de sociedades de la información que son deseables, en contraposición con los que podrían ser posibles. Los debates sobre un futuro mejor suelen priorizar las expectativas acerca de los beneficios del camino de innovación tecnológica digital que se está siguiendo. El potencial valor económico de alcanzar estas expectativas cuanto antes significa que las políticas para mitigar los problemas que puedan surgir en la actual vía se introducen con precaución y solo después de que se hayan constatado daños reales. Las medidas que podrían abordar la desigualdad social y económica, así como la potencial pérdida de autoridad humana sobre los sistemas digitales avanzados de procesamiento de información, suelen ser vistos como perjudiciales para el ritmo de la innovación y el mercado. Sin embargo, es esencial preguntarse si el camino hacia los sistemas tecnológicos que transforman las relaciones entre máquinas y humanos es compatible con el desarrollo del ser humano, en el sentido de que las personas deben ser capaces de participar en «un tipo de vida activa»,³ una vida en la que se respeten valores como el altruismo, la solidaridad y la dignidad. Si se quiere asegurar a largo plazo este tipo de vida, debe evitarse el camino hacia sociedades de la información algorítmicas o calculadoras con una menor autoridad humana.

Manuel Castells señaló a finales de los años noventa la gran brecha existente entre el «sobredesarrollo tecnológico» y el «subdesarrollo social», y esta brecha sigue ampliándose.⁴ Reducirla requiere considerar vías alternativas para el futuro de las sociedades digitales, pero el debate actual se centra básicamente en cómo garantizar el derecho público de acceso a la información, la libertad frente a la vigilancia indeseable y la protección de la privacidad individual utilizando las tecnologías disponibles en el mercado. En los trabajos dirigidos a abrir la caja negra digital, la investigación se centra en el impacto de los sistemas computacionales avanzados en la clasificación social y la discriminación, en si las personas activas online son conscientes de estos sistemas y sus sesgos, y en si quienes operan los sistemas son responsables ante alguna «autoridad superior» cuando algo sale mal. Sin embargo, con el desarrollo de la IA, sus aplicaciones y sus brillantes perspectivas como industria fundamental para el crecimiento económico, hay una fascinación por lo cuantificable, con datos y predicciones cada vez más precisos sobre la conducta humana y la no humana. En la industria, el objetivo es garantizar, independientemente de los sesgos de los sistemas computacionales y las máquinas de aprendizaje, la investigación y el desarrollo, sean llevados a cabo con el objetivo de mantener a la gente segura, feliz y potencialmente más rica. El desafío para los responsables de la formulación de políticas es determinar no solo si los sistemas digitales actuales son explotadores o liberadores, inclusivos o exclusivos, sino también evaluar si la innovación avanza por un camino en el que los sistemas técnicos se conviertan en los principales impulsores de los resultados sociales y, crecientemente, nieguen la voluntad humana.

Imaginarios sociales y mundos alternativos

Valoraciones de este tipo nos obligan a pensar más allá de las estrategias de gestión a corto plazo y de los modelos de negocio para considerar «imágenes y nociones normativas más profundas» ampliamente compartidas acerca de cómo una sociedad determinada está, y debe estar, organizada. La forma en que las personas dan sentido al mundo que las rodea, los valores que privilegian y sus vías preferidas con vistas al futuro son factores cruciales que determinarán los resultados a largo plazo. Como demuestra el filósofo Charles Taylor, estas nociones e imágenes pueden ser tratadas como imaginarios sociales que influyen en las prácticas colectivas de una sociedad. Dichos imaginarios son los que dan lugar a las historias que la gente se cuenta acerca de hipotéticos desarrollos tecnológicos y sus consecuencias.⁵ Taylor observa que, históricamente, siempre ha habido imaginarios sociales que compiten entre sí y que hacen afirmaciones sobre el modo en que la autoridad y la responsabilidad deben establecerse.

En la actualidad, el imaginario social predominante sobre el papel de los sistemas digitales en la sociedad prioriza la innovación rápida y la difusión de tecnologías que exhiban cierto grado de inteligencia «emocional». Este imaginario fomenta el procesamiento e interpretación de cantidades cada vez mayores de información digital y el aumento masivo de la capacidad tecnológica para producir, procesar, distribuir y almacenar información. En este imaginario, es necesario adaptarse a las convulsiones en el orden social, económico, cultural y político fruto de la rápida innovación tecnológica.⁶ Su premisa básica es que una «autoridad superior», por ejemplo el Estado, el sector empresarial o el cliente, tenga el control sobre los resultados del proceso de innovación. Este imaginario social sostiene visiones programáticas de investigación científica, ingeniería y matemáticas que se centran en los sistemas de retroalimentación y la automatización, como los sistemas de control para aplicaciones militares o civiles. Se supone que los mercados eficientes y la elección individual guían los cambios en el sistema digital. La interacción del imaginario social predominante con las manifestaciones de poder de las plataformas digitales, que operan en mercados altamente concentrados, significa que estas empresas desempeñan el papel de intermediarias, con capacidad para bloquear o filtrar la información digital y procesar los datos de los clientes. Su fortaleza financiera les otorga prácticamente un monopolio, un poder de decisión sustancial y la capacidad de influir si deben ser reguladas y cómo. Para este imaginario, a veces factores residuales desvían de manera repentina la trayectoria del cambio, pero la posibilidad de que el progreso tecnológico pueda ser perjudicial para los seres humanos no forma parte de él.

En un imaginario social menos prominente, pero muy influyente, se supone que la «autoridad superior» es colaboradora, no jerárquica ni heterárquica, organizada por las redes descentralizadas. Dicho imaginario está inspirado en un compromiso con sistemas digitales abiertos, con acceso libre a la información y limitaciones mínimas para la libertad de expresión y la preservación de la privacidad, pero también depende de sistemas computacionales y aplicaciones de IA cada vez más sofisticados. Se asume que el imaginario social que sustenta esta visión de la vía de la innovación tecnológica, por regla general, favorece la producción basada en los bienes comunes, la transparencia y la capacidad de la autoridad humana en el mundo digital.

En ambos imaginarios sociales, sin embargo, la «autoridad superior» imaginada (o real) es un ser humano, y en este sentido la vía de la innovación tecnológica no se cuestiona, o se cuestiona muy rara vez. En el primer imaginario, se espera que las propiedades emergentes de un sistema digital complejo produzcan resultados positivos para los individuos, mediados por el mercado y, ocasionalmente, por la intervención del gobierno. En el segundo, son las actividades generativas de los diseñadores tecnológicos y de los participantes online las que se espera que logren estos resultados. En ambos casos, el papel del participante en el mundo digital comprometido busca etiquetar y revisar datos, mientras que la «autoridad superior», los mecanismos de gobierno corporativo, estatal y/o de la sociedad civil, quedan encargados de tomar acciones basadas en los resultados del análisis de datos. Se supone que estas decisiones se alinearán con los intereses en forma de ganancias comerciales, con equidad y justicia, al menos, a largo plazo. Tanto el imaginario social dominante como el subordinado pertenecen a un entorno digital que potencia las relaciones humano-máquina, máquina-máquina y humanohumano, en cada caso, con riesgos manejables para nosotros.

Conformación de la vía digital

Ampliar la gama de los futuros que se pueden imaginar requiere de una agenda proactiva encaminada a guiar la vía de la innovación tecnológica digital. Los imaginarios sociales imperantes, que asumen una trayectoria «natural» de la innovación, están siendo cuestionados. Por ejemplo, Luc Soete se pregunta: «¿Es posible que la innovación no sea siempre buena para usted?».⁷ Sugiere que, en lugar de un proceso beneficioso de destrucción creativa al estilo de Schumpeter, que depende de un proceso continuo de innovación tecnológica, en la actualidad estamos siendo testigos de un período de «creación destructiva».

Los acuerdos de gobierno influyen en el tipo de sociedades que aparecen; configuran las perspectivas vitales básicas, la calidad de vida a la que las personas tienen derecho y si las sociedades van a ser inclusivas, respetuosas y capacitadoras para todos. Se puede considerar que los algoritmos gobiernan porque estructuran la comprensión de posibilidades futuras. Cuando los resultados a que dan lugar se tratan como si fueran ciertos, desaparece la capacidad para pensar en mundos y en vías de desarrollo tecnológico alternativos. Cuando nos basamos principalmente en el imaginario social dominante, se supone que los individuos están sujetos a las elecciones de los grandes operadores de las plataformas digitales o del Estado. Si tenemos en cuenta el segundo imaginario social y el poder generador de las comunidades online, distribuidas a escala mundial, no hay garantías de que los resultados sean equitativos o inofensivos, porque los movimientos online no siempre son positivos. En ambos casos, se ha asumido hasta hace poco que los seres humanos son la «autoridad superior» y que tienen el control de los sistemas computacionales.

Históricamente, la vía de la innovación tecnológica digital no ha sido alcanzada de forma lineal, aunque a veces se supone que ha sido una progresión «natural» de lo analógico a lo digital, desde las industrias segmentadas especializadas en telecomunicaciones o informática hasta las industrias y tecnologías convergentes que incluyen las actuales plataformas digitales y de servicios. Las industrias y los líderes gubernamentales esperan que las aplicaciones digitales, incluidas en robots, apoyadas por los algoritmos y el aprendizaje automático, y organizadas en redes nada transparentes de tecnologías modulares y complejos enlaces jerárquicos, horizontales y diagonales, aumenten los niveles de ingresos. Algún activista de la sociedad civil espera que estas aplicaciones apoyen el éxito de movimientos de protesta. Pero, de nuevo, sus aspiraciones se afirman en el movimiento a lo largo de una vía de innovación tecnológica concreta.

Se espera que el Mercado, el Estado y/o la Sociedad Civil aporten respuestas que suavicen la disrupción, y se supone que el efecto posterior del cambio tecnológico será positivo.

La idea de que las tecnologías digitales ofrecerán soluciones a los problemas de la sociedad es un tema común. Cuando se hace hincapié en la difusión de innovaciones y en la dinámica competitiva de las plataformas y los servicios digitales, los efectos de segundo orden o superiores, que aumentan incertidembre y dan lugar a resultados que no pueden predecirse o modelarse fácilmente, hacen parecer que la única alternativa fuera explotar el camino tecnológico, que parece más probable que conduzca a ganancias económicas a corto y medio plazo. La innovación y la destrucción creativa han sido históricamente las características de la economía que generan más crecimiento económico, mayor productividad y mejor bienestar social. Esto conduce a una actitud de «esperar a ver» en la que los individuos se ajustan al cambio tecnológico disruptivo en el corto plazo. Se espera que el mercado, el Estado y/o la sociedad civil aporten respuestas que suavicen la disrupción, y se supone que el efecto posterior del cambio tecnológico será positivo. Los ajustes necesarios se consideran en gran medida espontáneos, lo que lleva a afirmar que «sabemos que los incrementos de productividad y eficiencia, nuevos servicios y nuevos puestos de trabajo, etc. están en el horizonte».⁸ La orientación política dominante consiste en estimular la competitividad económica basada en la premisa de que, si un país no alcanza una posición de liderazgo en campos emergentes de innovación tecnológica —como el aprendizaje automático y la IA—, lo hará otro. La consecuencia es un énfasis abrumador en las políticas orientadas a influir en las estrategias de empresa después de que las tecnologías hayan llegado al mercado.

Algunos representantes de los gobiernos, de la industria y de la sociedad civil empiezan a reconocer que la cuarta revolución industrial «alterará fundamentalmente la manera en que vivimos, trabajamos y nos relacionamos» como consecuencia de la ubicuidad de los sensores digitales, la IA y el aprendizaje automático, así como, la forma en que se combinan con el mundo físico y biológico.⁹ El cambio está ocurriendo a gran velocidad y los ciudadanos, los funcionarios públicos y los líderes empresariales encuentran difícil entender los sistemas computacionales digitales avanzados. A medio y corto plazo, las aplicaciones de tecnología digital tienen un gran potencial para abordar la desigualdad social y económica y los desafíos sociotécnicos globales, y es totalmente razonable que se busque maximizar los beneficios de la innovación tecnológica. Pero los imaginarios sociales imperantes son persistentes y fomentan la idea de que basta con conectar a los no conectados para lograr sociedades de información inclusivas, junto con la mejora de la alfabetización técnica digital y una mínima intervención en el mercado para responder a las amenazas. Incluso en el contexto de los dos imaginarios sociales predominantes, tanto los adultos como los menores necesitan una amplia gama de alfabetización digital si quieren aprender a navegar eficazmente en este entorno.

Además, si la trayectoria tecnológica apunta, a largo plazo, hacia un mundo digital incompatible con el mantenimiento de los derechos y libertades que muchos países valoran, incluida la democracia responsable, es esencial promover el debate sobre los contramundos o caminos alternativos, así como sobre los cambios necesarios para alcanzarlos. En la medida en que, cuantos más beneficios digitales hayan, menos oportunidades existan para que los individuos ejerzan un control y tengan autoridad sobre sus vidas, es esencial cuestionarse la idea de que la única opción consiste en adaptarse a lo que se produce en el laboratorio. Los imaginarios sociales prevalecientes hacen difícil concebir caminos tecnológicos digitales alternativos, pero no es imposible. Los avances en la IA y las aplicaciones de aprendizaje automático están generando consultas de carácter ético que se preocupan por asuntos relacionados con la dignidad humana, las libertades, la igualdad, la solidaridad y la justicia. En estos foros se plantean constantemente cuestiones sobre cómo garantizar que los sistemas de tecnología digital no sean perjudiciales para el individuo, pero la postura política sigue estando notablemente orientada hacia la intervención ex post.

Conclusión

Se necesitan políticas para mejorar la cualificación, hacer frente a los fallos del mercado, limitar los daños y reducir la desigualdad, pero las cuestiones más importantes planteadas por la invasión de la IA y el aprendizaje automático no deben dejarse en manos del mercado, de los negocios, del Estado ni de los representantes de la sociedad civil. Lo más importante es asegurar un sólido diálogo entre todas las partes que permita considerar las «nociones e imágenes normativas más profundas» que sustenten la creencia generalizada de que la dirección general del cambio tecnológico es consistente con la autonomía y el florecimiento humanos. Es importante reconocer que la dirección del cambio tecnológico no era históricamente inevitable, y ahora tampoco lo es. El discurso sobre la inevitabilidad tecnológica y la adaptación para asegurar la competitividad económica industrial está profundamente arraigado, como también la visión de que se puede ampliar en la la sociedad civil, sin la ayuda de instituciones formales, para generar resultados consistentes con la consecución de la igualdad. Si la «creación destructiva» es ciertamente el resultado más probable de la vía de la innovación tecnológica digital, entonces es necesario actuar antes de que sea demasiado tarde y no haya posibilidad de retroceder, porque la autonomía individual se ha visto ya comprometida. Es necesario poner de manifiesto las normas y la dinámica de poder del «gobierno de los medios sociales» o «gobierno de la infraestructura»¹⁰ en el período actual, pero esto debe ir acompañado de una mayor atención para fomentar activamente imaginarios sociales consistentes con el que las personas mantengan una posición de autoridad de control en relación con la tecnología.

El debate y la consiguiente controversia sobre la autoridad humana en el mundo digitalizado probablemente darán como resultado uno o varios nuevos imaginarios sociales hegemónicos; potencialmente, incluirán imaginarios que podrían inculcar valores y conducir a decisiones que alienten un futuro en el que el ser humano conserve la autoridad y en el que las desigualdades sociales y económicas, así como los perjuicios, sean abordados con mayor eficacia que hoy en día. Es probable que esto requiera una mayor intervención proactiva en el mercado, que sustente uno u otro de los dos imaginarios sociales señalados anteriormente. Como dijo Raymond Williams: «Una vez que se desafían las inevitabilidades, comenzamos a reunir recursos para un viaje de esperanza»¹². El mundo digital, en última instancia, puede ser construido de manera que favorezca la equidad y la inclusión, pero también, y de manera crucial, valore que los seres humanos conserven el control de su destino.

Notas