Presentado el Manifiesto OFF, que responde a la necesidad de recuperar el control de la tecnología

Dado que los avances en inteligencia artificial han disipado las alarmas sobre su potencial y riesgos, el gobierno, el experto o el empresario ya deben haber advertido de la urgencia de tomar medidas. En los meses posteriores al ChatGPT proliferaron las protestas apocalípticas, establecidas por algunos de los pioneros en el campo de la IA. Desde entonces, algunos han pedido una pausa en su desarrollo, mientras la Unión Europea debe implementar la primera ley del mundo para su regulación. No hay obstáculo para que usted exija un futuro al alcalde. Un centenario de personalidades, tanto a nivel nacional como internacional, confirmó la Manifiesto APAGADO. Este documento describe la vulnerabilidad de los seres humanos y sus instituciones frente a una tecnología cada vez más avanzada y autónoma, y ahora permite emprender acciones más decisivas y ambiciosas.

El manifiesto, que fue presentado a estos niños en Madrid, fue confirmado por personas del mundo de la cultura, la ciencia, la educación, la psicología, el derecho y los medios de comunicación, como el director ejecutivo de PRISA Media, Carlos. Núñez; el presidente de CaixaBank, José Ignacio Goirigolzarri; la directora de Tecnología, Medios y Comunicación de la Universidad de Columbia, Anya Schiffrin, o el consejero delegado de Atresmedia, Javier Bardají, entre otros. “Es una iniciativa independiente que nace de la preocupación real vinculada a las tendencias que manifiestan la enorme vulnerabilidad de los seres humanos y de las instituciones ante un despliegue tecnológico mal implementado”, explicó el empresario y editor Diego Hidalgo, coordinador del manifiesto. “Fingir es un primer paso hacia la movilización de la sociedad civil. Nuestro objetivo es recuperar el control de la tecnología digital, con la ayuda de la acción pública y privada”.

En esta línea, Hidalgo señaló los riesgos para la salud mental que supone suponer un movimiento en edades tempranas. “Afortunadamente, algunos de los temas abordados en la manifestación tienen cierta presencia en el debate público. Uno de ellos ha visto el profundo deterioro de la salud mental, especialmente de los jóvenes, de quienes hoy nos decían que acudiéramos a la salud. Las curvas que describen al joven están en el interior, un lugar absolutamente vertiginoso”, quedó grabado. Ségun un estudio creado por la plataforma Sapiens LabEl bebé que posa un niño con 12 años teléfono inteligente aumenta en un 20% la probabilidad de sufrir depresión cuando sea adulto, respecto al acceso a los 18 años, mientras que el 74% de los que han estado disponibles desde los seis años han padecido síntomas depresivos. En España, el 88% de los jóvenes tiene un smartphone desde hace 13 años.

Ana Caballero, abogada y vicepresidenta de la Asociación Europea para la Transición Digital, expresó durante la presentación su perplejidad ante la comercialización de datos. “Somos tecnologías que no somos neutrales. Pero sobre todo estas empresas que comercializan con nuestros datos son extracomunitarias, y nuestras ventas a los europeos como una gran base de datos con poder adquisitivo. Lamentablemente no somos muy conscientes de lo que es pagar con datos”, explicó.

Además de enfatizar los riesgos que implican grandes innovaciones como la inteligencia artificial, es claro esbozar una serie de medidas de emergencia adecuadas para garantizar que la tecnología siga al servicio de la humanidad, y no en su contrario. En este sentido, las empresas apuestan en primera instancia por la creación de leyes y regulaciones que limiten el uso independiente de la tecnología, especialmente en términos de vigilancia, privacidad y monopolio.

Entre las preocupaciones, descubrimos la posibilidad de que los Estados controlen excesivamente, y de forma generalizada, a los ciudadanos, mediante el reconocimiento facial u otras tecnologías que no garantizan el anonimato en los espacios públicos. En Estados Unidos, por ejemplo, La tecnología biométrica se utiliza ampliamente en aeropuertos, tanto para aeronaves como para agencias gubernamentales responsables de la carga de seguridad de la aviación. “La videovigilancia equipada con tecnología de reconocimiento facial abre una caja de Pandora que lleva nuestras vidas privadas y anónimas al espacio público. “Asumamos un salto diferencial en el rastreo sistemático de nuestros movimientos y el control de nuestras vidas”, cita el manifiesto, que recuerda que Amnistía Internacional ha lanzado un llamamiento para prohibir el uso de sistemas de reconocimiento facial por considerarlo una forma de vigilancia masiva.

José María Lassalle, exsecretario de Estado de Agenda Digital y director del Centro de Humanismo Tecnológico de ESADE, insistió en las implicaciones que puede implicar la IA en la guerra. “La inteligencia artificial es algo que se trata de ser alguien, pero sin conciencia. Y esto cambia los elementos de la capacidad humana para entender esta tecnología, y se visualiza de manera muy clara en el ámbito de las armas mortíferas”, afirmó durante la presentación. “La aplicación en las guerras, que es una experiencia humana perdida que nos acompaña desde nuestros orígenes como especie, puede ser perjudicial”.

Por asimitismo, el manifiesto propone la implementación de medidas regulatorias que sean “legalmente vinculativas”, con el objetivo de defender a los ciudadanos de los abusos que las empresas privadas –y en algunos casos, los gobiernos de estados autoritarios– pueden ejercer. Esto incluye la prohibición de la publicidad microfocalizada, la protección de los derechos neurológicos a nivel constitucional, la legislación internacional contra las armas legales autónomas y el “derecho a la desconexión”, que garantiza el acceso a servicios públicos especiales de forma no digital.

Elena Herrero-Beaumont, cofundadora de la consultora Ethosfera, se centró especialmente en el acceso a los datos y la ética del diseño de algoritmos, sugiriendo regulaciones para garantizar su integridad. “Hoy es imposible para las empresas periódicas que tradicionalmente han desarrollado información competitiva con las grandes plataformas tecnológicas”, anunció Herrero-Beaumont, quien recomendó prevenir el microfocusing como medida crítica para evitar esta deriva.

Les entreprises ont également recommandé l’implantation d’initiatives éducatives pour améliorer l’alphabétisation numérique de la population, favorisant une compréhension plus profonde des impacts et des limites de la technologie, ainsi que le développement des capacités critiques pour gérer l’influence technologique dans la sociedad.

Puedes seguir un EL PAÍS Tecnología fr. Facebook Sí X o haga clic aquí para recibir el nuestro boletín semanal.