DOSSIER| Internet y derechos humanos

241

Como parte del plan para encaminar al mundo hacia el fin de la pobreza extrema y la consecución de los Objetivos Globales, las Naciones Unidas han pedido el acceso básico universal a Internet para 2030 y que internet debía “ser abierto, accesible y alimentado por la participación de múltiples partes interesadas”.

Diplomacia y peligro: negociando la paz en el ciberespacio

https://www.nodal.am/wp-content/uploads/2023/09/Ciberataque_diplomacia-750x430.jpg

J. Carlos Lara Gálvez*

El pasado mes de julio, el Grupo de Trabajo de Composición abierta sobre seguridad y uso de las tecnologías de la Información y las Comunicaciones 2021-2025 (OEWG, por sus siglas en inglés) de la Primera Comisión de la Organización de las Naciones Unidas, tuvo una nueva sesión sustantiva, dedicada a buscar consenso sobre su segundo informe anual de progreso.

La instancia es el mecanismo por el cual todos los países de ONU discuten la actividad de los Estados en el ciberespacio, particularmente en atención al riesgo de ciberataques entre Estados. Se trata no solamente de la búsqueda de mecanismos para mejorar la seguridad, sino también para procurar la paz en el uso de las tecnologías.

Sin embargo, alcanzar consensos no fue fácil, y los avances se vieron opacados por la inclusión de elementos con poco apoyo, que algunos estados estiman pueden generar incertidumbre y riesgos.

Consenso, señor, consenso

Por un lado, la discusión del borrador final estuvo marcada por la insatisfacción de muchos Estados, debido a cambios y omisiones de propuestas formuladas en la sala. Y por otro, por la inclusión casi forzada de propuestas todavía sin apoyo significativo, a fin de rescatar un frágil consenso, por la vía de notas al pie que reconocen la vieja aspiración de reglas internacionales vinculantes para los Estados, en lugar de prácticas y normas no obligatorias. Sin embargo, el informe constata puntos de avance y define las prioridades para las discusiones futuras, a la vez que identifica iniciativas de colaboración que ya existen entre Estados.

Dentro de los puntos positivos estuvo el avance en la propuesta de un directorio global de puntos de contacto en la ONU, para facilitar la comunicación entre Estados al momento de conocer una amenaza o un actor malicioso. Dicha propuesta ha avanzado hacia una operacionalización mediante la adopción de un documento anexo al informe anual. También se plasmaron las peticiones de reuniones intersesionales para tratar puntos de más difícil acuerdo, como la aplicabilidad del derecho internacional o la definición de las amenazas, que siguen siendo objeto de intensa discusión.

Asimismo, se incluye lenguaje que invita a los Estados a una mayor transparencia sobre su comprensión de las amenazas, las posturas sobre la aplicabilidad del derecho internacional y la implementación de reglas no vinculantes. Resultan alentadoras las referencias a la sensibilidad con el género, en particular en relación con las amenazas y la capacitación, en tímido reconocimiento de la multidimensionalidad de las brechas digitales de género.

Menos afortunada resultó la mención reducida o condicionada de la intervención de partes interesadas no gubernamentales («stakeholders»), incluyendo a la sociedad civil, como actores clave en varios de los aspectos de atención. Del mismo modo, la resistencia al lenguaje explícito sobre derechos humanos hizo que su presencia quedara muy acotada, limitando el reconocimiento de la necesaria consideración por los derechos humanos en las medidas para garantizar la seguridad en el ciberespacio.

A pesar de que Derechos Digitales, como otras organizaciones, ha destacado el esquema de distintas partes interesadas, y ha defendido el lenguaje sobre derechos humanos, la atención de los Estados parece haber estado mucho más concentrada en la búsqueda de consensos que en estos tópicos.

Negociación y denegación

El riesgo de no alcanzar consenso estuvo dado por la contumaz propuesta de integrar lenguaje que reconociera la propuesta —minoritaria— de trasladar los acuerdos a reglas de carácter vinculante a un nuevo tratado de la ONU sobre ciberseguridad. La “diplomacia de notas al pie” (como destacó una delegación) se convirtió en una salida práctica para salvar un consenso difícil entre países en abierto conflicto geopolítico. La insistencia recae en un punto promovido desde hace años por la delegación rusa y algunas aliadas, de negociar nuevos tratados de ciberseguridad y cibercrimen (esto último ya en discusión en un Comité Especial), debido a la importancia dada en algunos de esos países a la “seguridad de la información”, concepto más amplio que el de la “ciberseguridad”, preferido en Occidente.

Por cierto, la experiencia muestra que llegar a puntos muertos no implica necesariamente un fracaso total de los procesos, pero exige abordar la discusión de manera realista para no arriesgar la paz y el desarrollo globales.

Estamos lejos de considerar que el avance del OEWG represente las aspiraciones de la sociedad civil por promover medidas inclusivas y resguardar los derechos humanos. No obstante, no podemos abandonar la aspiración de mejores reglas de conducta entre Estados, que reconozcan que la seguridad y la paz requieren del aporte de distintos actores.

*Abogado, especialista en derecho de las nuevas tecnologías, centrado en la vinculación entre los derechos fundamentales, el interés público y la regulación de las formas digitales de comunicación.Universidad de California en Berkeley. Director Ejecutivo de la ONG Derechos Digitales.

El nuevo feudalismo digital

https://www.nodal.am/wp-content/uploads/2023/09/asesinato-democracia-feudalismo-digital-750x430.png

Aram Aharonian*

Que la revolución tecnológica basada en Internet es probablemente la más importante de la historia parece evidente, y que podría servirnos para un gran avance en nuestra sociedad: reducción de horas de trabajo, conservación del medio ambiente, profundización de la democracia, potenciar las relaciones humanas, erradicación de la pobreza y de pandemias, etc.

Y, sin embargo, por primera vez en la historia un grupo reducido de personas tiene la capacidad de dominar el mundo, sin contar con los gobiernos o los parlamentos de países ricos y pobres.

Tenemos derecho a la privacidad, que está siendo conculcado, aunque nosotros colaboramos en ello gustosamente. Vivimos en una sociedad “smartphonecéntrica”, de ahí una nueva patología, la nomofobia, la imposibilidad de vivir sin nuestro móvil.

El reclamo es general: el mundo digital, tal como se desarrolla, exige una legislación en el marco del Estado de derecho y de una sociedad democrática donde se protejan la libertad y los derechos individuales, y para ello es imprescindible un consenso global entre los distintos estados sobre el contenido y los instrumentos de esa regulación, para establecer una cierta armonización y para evitar que las grandes corporaciones tecnológicas se aprovechen de las diferencias entre los países.

Cándido Marquesán Millán acusa a las grandes trasnacionales tecnológicas del gafam (Google, Amazon, Facebook, Apple y Microsoft) de ser máquinas de fraude fiscal y, sobre todo, de destrucción de la solidaridad, en especial en Europa. Si todos eludiéramos o evadiéramos nuestros impuestos como hacen estas grandes multinacionales, el funcionamiento de la sociedad sería imposible.

¿Cómo se sostendrían las pensiones, la sanidad, la educación, la dependencia pública? Fueron los impuestos públicos los que posibilitaron la financiación para conseguir Internet, sin el cual sus extraordinarias ganancias no existirían, como explica bien Mariana Mazzucato en El Estado Emprendedor.

Resulta interesante que la Comisión Independiente para la Reforma de la Fiscalidad Corporativa Internacional (icrict), tenga por objeto promover el debate sobre la reforma del impuesto a las sociedades a nivel internacional, mediante una discusión lo más amplia e incluyente posible de las normas fiscales internacionales; considerar las reformas desde la perspectiva del interés público mundial en vez del nacional; y buscar unas soluciones fiscales justas, eficaces y sostenibles para el desarrollo.

Hay un nuevo tipo de trabajo, al que llaman “computación humana”: son trabajos que empiezan y terminan online y que consisten en cualquier tipo de tarea que pueda ser administrada, procesada, efectuada y pagada en línea. El problema es que invisibilizan la labor de cientos de millones de personas, como reporta el informe de la Organización Internacional del Trabajo (oit) Las plataformas digitales y el futuro del trabajo. Cómo fomentar el trabajo decente en el mundo digital de 2019.

Asimismo, se deberían proteger los derechos laborales frente a la invasión digital de nuestras actividades profesionales. La desconexión digital de los trabajadores fuera de su horario laboral es imprescindible. E igualmente la protección de su intimidad ante el abuso de dispositivos digitales o sistemas de geolocalización en el trabajo.

El libro La manada digital. Feudalismo hipertecnológico en una democracia sin ciudadanos, de Josep Burgaya, subraya los grandes peligros a nivel político, social, económico y educativo, como consecuencia de una legislación inadecuada o inexistente del mundo digital online. Se requiere una Ley General de Internet, que establezca derechos, garantías y prohibiciones, para que se convierta en un mundo civilizado al servicio de toda la sociedad en su conjunto.

Por otra parte, es imprescindible una definición clara de los derechos de propiedad en la Red, para impedir la apropiación, auténtico expolio, y el comercio de datos privados; como también el derecho a la propiedad absoluta sobre el software y hardware que se compran, prohibiendo el acceso y el control de aquellos que, en teoría, nos los han vendido. Así como la prohibición de las cookies, nuestros vigilantes en la red.

Irrumpe así, en el novísimo mundo de las redes, un tema antiguo: el derecho a no dejar huellas en un mundo donde Google lo recuerda todo. Debe protegerse jurídicamente el derecho al olvido para borrar todo lo que hemos hecho pasado un tiempo y que no nos condicione toda nuestra vida. Un derecho que, a pesar de ser aprobado por el Tribunal Superior de Justicia de la UE en 2014, la mayoría de las solicitudes han sido desestimadas por Google, con la excusa de su “interés público”, señala Marquesán.

Asimismo, la protección a los menores es crucial, y salvo declaraciones de intenciones se ha hecho muy poco. Los menores tienen acceso a contenidos violentos, pornográficos y apuestas deportivas… Intercambian imágenes y vídeos de contenido sexual. Luis Arenas, en su libro Capitalismo cansado. Tensiones (Eco) políticas del desorden global, señala lo inquietante del uso de la pornografía en red cara a la futura socialización sexual a la que se han de enfrentar las generaciones más jóvenes.

Según un estudio de la Universidad de Middlesex, hay un alto porcentaje de jóvenes varones que creen tener derecho a sexo en cualquier momento, en cualquier lugar, de cualquier modo y con cualquiera que lo deseen: es decir, creen tener derecho al sexo bajo el formato exacto en que se lo ofrece la pornografía digital. En Japón, que es el segundo país consumidor de pornografía en el mundo tras Estados Unidos, más de un tercio de los varones entre 16 y 19 años no están interesados en el sexo o manifiestan claramente su aversión hacia él. Pero los adolescentes no solo se limitan a consumir pornografía: no pocos se convierten en improvisados productores de imágenes sexuales.

El sexting, el intercambio privado de textos, imágenes y vídeos de contenido sexual por medio de los teléfonos móviles, proliferan cada vez más. Son fechorías sexuales grabadas para ser divulgadas con auténtico fervor entre los amigos.

Por último, hay que adaptar la legislación electoral a la existencia del mundo digital. Se debe proteger a los ciudadanos electores de las inmensas posibilidades de manipulación política, que se han puesto de manifiesto con Donald Trump, con el Brexit o con Jair Bolsonaro, las extremas derechas expertas en el uso de las redes sociales para sus campañas electorales y difusión de sus mensajes.

Con el uso de datos personales, campañas instrumentalizadas desde plataformas digitales, la posverdad, los bots dirigidos desde países remotos, las elecciones se convertirán solo en un espectáculo si no se legisla al respecto, y la democracia corre peligro de convertirse en una pura farsa.

La infocracia

El filósofo coreano Byung-Chul Han, analista del individuo autoexplotado, nuevo sujeto histórico del capitalismo, señala que el “régimen de la información” ha sustituido al “régimen disciplinario”. De la explotación de cuerpos y energías analizados por Michel Foucault se pasó a la explotación de los datos. “Hoy vivimos presos en una caverna digital aunque creamos que estamos en libertad”, dice, recordando a Platón.

El autor de La sociedad del cansancio afirma que la gran hazaña de la infocracia es haber inducido en sus consumidores/productores una falsa percepción de libertad. Y concluye que “el intento de combatir la infodemia con la verdad está condenado al fracaso. Es resistente a la verdad”.

La gran hazaña de la infocracia es haber inducido en sus consumidores/productores una falsa percepción de libertad. La paradoja es que “las personas están atrapadas en la información. Ellas mismas se colocan los grilletes al comunicar y producir información. La prisión digital es transparente”. Es precisamente esa sensación de libertad la que asegura la dominación. Actualiza, por último, el mito platónico: “Hoy la señal de detentación de poder no está vinculada con la posesión de los medios de producción sino con el acceso a la información, que se utiliza para la vigilancia psicopolítica y el pronóstico del comportamiento individual”, añade.

Han sostiene que en esta sociedad marcada por el dataísmo, lo que se produce es una “crisis de la verdad”, nuevo nihilismo que no supone que la mentira se haga pasar por verdad o que la verdad sea difamada como mentira. Más bien socava la distinción entre verdad y mentira.

Y se refiere a las recientes épocas donde dominaba la televisión, a la que define como un “reino de apariencias”, pero no como “fábrica de fake news”. “Degradaba las campañas electorales hasta convertirlas en guerras de escenificaciones mediáticas, donde el discurso era sustituido por un show para el público”. En la infocracia, por el contrario, las disputas políticas no degeneran en un espectáculo sino en una guerra de información.

Las noticias falsas son, ante todo, información, que corre más que la verdad y por eso el intento de combatir la infodemia con la verdad está, pues, condenado al fracaso. Es resistente a la verdad, dice: “La verdad se desintegra en polvo informativo arrastrado por el viento digital”.

Han afirma que el sujeto del régimen de la información no es dócil ni obediente; se cree libre, auténtico y creativo, se produce y se realiza a sí mismo; es simultáneamente víctima y victimario. En ambos casos el arma utilizada para esta era del hombre-masa es el teléfono digital.

“El habitante del mundo digitalizado ya no es ese ‘nadie’. Más bien es alguien con un perfil, mientras que en la era de las masas solo los delincuentes tenían un perfil. El régimen de la información se apodera de los individuos mediante la elaboración de perfiles de comportamiento”, señala el filósofo coreano.

Se trata de una revolución en los comportamientos que excluye toda posibilidad de revolución política: “En la prisión digital como zona de bienestar inteligente no hay resistencia al régimen imperante. El ‘like’ excluye toda revolución”.

Tribalización de la red

En tiempos de microtargeting electoral se produce un fenómeno paradojal: la tribalización de la red. Para Han, “la comunicación digital como comunicación sin comunidad destruye la política basada en escuchar”, ya que en el viejo proceso discursivo los argumentos podían “mejorarse”, en tanto ahora, guiados por operaciones algorítmicas, apenas se “optimizan” en función del resultado que se busca.

Es la derecha la que más capitaliza este fenómeno de tribalización de la red: “La democracia digital en tiempo real es una democracia presencial”, que pasa por alto su ámbito natural de representación: el espacio público. Así se llega a una “dictadura tribalista de opinión e identidad”. El sujeto autoexplotado de la sociedad del cansancio, el habitante voluntario de la sociedad transparente, el individuo que se entrega a la sociedad paliativa, también se somete, concluye Han, a la fórmula del régimen de la información: “nos comunicamos hasta morir”.

*Periodista y comunicólogo uruguayo. Magíster en Integración. Creador y fundador de Telesur. Preside la Fundación para la Integración Latinoamericana (FILA) y dirige el Centro Latinoamericano de Análisis Estratégico (CLAE). Capítulo del libro “El asesinato de la democracia” (Ediciones Ciccus, 2023)

 

Prisioneros de los algoritmos. Entrevista con Frances Haugen

https://www.nodal.am/wp-content/uploads/2023/09/plataformas.png

Frances Haugen *

En vísperas de una temporada electoral en Estados Unidos que promete ser más acalorada que nunca y verse marcada por la “desinformación profunda”, las plataformas de redes sociales están dando marcha atrás en la denuncia de noticias falsas. En lugar de aumentar la vigilancia tras la alarma suscitada por las injerencias en las últimas elecciones y las violentas secuelas de 2021, YouTube, Facebook y X (antes Twitter) han anunciado drásticas reducciones en el personal de moderación de contenidos.

Esto es en parte resultado de una campaña de la derecha contra la “censura de los conservadores” y la supuesta guerra contra la libertad de expresión y opinión, una justificación también invocada por Trump durante los juicios por insurrección. La campaña se ha visto amplificada por Elon Musk, quien, bajo la bandera de la libertad de expresión, ha convertido Twitter en una plataforma al servicio de la “alt-right”. Mientras Fox News se ha visto obligada a moderar su tono debido a costosas sentencias por difamación, Trump, durante una entrevista en directo con Tucker Carlson en X, pudo formular repetidas acusaciones falsas de fraude electoral generalizado por parte de Biden.

La cuestión de las redes sociales sigue sin resolverse porque, como explica Frances Haugen en esta entrevista por Zoom con la prensa extranjera en Los Ángeles [Luca Celada recogió sus declaraciones para il manifesto], el modelo de plataforma sigue basándose en la extracción de datos y los algoritmos como motores del “capitalismo adictivo” que se apoya en la modificación del comportamiento de los usuarios, lo que resulta decisivo para adquirir y comerciar con datos personales.

Ingeniera electrónica licenciada en Harvard, Haugen emprendió una brillante carrera nada más terminar sus estudios, empezando por Google, donde colaboró en una patente de indexación de resultados de búsqueda, pasando luego a Yelp, Pinterest y, por último, Facebook, donde se convirtió en 2019 en responsable del programa de “integridad cívica” destinado a limitar la desinformación en la plataforma.

Acabó, sin embargo, denunciando la insuficiencia del programa, desvelando miles de documentos internos al respecto, testificando ante el Congreso norteamericano y escribiendo un libro, The Power of One. Haugen sostiene que la máxima prioridad sigue consistiendo en optimizar el tráfico y los beneficios. Afirma que las plataformas disponen de cientos de personas cuyo único trabajo es conseguir que pasemos más minutos en su aplicación. “Tenemos que dejar de considerar a estas tecnologías como neutrales u objetivas. Eso es lo que quieren hacernos creer. La tecnología nunca es neutral; toda tecnología tiene una ideología”.

¿En qué punto estamos respecto a la regulación de las plataformas?

-Es difícil exagerar la importancia de la Ley de Servicios Digitales en la Unión Europea. Y lo interesante es que otros países están adoptando leyes de ese tipo. Parece que el gobierno canadiense aprobará este año una ley de seguridad en línea similar a la Ley de Servicios Digitales.

La Ley de Servicios Digitales es muy diferente de lo que creo que oirías si parases a un norteamericano medio en la calle y le dijeras: “Vale, vamos a arreglar las redes sociales, ¿qué vamos a hacer?”. Facebook se ha gastado enormes sumas de dinero tratando de establecer una historia según la cual la única manera de resolver estos problemas es la moderación de contenidos, como la censura. La mayoría de las personas, creo, si les parásemos en la calle, diría: “Oye, no quiero que aprobemos una ley así. Porque yo creo en la libertad de expresión”.

La Unión Europea entró en la cuestión desde un ángulo muy diferente y dijo: “Eh, aquí el verdadero problema es, en realidad, el de los desequilibrios de poder”. Todas las cosas de las que nos quejamos son consecuencia del hecho de que tenemos este enorme desequilibrio de poder en el que Facebook puede ver lo que está pasando, y nosotros, no. Así que, como mínimo, tienen que decirnos si saben que existe un riesgo, tienen que decirnos cómo van a intentar reducir ese riesgo, y tienen que darnos acceso a suficientes datos para que sepamos que realmente están haciendo progresos al respecto.

En el caso de los Estados Unidos, creo que lo que ha cambiado es que el Cirujano General ha publicado un aviso sobre las redes sociales. Esto es algo muy, muy importante. Sólo para dar algo de contexto, solamente ha habido menos de quince avisos especiales generales desde la década de 1960. Y todos ellos referidos a cuestiones que podríamos considerar como momentos importantes en la historia de la salud pública. Cosas como que los cigarrillos provocan cáncer, o que los cinturones de seguridad salvan vidas. Cosas ante las que hoy en día nos encogemos de hombros y decimos “¡Claro!”. Pero todas esas cuestiones eran ambiguas antes de que el Cirujano General declarase: “Eh, esta es la última palabra sobre la cuestión”. A los dos o tres años de esas declaraciones anteriores, solía producirse algún tipo de movimiento de envergadura, ya fuera a escala federal o por parte de los estados.

Mientras tanto, las propias plataformas no paran quietas, como se ha visto con el lanzamiento de Threads por parte de Meta para competir con Twitter.

Cuando aparece Mark Zuckerberg y declara: “No queremos que Threads trate de noticias, no queremos que trate de política. Queremos que sea un lugar feliz. Queremos sustituir a Twitter”, creo que eso debería hacernos reflexionar, porque la discusión política a veces no es agradable. Por poner un ejemplo de una decisión de producto que han tomado en Threads, no puedes configurar Threads para que solo te muestre contenido de tus amigos. Tienes que aceptar lo que Meta te ofrezca. Tienes que ponerte en sus manos y dejar que el algoritmo dirija la experiencia.

Una de las cosas fundamentales que intento explicar en mi libro es por qué una vez que dejamos de tener sistemas de medios sociales a escala humana en los que ves cosas porque un ser humano dijo específicamente: “Quiero poner esto delante de ti”, y pasas a tener un ordenador que toma esas decisiones por ti, que centra tu atención, es absolutamente necesario disponer de transparencia. Porque, ahora, quien controla el algoritmo controla la conversación, y me gustaría que reconocieran más que están llevando a cabo intencionadamente una experiencia en la que tienen aún más poder y control del que tenían antes.

¿Qué opina de Mark Zuckerberg?

-Siento una gran empatía por Mark Zuckerberg, porque nunca llegó a madurar. La verdad es que creo que a Mark le ha hecho un flaco favor el hecho de que haya sido dueño unilateral del control de Facebook desde que tenía 19 años. Incluso en comparación con Larry y Sergei en Google…pueden disponer de control unilateral conjuntamente, pero todavía tienen que negociar, ¿qué debemos hacer? ¿Qué significa esto? ¿Cómo debemos dirigir la empresa?

En un caso como el de Mark, es todo un sistema el que está configurado para hacer feliz a Mark. Las personas que están a su alrededor son las que le hacen sentirse seguro, las que validan que es un genio incomprendido que simplemente no puede tener respiro.

A veces me critican por decir que creo que debería haber un movimiento del tenor de “Liberad a Mark”, como hubo un movimiento de “Liberad a Britney”…Me gusta bromear diciendo que, si alguna vez supero el estrés postraumático que me produjo escribir este libro y decido tontamente escribir otro, quiero dedicárselo a Mark y decirle: “Mark, creo plenamente en tu capacidad de grandeza y no pararé hasta que vayas a por ella”. Porque dispone de un dinero funcionalmente ilimitado. Es un tipo inteligente, podría ir a resolver el problema de la malaria y en su lugar lanzó Threads. ¿Qué estamos haciendo?

¿Cuál fue el efecto de TikTok en los medios sociales?

-Cuando apareció TikTok, se demostró que había otra manera de hacerlo, que era que si tenías un algoritmo realmente bueno, en realidad no necesitabas una red social, no necesitabas un gráfico social, no necesitabas que la gente conociera a la gente de la que estaban recibiendo cosas. Puesto que, mientras que les dieras cosas de alta calidad que los entretuvieran, la gente volvería a por más. Y hoy resulta mucho más fácil hacer crecer tu sistema…

Los seres humanos lo hacen de veras muy bien a la hora de gobernarse a sí mismos a cierta escala…Sabemos gobernar el tamaño de un diálogo hasta [unas decenas de miles de personas]. Si se trata de un diálogo entre un millón de personas, hay que utilizar un algoritmo. Y el problema con los algoritmos es que cada uno de ellos tiene su sesgo… Y a menos que se impongan requisitos legales de transparencia, ahora estamos a merced de quien tenga el algoritmo….

En buena medida, la razón por la que escribí este libro es que necesitamos, como sociedad, comprender que los sistemas que son opacos y los que son transparentes son sistemas muy, pero que muy diferentes. Y que tenemos que actualizar nuestras leyes para discutir el hecho de que eso supone un desequilibrio de poder. Y que si vamos a vivir en un mundo en el que las formas de IA dirijan nuestra atención, tomen decisiones por nosotros, como consumidores deberíamos tener derecho a saber qué es lo que estamos consintiendo.

Así pues, ¿no estamos avanzando en la dirección correcta?

-En el libro intento hablar de los valores que queremos ver en las redes sociales. Porque ahora mismo tenemos un marco agnóstico cuando se trata de estas cosas. Decimos que son empresas privadas, que pueden hacer lo que quieran. No estamos reconociendo que estos son ahora los lugares principales en los que muchas personas llevan a cabo su socialización…Y, sin embargo, dejamos que estas empresas privadas, controladas a veces por una sola persona, gestionen estos elementos vitales de la infraestructura social…A medida que ponemos más y más de nuestra economía, más y más de nuestra sociedad en manos de ordenadores para que la dirijan, ¿cuáles son los controles y equilibrios que acompañan a eso? Sólo conseguiremos más concentración económica, sólo conseguiremos más concentración de poder, a menos que digamos que los seres humanos son importantes. Y necesitamos que la tecnología lo reconozca y esté a la altura de ello.

*Frances Haugen estudió Ciencias de la Computación e Ingeniería Eléctrica en la Escuela de Ingeniera Frank W. Olin y una Maestría en Administración de Empresas en la Escuela de Negocios de Harvard. Autora de “The Power of One”, ha trabajado para Google, Yelp, Pinterest y Facebook, sobre cuyas actividades declaró ante el Senado norteamericano en septiembre de 2021. 

Tecnopolítica de las redes sociales

https://www.nodal.am/wp-content/uploads/2023/09/tecnopolitica.png

Asma Mhalla *

La militarización de las redes sociales y la guerra de la información eran ya un hecho. La invasión rusa de Ucrania y los métodos puestos en marcha por el gobierno de Vladimir Putin han confirmado esta tendencia y la han amplificado. A nivel de la capa inferior de las redes sociales, la guerra en Ucrania ha acelerado la balcanización tanto política como técnica del internet global.

Pronto surgirán nuevos espacios híbridos de influencia y manipulación, que combinan la neurociencia y la inteligencia artificial, como el metaverso. Estos nuevos lugares presagian el advenimiento de la próxima generación de guerras híbridas, guerras cognitivas que enfrentarán conocimientos e ideologías y cuya gravedad será probablemente mucho más aguda que la que se desarrolla actualmente en las redes sociales, que no son más que el comienzo de dichas guerras.

En el ámbito de la tecnopolítica, las redes sociales han dominado la actualidad internacional reciente. Los Facebook Files, la guerra de la información digital y la desinformación, el anuncio de la adquisición de Twitter por parte de Elon Musk, la aprobación en curso de la Ley de Servicios Digitales, etc.

El ritmo frenético de los últimos acontecimientos ha tenido la nada despreciable ventaja de sacar las cuestiones de la gobernanza de las redes sociales del círculo restringido de unos pocos expertos y periodistas iniciados y situarlas en el centro del debate público.

Pero más allá del simple comentario de esta o aquella noticia, la comprensión de la dimensión política y geopolítica subyacente no debe detenerse en la dialéctica binaria demasiado simplista de «a favor o en contra de la libertad de expresión» que vemos con tanta frecuencia.

La reflexión sobre la política de las redes sociales se articula en tres niveles distintos pero interdependientes. En primer lugar, desde el punto de vista geopolítico, se han convertido rápidamente en un campo de conflicto por derecho propio en la ciberguerra, especialmente en el aspecto informativo, y están participando en la actual balcanización del internet global en distintos bloques informativos, geoestratégicos e ideológicos. Frente a bloques coherentes en su doctrina tecnológica, el campo occidental debe determinar ahora el corpus ideológico que debe llevar la tecnología.

Por el momento, las políticas relacionadas con las nuevas tecnologías, que son por naturaleza duales, siguen oscilando entre la realpolitik cínica y la utopía fantasmal. En segundo lugar, en el plano político, las redes sociales materializan una tensión existencial para las democracias occidentales en cuanto a su aceptación del principio de «libertad de expresión».

La aclaración es urgente, especialmente en Estados Unidos, que está en un momento crucial de su historia en el que se enfrentan dos visiones, una maximalista, liderada por Elon Musk, y otra reguladora, dirigida por Barack Obama. Como consecuencia de los dos primeros puntos, reunir las visiones estadounidense y europea y encontrar las modalidades para una cogobernanza transatlántica de las plataformas transfronterizas es una condición sine qua non para la supervivencia del modelo democrático liberal occidental a ambos lados del Atlántico en un ciberespacio cada vez más fragmentado.

El reposicionamiento en curso está redefiniendo los atributos tradicionales del poder y la soberanía en torno a la cuestión tecnológica. Al ser la información la principal fuente de poder, tener el control de uno de sus principales vehículos, las redes sociales, es vital en las nuevas relaciones de poder e influencia.

Desde este punto de vista, ¿qué papel puede desempeñar Europa a corto y largo plazo para servir a su ambición de una Europa potencia? En concreto, ¿cómo puede transformarse este punto de inflexión histórico del papel político y geopolítico de las redes sociales en una oportunidad para repensar su relación con Estados Unidos y gobernar unas redes sociales que son transfronterizas por naturaleza y tienen un estatus híbrido de plataformas privadas y de espacios públicos, y que ahora actúan como campos de influencia militar?

El reposicionamiento en curso está redefiniendo los atributos tradicionales del poder y la soberanía en torno a la cuestión tecnológica.

Balcanización de los bloques informativos y reconfiguración geopolítica
La propaganda, las guerras narrativas y las percepciones colectivas no son nuevas. De hecho, la opinión pública es un elemento central en la toma de decisiones de las políticas públicas y, por necesidad, su orientación y manipulación son altamente políticas e incluso, en algunos casos, militares. Sin embargo, la sobreabundancia de información a través de las redes sociales hoy en día está alterando los canales y las técnicas preexistentes de la guerra de la información.

En el ámbito de la información, «el cambio de escala es en realidad un cambio de naturaleza», por citar las palabras de Jean-Yves Le Drian en 20181. En consecuencia, la información y su corolario, la desinformación, representan una materia prima estratégica que participa activamente en la hibridación de las modalidades de la guerra convencional (guerra híbrida) mediante la militarización del campo de la información en el ciberespacio.

En este contexto, la guerra de Ucrania y la batalla franco-rusa por la influencia en el Sahel ponen de manifiesto el creciente papel geopolítico de las redes sociales, principalmente Facebook, Twitter y Tiktok.

Esas redes se han convertido rápidamente en uno de los principales escenarios de la guerra de la información y de las estrategias de ciberdesestabilización en países en conflicto abierto o latente. La infowar florece en esos espacios públicos digitales, impulsada por los mecanismos económicos de la viralidad y de los algoritmos de recomendación.

Los primeros ejemplos de operaciones de ciberdesestabilización y desinformación a gran escala datan de 2016. Rusia, que ha industrializado sus métodos de guerra de la información, ocupa un lugar destacado, aunque no es exclusivo de ella. Las operaciones más famosas se han atribuido a agencias rusas cercanas al Kremlin, como durante las elecciones presidenciales estadounidenses, los referendos del Brexit y las elecciones presidenciales francesas de 2017.

Ante la creciente amenaza, Francia lanzó en octubre de 2021 el servicio de vigilancia y protección contra las interferencias digitales extranjeras (Viginum). A finales de abril de 2022, Estados Unidos siguió su ejemplo y anunció la creación de un equipo dedicado a contrarrestar la desinformación rusa, ubicado en el Departamento de Seguridad Nacional\“Department Of Homeland Security Announces New Disinformation Governance Board\”, Huffington Post, abril de 2022.” >2.

En contextos de guerra (fría, caliente, híbrida o cibernética), las redes sociales se convierten en zonas de conflicto y confrontación en toda regla. La guerra de Ucrania es un punto de inflexión clave. Mientras que las estrategias de influencia rusas seguían siendo relativamente clásicas, pero perfectamente preparadas, coordinadas e industrializadas, basadas en campañas masivas de desinformación potenciadas por modalidades de viralidad no auténticas3, el gobierno ucraniano optó por poner en escena una forma de «marketing de guerra» sin precedentes.

Esta comunicación pública fue ampliamente retransmitida por la profusión de vídeos publicados que dan testimonio de los daños materiales y psicológicos de la guerra, subidos por influencers que antes hablaban de belleza o deporte, y que ahora se han convertido en soldados de la influencia, es decir, en «influencers de la guerra», como Marta Vasyuta o Valeria Shashenok, portavoces de la causa ucraniana en todo el mundo. La participación en este esfuerzo bélico se coordinó desde el principio a través de los canales oficiales de Telegram, tanto en contenido como en formato. La viralidad hizo el resto.

TikTok desempeñó un papel fundamental en esta influencia. En pocas semanas, la plataforma china se convirtió en uno de los principales canales de información para los más jóvenes. Hasta el punto de que la Casa Blanca tuvo que convocar a los influencers estadounidenses para informarlos y que transmitieran los mensajes «correctos». Este ejército cívico de la influencia bélica a través de las redes sociales desempeñó un papel importante en la adhesión inmediata de la opinión pública occidental a la causa ucraniana.

También es interesante observar que, desde el comienzo de la guerra en Ucrania, los dirigentes de Facebook y Twitter fueron interpelados directamente en Twitter por Mikhailo Fedorov, viceprimer ministro y ministro de Transformación Digital de Ucrania, y luego por el gobierno ruso sobre su política de moderación, lo que los sitúa en pie de igualdad, considerados desde el principio como interlocutores tan legítimos como los Estados. De hecho, este enfoque ya estaba latente.

El concepto de «Techplomacy», lanzado en 2017 por Dinamarca, ya existía, pero había permanecido relativamente inoperante hasta entonces. Este enfoque, que acaba con los rangos protocolarios e hibrida el perímetro de la diplomacia pública tradicional, acaba de ser adoptado por la propia UE. El 28 de abril de 2022, supimos que Bruselas estaba preparando la apertura de una embajada con sede en San Francisco dedicada a las relaciones bilaterales con las BigTech.

Hasta ahora, el concepto no se había probado, pero se vuelve particularmente interesante desde el punto de vista de la teoría política si consideramos las redes sociales dominantes como entidades geopolíticas y oficinas ideológicas por derecho propio, a veces con su propia agenda política. En el caso de Meta, por ejemplo, los Facebook Files destacaron una política de moderación arbitraria.

En 2020, el gobierno vietnamita supuestamente pidió a Facebook que aplicara una ley represiva sobre la libertad de expresión que castigara las posturas críticas con el gobierno de turno. Se dice que Mark Zuckerberg ha arbitrado personalmente a favor de la petición del gobierno. Más recientemente, fue el gobierno ucraniano el que pidió directamente a Zuckerberg que censurara activamente ciertas cuentas rusas. También en ese caso, Meta obedeció.

Otro ejemplo emblemático: en pleno conflicto ruso-ucraniano, Facebook decidió, a sabiendas, aplicar una moderación muy ligera a las publicaciones ucranianas que incitaban al asesinato de soldados rusos, y luego decidió unilateralmente, a finales de abril de 2022, restringir el papel de su Consejo de Supervisión, un órgano que la empresa creó para ayudarle a gestionar su política de moderación en los casos considerados complicados. Meta rechazó una solicitud del Consejo de una opinión consultiva sobre las acciones de moderación relacionadas con la invasión de Ucrania debido a «las preocupaciones constantes en materia de seguridad».

Infowar

La infowar florece en esos espacios públicos digitales, impulsada por los mecanismos económicos de la viralidad y de los algoritmos de recomendación.

Ante estas nuevas formas de poder no estatal y en un afán por mantener el control, la Comisión Europea, en su última versión de la Ley de Servicios Digitales, añadió un artículo de última hora que prevé el establecimiento de mecanismos de respuesta de emergencia para las plataformas sociales en caso de crisis, conocido como «Mecanismo de Respuesta a la Crisis»: las plataformas estarán obligadas a aplicar las instrucciones de la Comisión en casos de extrema urgencia en los que la seguridad de los países miembros pueda verse amenazada. Estos mecanismos se activarán por decisión de la Comisión Europea.

Pero la militarización de las redes sociales y la guerra de la información no se detienen en la capa superior del ciberespacio, es decir, en las interfaces directamente visibles para los usuarios. El bloqueo de las redes occidentales y el control total o parcial de las infraestructuras físicas de conectividad por parte de ciertos Estados tecno-autoritarios están conduciendo a una fractura gradual, pero segura, del internet global en varios bloques informativos distintos y perfectamente impermeables, lo que conduce a una balcanización del ciberespacio.

A nivel de la capa inferior de las redes sociales, la guerra de Ucrania ha acelerado esta balcanización, tanto política como técnica, del internet global, que se denomina comúnmente «splinternet». Si del lado ofensivo el objetivo ruso es desestabilizar a la opinión pública occidental, sobre todo mediante la desinformación en las redes sociales, su lado defensivo no utiliza los mismos medios.

Para controlar su esfera informativa interna, Moscú ha podido contar tanto con su arsenal legal —incluida la ley del 4 de marzo de 2022 contra las «fake news» que «prohíbe la difusión de información falsa sobre las fuerzas armadas rusas» y la llamada «operación militar especial en Ucrania»— como con sus servicios digitales soberanos agrupados bajo el nombre de «Runet» (redes sociales y motores de búsqueda rusos como Vkontakte o Yandex, que son propiedad directa o indirecta de personas cercanas al Kremlin).

Finalmente, y a pesar de las dificultades técnicas, Moscú pretende aislar progresivamente las capas inferiores de su espacio digital controlando todas las infraestructuras de red en una visión autoritaria de su soberanía tecnológica, y ello con fines perfectamente asumidos de seguridad nacional y «seguridad de la información».

La fractura del ciberespacio, ya sea en su denominada capa superior cognitiva (todos los contenidos que circulan por las redes sociales) o en su capa inferior (las infraestructuras físicas de la red) sigue, en una simetría casi perfecta, la reconfiguración geopolítica del mundo físico, dando lugar a un internet global reestructurado entre cuatro polos: Estados Unidos, Rusia, China (de paso, con un refuerzo del eje Moscú-Pekín) -cada uno de los cuales tiene una autonomía digital estratégica-, y el resto del mundo, incluida Europa, que se encuentra en situación de dependencia.

Esta recomposición redefine el equilibrio de poder y los atributos del poder tecnológico a principios del siglo XXI.

Para las democracias occidentales, el reposicionamiento geopolítico por las distintas capas del ciberespacio plantea una cuestión principalmente ideológica. Ante el auge del autoritarismo digital, con el pretexto de diversas estrategias de soberanía tecnológica, Estados Unidos anunció el 28 de abril de 2022 el lanzamiento de una iniciativa para defender un «internet libre, democrático y abierto».

En resumen, volvemos al principio. Más allá del efecto del anuncio y sea cual sea la autenticidad de la intención, es innegable que el campo occidental debe ahora fijar su doctrina en términos de valores, de modelo político y, en consecuencia, de gobernanza tecnológica. El tema no es nuevo, pero se está volviendo urgente. Frente a ciertos Estados que son perfectamente coherentes en su aprehensión de internet en general y de las redes sociales en particular como herramientas políticas de censura, coerción y ciberdesestabilización, ¿cuál es nuestra identidad, cuál es nuestra respuesta, cuál es nuestro contramodelo?

Relaciones con las BigTech

El 28 de abril de 2022, supimos que Bruselas estaba preparando la apertura de una embajada con sede en San Francisco dedicada a las relaciones bilaterales con las BigTech. En este caso, la batalla ideológica que se libra en el ámbito tecnológico nos obliga a aclarar rápidamente nuestra visión de la democracia en el siglo XXI.

Sobre todo porque los posibles abusos de las tecnologías, que son por naturaleza duales, nunca están lejos: tecnovigilancia masiva, explotación comercial o política de datos personales sensibles como las opiniones políticas, la religión o la orientación sexual, microfocalización política, fichaje y vigilancia masiva, etc. El bloque occidental debe apresurarse a avanzar.

En primer lugar, porque la visión tecno-autoritaria de países como Irán, China y Rusia es mucho menos proclive a la dilación. En segundo lugar, porque pronto surgirán nuevos espacios híbridos de influencia y manipulación, que combinan la neurociencia y la inteligencia artificial, como el metaverso.

Esos nuevos lugares presagian el advenimiento de la próxima generación de guerras híbridas, guerras cognitivas que enfrentarán conocimientos e ideologías y que serán probablemente mucho más agudas que la que se desarrolla actualmente en las redes sociales, que no son más que los primeros signos de dichas guerras.

*Especialista en política tecnológica. Es profesora en SciencesPo París y en la École Polytechnique; es experta asociada en la Agencia Ejecutiva de Investigación de la Comisión Europea e investigadora visitante en el Institut Mines-Télécom (IMT).

 

Tecnologización digital acrítica o internet ciudadana

https://www.nodal.am/wp-content/uploads/2023/09/mujeres-computadoras-redes-sociales-internet-750x430.jpg

Javier Tolcachier*

El contexto de una digitalización acelerada revoluciona el funcionamiento de la interrelación social, afectando todos los campos de actividad humana y por supuesto, al campo específico de la comunicación.

La internet y sus tecnologías conexas, que idealmente pudieran servir para una mayor democratización del conocimiento y del quehacer político, que pudieran contribuir a una mejor distribución del bienestar y el patrimonio colectivo de la humanidad, se encuentran intervenidas por intenciones monopólicas particulares, que impiden o dificultan que aquello se realice.

El modelo impuesto en las últimas décadas a los espacios virtuales y las tecnologías digitales responde principalmente a intereses corporativos, promoviendo la centralización, el monopolio, la mercantilización, la vigilancia, el tráfico de datos, el control, los sesgos informativos, entre otras características.

Los movimientos sociales y los defensores de los derechos humanos, preocupados por asuntos quizás más acuciantes como la violencia física y económica o la discriminación de mayorías y minorías, no reivindican todavía con igual intensidad la necesidad de una internet igualitaria, abierta, solidaria, no sujeta a las apetencias del mercado. Una tecnología que sea comprendida y defendida como derecho humano universal.

El mundo virtual, que hoy impacta en esferas cada vez más amplias de nuestras vidas, al igual que el mundo físico, requiere de derechos, prometidos a la humanidad en la teoría, pero en la práctica largamente negados a las mayorías.

Estos derechos, tendientes a la ampliación de la autodeterminación personal y colectiva, deben ser construidos desde la arquitectura misma de la red internet, hoy de carácter neocolonial, hacia modelos descentralizados y orientados al bien común.

Se trata de promover estructuras democráticas, abiertas y desconcentradas de las tecnologías digitales, impedir toda forma de vigilancia y control social y fomentar la distribución equitativa de sus beneficios, la no discriminación, la descolonización y la soberanía.

Obviamente, esto no puede estar desligado de proyectos políticos y sociales motivados por la justicia social y el desarrollo inclusivo e integral, proyectos que tengan como núcleo una poderosa participación e incidencia desde los mismos pueblos.

Para avanzar en la sensibilización sobre este tema y dar pasos concretos hacia la democratización digital, viene creciendo en América Latina y el Caribe desde hace algunos años un espacio integrado por diferentes actores sociales cuyo nombre es Internet Ciudadana. Este espacio intenta articular la acción de organizaciones de comunicadores, activistas digitales, campesinado, educadores, sindicatos, productores de tecnología y académicos, entre otros sectores y trabaja aliado a espacios afines de la sociedad civil a nivel internacional.

Este espacio ha elaborado una “agenda de 20 puntos hacia una Internet justa y soberana”, que postula en sus primeros enunciados a la Internet como un bien universal común inajenable y el acceso a la red como derecho humano y servicio público esencial, lo que requiere regular la infraestructura, garantizando conectividad de calidad y asequible, a través de iniciativas públicas, comunitarias o de cogestión pública-comunitaria, incluyendo alternativas colectivas de acceso.

Junto a otras consideraciones de detalle, esta agenda insta a establecer estrictas regulaciones y políticas públicas a nivel nacional, regional e internacional para proteger de manera efectiva la privacidad, fomentando el uso de la criptografía y la inhibición de técnicas de rastreo en los entornos digitales.

Por otra parte, se considera urgente la instauración de marcos legales que reconozcan que los datos de carácter íntimo y personalizado son inviolables, que los datos anonimizados deben ser considerados bienes comunes y que los derechos patrimoniales y económicos sobre los datos pertenecen por defecto a la comunidad de la que provienen. ¡Nuestros datos son nuestros! Y no de las empresas.

Para defender la democracia, es preciso limitar el poder empresarial, mediante políticas públicas y medidas regulatorias que impidan la concentración monopólica de poder en manos de corporaciones digitales, promoviendo y fortaleciendo el desarrollo de múltiples aplicaciones y plataformas que privilegien las lógicas de la cultura libre.

En ese sentido, es coherente priorizar en la administración pública la utilización de herramientas digitales libres e interoperables, impulsando la creación y el fortalecimiento de cooperativas y pequeñas y medianas empresas de producción y servicios tecnológicos, aportando así a la generación de trabajo de calidad y la disminución de la dependencia tecnológica.

Es imperativo regular las nuevas relaciones laborales, en especial el teletrabajo y el trabajo en plataformas digitales, para salvaguardar los derechos de las y los trabajadores, como así también insertar en los programas educativos la alfabetización digital crítica, no permitiendo la penetración de plataformas corporativas en el ámbito educacional, garantizando el respeto por la privacidad y la no mercantilización de los datos de la comunidad educativa.

También es muy importante asegurar que la tecnología llegue al campo según un modelo de gestión pública o comunitaria y construir capacidad de evaluación participativa de las tecnologías por parte de las comunidades rurales y/o campesinas, en defensa de la soberanía alimentaria, la justicia social y el cuidado agroecológico y medioambiental.

Del mismo modo, la agenda propone abordar la cuestión digital desde una óptica de integración regional, profundizando la cooperación y la asociatividad de las naciones de América Latina y el Caribe en estas materias, para sumar al reemplazo de la matriz económica de exportación primaria depredadora por modelos colaborativos con alto valor agregado y cuidado medioambiental.

Incorporar la soberanía digital en la agenda de la integración regional significa avanzar hacia la descolonización y el multilateralismo en términos tecnológicos y poder incidir de manera concertada como región en el ámbito de la gobernanza global de internet.

En ese ámbito internacional, es preciso impedir la cooptación de los espacios multilaterales y de gobernanza de Internet por parte de las corporaciones tecnológicas multinacionales que utilizan el sistema vigente de «múltiples partes interesadas» para decidir en la práctica de modo unilateral, favoreciendo sus propios intereses.

En lo relativo a la comunicación, entendida como un derecho humano prioritario e inalienable, es imprescindible denunciar los usos y abusos de las mal llamadas «redes sociales» corporativas que, a través de la manipulación de algoritmos opacos, se convierten en árbitros de facto de los contenidos que circulan en la red, afectando severamente su neutralidad.

Pero desinformar de manera interesada, sembrar sospechas, descontextualizar expresiones o acciones, no es nada nuevo, ni característica exclusiva de estas redes, sino práctica habitual del género periodístico de nuestros días en los medios manejados por el capital. Incluso, y sobre todo, en sus secciones más “serias”, la mentira y el amarillismo son moneda común.

¿Qué cambia entonces con las redes? Nada y todo. Nada, porque la clasificación, discriminación, deformación y censura de la información según sea su tinte político o intención social, continúa existiendo, trasladando sus formatos a la arena digital. Todo, porque la manipulación se introduce de manera permanente a través de dispositivos que nunca dejamos a más de un metro de distancia y que anuncian de manera sonora o vibrátil su intromisión. Y también, porque el tipo y cantidad de información almacenada sobre cada quien, permite enviar misiles teledirigidos de desinformación perfectamente segmentada, en tiempo real y de manera continuada.

Conscientes o no de esto y ante el avance inexorable de la modalidades digitales en el campo comunicacional, los actores sociales de la comunicación comunitaria intentan organizan buena parte de su esfuerzo de difusión a través de estas plataformas, logrando conectar al menos con franjas contiguas de sensibilidad.

Así, se multiplican las transmisiones, los encuentros virtuales, las convocatorias de eventos y movilizaciones, la difusión periodística, permitiendo incrementar cierto diálogo entre emisor y receptor, elemento que constituye un pilar de la comunicación popular en contrapunto a las ya desgastadas formas unidireccionales.

Sin embargo, para no caer en la ingenuidad, pensar en el uso de las plataformas corporativas para alcanzar la justicia social es como intentar ganar un partido en una cancha inclinada. Es casi inevitable hoy estar en ellas, pero a sabiendas que es un territorio dominado y controlado por grandes capitales concentrados en los principales fondos de inversión.

Un simple ejemplo de esto es que el enorme esfuerzo por acumular “seguidores” y ampliar teóricamente la llegada de un mensaje, puede ser desbaratado en un segundo por la suspensión o eliminación de una cuenta, sin que las compañías estén obligadas a justificar su accionar.

Por este hecho, es preciso diversificar las posibilidades, abriéndose a alternativas que ya existen y cuya lógica no permite su apropiación por parte de las compañías de negocios monopólicas.

Una forma de ayudar a democratizar el espectro digital es a través de la utilización de aplicaciones libres y plataformas digitales federadas y descentralizadas, respetuosas con los usuarios y su privacidad e interoperables, cuyo fin no es monetizar sino promover un efectivo contacto entre las personas y las culturas.

Pero además de aportar una visión crítica y una práctica alternativa en los sistemas de difusión, tenemos que insistir en ser capaces de producir contenidos con calidad desde los sectores populares y para los sectores populares. No es únicamente una cuestión de tecnologías y comunicaciones sino de valorar y proteger identidades, tiene que ver con la defensa de la diversidad de los bienes culturales, otro derecho humano fundamental.

Para lograr reparar las asimetrías existentes por la previa concentración en la propiedad de los medios, se hace necesaria la mediación del estado, sin la cual es imposible redistribuir los recursos públicos con el fin de apuntalar el desarrollo de un concierto mediático diverso.

Para asegurar el carácter participativo, autogestivo, colectivo, articulador y multidireccional propio de la comunicación popular y democrática es preciso fortalecer el concepto de asociación entre lo público y lo comunitario, una suerte de alianza público-comunitaria, permitiendo el empoderamiento de la comunicación popular en reemplazo de la indebida interferencia e injerencia del sector privado.

En definitiva, estamos ante una clara bifurcación de caminos. Un camino corto y veloz, el de una tecnologización digital acrítica, que conduce a una mayor dependencia de poderes concentrados, una disminución de las calidades democráticas y un aumento de la desigualdad y la exclusión social. El otro camino, con la mirada puesta en el interés común y la participación social, es quizás  más largo y lento, pero conduce a más autonomía, equidad, inclusión y complementación social. La defensa de los Derechos Humanos exige que tomemos esta segunda senda.

*Investigador del Centro Humanista de Córdoba, coordinador del Foro de Comunicación para la Integración de Nuestra América, investigador asociado al Centro Latinoamericano de Análisis Estratégico

Boric, la Inteligencia Artificial y aquellas muchachas de España

https://www.nodal.am/wp-content/uploads/2023/09/BC-presidente-chileno-el-mas-joven-del-mundo-impresiona-en-onu-1Y-750x430.jpg

Fernando Reyes Matta*

En su discurso ante la Asamblea General de Naciones Unidas, el presidente chileno Gabriel Boric planteó tres desafíos que enfrenta la comunidad internacional y su acción compartida en el siglo XXI: uno, poner al día la democracia con otra percepción de las búsquedas y aspiraciones de los ciudadanos; dos, la crisis del cambio climático, la contaminación y la pérdida de biodiversidad; tres, el cambio tecnológico y la transformación profunda que trae a todas las sociedades contemporáneas porque solo es comparable con la Revolución Industrial de mediados del siglo XVIII.

Y a este tercer tema al cual entró desde una visión directa y humana, convocando a pensar la trascendencia de esta transformación global desde un incidente registrado en Almendralejo, una localidad de Extremadura, en España.

Allí, ante los representantes de países de todos los continentes dijo: “Hace poco veíamos como en un pueblo en España una madre denunciaba a unos jóvenes que habían utilizado inteligencia artificial para desnudar a sus compañeras de clase, mancillándoles no solo la honra, sino también su derecho a ser persona, a tener integridad, a tener privacidad”. Lo dijo para reforzar la urgencia de ver en todas sus dimensiones los alcances del cambio digital que –antes de haberlo pensado en sus grandes alcances –“está cambiando, de forma drástica, nuestra manera de relacionarnos, nuestra manera de pensar, de producir, de trabajar”.

Once muchachas adolescentes denunciaron en España la circulación de fotos suyas desnudas elaboradas con una aplicación de inteligencia artificial, ClothOff, una app utilizada para “desnudar” bajo el eslogan Undress girls for free, es decir Desnuda a chicas gratis. Por cierto, es una aplicación capaz de producir fotomontajes de gran realismo, capaz de mostrar personas sin ropa si estas no portan abrigo. El incidente provocó un fuerte debate en España, la ministra de Justicia, Pilar Llop, señaló que no puede haber impunidad “aunque se trate de imágenes manipuladas”.

Probablemente esa noticia quedará atrás en la ebullición noticiosa de cada día. Pero instalada como referencia en el discurso del presidente chileno se convierte en punta de iceberg que llama a hacerse muchas preguntas. Algunas son sobre la macro tendencia que irrumpió en el devenir de la humanidad donde la Inteligencia Artificial cruza fronteras desafiando sobre las consecuencias de su poder a científicos, pensadores y políticos.

Otras preguntas son aquellas de millones de seres humanos que, desde su vivir cotidiano, acumulan incertidumbres ante la nueva realidad emergente. Y vuelven, como en otros momentos de la historia, los tiempos del asombro unido al temor, los tiempos de entusiasmos por el gran salto hacia una nueva era unido a la perplejidad por no saber cómo manejar lo que viene.

“Cada gran transformación tecnológica siempre ha sido en la historia de la humanidad una gran oportunidad para construir sociedades más justas, pero también si lo hacemos mal, puede ser fuente de nuevas injusticias”, dice Boric. Y, en este contexto, determina dos niveles de acción que estarán cada vez más presentes en nuestra política exterior en las décadas futuras: a) establecer consensos multilaterales para dar un marco ético al desarrollo de estas nuevas tecnologías; b) desde ese consenso dar también un marco ético al uso de las transformaciones digitales, como es el caso de la Inteligencia artificial.

Chile tiene méritos para asumir la tarea de contribuir a pensar lo que viene. Ahí están los avances en las diversas jornadas del Congreso del Futuro que, desde hace más de una década, es momento de convocatoria a científicos de todos los continentes para dar bases al conocimiento de lo que trae el siglo XXI en transformaciones y avances. Pero, como lo hacemos desde Chile, siempre ha tenido como eje una pregunta, la misma que se hermana con la de Neruda ante Machu Pichu: ¿y el ser humano, en medio de esto, ¿dónde está?

“La democracia se está regenerando en infocracia”, dice el filósofo coreano Byung-Chul Han. Y esa afirmación, en uno de sus recientes libros de ensayo, asoma como trasfondo en el discurso del presidente Boric. Porque la referencia a este tercer punto –el científico tecnológico– adquiere todos sus alcances de futuro cuando se le cruza con el primero: el de la democracia.

Lo ocurrido con las jóvenes de Almendralejo es solo un apunte frente a lo que ya puede producirse con ribetes de verdad. Por ejemplo, una personalidad política, científica o artística que podemos ver con su figura, su rostro, su voz, diciendo un discurso que nunca dijo en realidad. Es más, la figura de alguien ya fallecido –caso de Victor Jara– que aparece en las redes cantando una canción que nunca grabó ni cantó personalmente. Pero allí está su voz, su tono, su tipo de música.

Según el coreano Han, existe una estirpe que concibe todo el devenir futuro en torno de la fuerza de los datos. Los llama “dataístas” y dice que estos viven convencidos de que, por primera vez en la historia, la humanidad dispone de los datos que les permitirán un conocimiento total de la sociedad. Y, en consecuencia, dice “los dataístas imaginan una sociedad que puede prescindir por completo de la política”. Es más, la política puede llegar a ser sustituida por una práctica de administración de la sociedad, “una gestión de sistemas basada en datos”.

Es en ese contexto que adquieren toda su fuerza las palabras del presidente Boric cuando subrayó este tema como uno de los tres grandes desafíos del futuro para el mundo global. Y, al mismo tiempo, la urgencia de inscribir esta realidad en un área fundamental de su pensamiento político: “Requerimos un marco que incorpore la perspectiva de derechos humanos a la investigación e innovación tecnológica, considerando el resguardo y fomento de la libertad y la dignidad de las personas y los pueblos, así como las necesidades del desarrollo sostenible”.

Una tarea donde Chile, señaló, puede ser un referente latinoamericano “de cara al futuro de la Inteligencia Artificial”.

*Exembajador, asesor internacional y académico de la Universidad Andrés Bello.