El Diálogo Mundial sobre la Gobernanza de la IA es el primer foro universal de las Naciones Unidas sobre inteligencia artificial, que reúne a los Estados miembros, la sociedad civil y otras partes interesadas en Ginebra este mes de julio para definir la trayectoria de la gobernanza y la regulación internacionales de la IA.
Hemos presentado nuestras aportaciones a la convocatoria abierta de comentarios del Diálogo Global para garantizar que la libertad de expresión y el acceso a la información estén en el centro de los debates multilaterales sobre la gobernanza de la IA.
En los instrumentos de gobernanza elaborados desde 2018, la protección de la libertad de expresión tiende a aplicarse en términos generales que no cumplen con los requisitos de legalidad, legitimidad y necesidad establecidos en el artículo 19 del Pacto Internacional de Derechos Civiles y Políticos.
Nuestra propuesta insta al Diálogo a aplicar estos principios y estándares rigurosos en su marco regulatorio, partiendo de los compromisos que los Estados miembros ya han asumido a través del Pacto Digital Mundial .
Presentación al Diálogo Global sobre Gobernanza de la IA
1. En su opinión, ¿qué resultados harían que el primer Diálogo Global sobre Gobernanza de la IA fuera un éxito?
El Diálogo Mundial sobre la Gobernanza de la IA ofrece una oportunidad única para definir cómo se gobierna la IA en el mundo, debido a su universalidad y a su integración en el sistema más amplio de las Naciones Unidas, incluidos los compromisos que los Estados miembros ya han asumido a través del Pacto Digital Mundial y los instrumentos conexos.
Los derechos humanos, en particular la libertad de expresión y el acceso a la información, deben ser una piedra angular del Diálogo y de cualquier instrumento de gobernanza multilateral que finalmente se adopte.
Sin embargo, la libertad de expresión y el acceso a la información se subsumen habitualmente bajo los objetivos de integridad de la información, sin el contrapeso del artículo 19 del Pacto Internacional de Derechos Civiles y Políticos . La mayoría de los instrumentos invocan los derechos humanos sin mencionar la libertad de expresión ni destacar la importancia de los requisitos de necesidad y proporcionalidad del artículo 19(3).
El grupo temático de derechos humanos del Diálogo debería abordar directamente el Artículo 19, considerando la tríada de legalidad, necesidad y proporcionalidad como el estándar para la adopción y evaluación de medidas de gobernanza de contenido basadas en IA, en lugar de como un lenguaje aspiracional. La evaluación anual del Panel debería abarcar cómo la vigilancia habilitada por IA, la comunicación política asistida por IA y las medidas de gobernanza de la integridad de la información afectan la libertad de expresión y el acceso a la información. El resumen de los Copresidentes debería documentar la divergencia entre los instrumentos existentes sobre estándares de libertad de expresión e identificarla como una cuestión que requiere solución en procesos posteriores.
El Pacto Digital Global debería comprometer a los Estados miembros a proteger la libertad de expresión y el acceso a la información en la mitigación de riesgos de la IA, y a abstenerse de imponer restricciones a la información que sean incompatibles con el derecho internacional de los derechos humanos. La Resolución A/RES/76/227 de la Asamblea General de las Naciones Unidas exige explícitamente que los esfuerzos para contrarrestar la desinformación promuevan y protejan, en lugar de violar, la libertad de expresión. La Recomendación de la UNESCO sobre la ética de la IA exige que las limitaciones a la libertad de expresión sean lícitas, necesarias y proporcionadas. El Diálogo debería seguir aplicando las normas sobre libertad de expresión y acceso a la información en el contexto de la gobernanza de la IA.
2. ¿Qué áreas temáticas reflejan sus prioridades para la acción urgente? (Seleccione hasta 4)
Protección y promoción de los derechos humanos; transparencia, rendición de cuentas y supervisión humana; implicaciones sociales, económicas, éticas, culturales, lingüísticas y técnicas de la IA; e IA segura, protegida y confiable.
3. Por favor, explique brevemente su elección.
La protección y promoción de los derechos humanos es la prioridad, dado que la brecha en la gobernanza es estructural y está documentada. La mayoría de los principales instrumentos multilaterales de IA invocan los derechos humanos sin mencionar la libertad de expresión ni respaldar explícitamente los requisitos de necesidad y proporcionalidad del artículo 19. El grupo temático de derechos humanos del Diálogo y el resumen de los copresidentes constituyen los mecanismos para documentar y abordar esta situación.
La transparencia, la rendición de cuentas y la supervisión humana son fundamentales para la libertad de expresión y el acceso a la información, ya que la moderación de contenido mediante IA, sin las salvaguardias adecuadas, puede dar lugar a restricciones injustificadas, que suelen afectar con mayor dureza a las voces minoritarias. Dichas salvaguardias incluyen la revisión humana, vías de apelación efectivas y evaluaciones que tengan en cuenta la moderación excesiva, no solo la insuficiente. El Panel Científico está en una posición privilegiada para evaluar si los marcos de transparencia y supervisión existentes están diseñados para proteger la libertad de expresión o simplemente para garantizar el cumplimiento de estándares de integridad de la información no definidos.
Las implicaciones sociales, económicas, éticas, culturales y técnicas abarcan el efecto disuasorio: la vigilancia masiva habilitada por IA disuade a las personas de hablar, organizarse y disentir. El Comité de Derechos Humanos y el Relator Especial de las Naciones Unidas sobre la libertad de expresión han establecido que el efecto disuasorio constituye en sí mismo un perjuicio para la libertad de expresión, independientemente de las sanciones formales, y la IA elimina las limitaciones de escala que antes restringían dichas operaciones. El mandato de recopilación de pruebas del Panel Científico debería abarcar específicamente cómo la vigilancia masiva habilitada por IA afecta la libertad de expresión a nivel poblacional.
La IA segura, confiable y fiable es especialmente relevante para la integridad de la información. Abordar este tema desde la perspectiva de la libertad de expresión en los debates temáticos del Diálogo es fundamental. Esto contribuye a garantizar que los objetivos de seguridad de la IA no se diseñen de manera que las restricciones a la expresión se consideren una estrategia de cumplimiento por defecto, y que el resumen de los copresidentes registre la libertad de expresión como un límite estructural a las medidas de seguridad, en lugar de un objetivo contrapuesto.
4. ¿Existen temas transversales o emergentes que no estén contemplados en la lista de temas?
La cuestión transversal más importante que no se contempla en los temas enumerados es la relación estructural entre la integridad de la información como objetivo de gobernanza y la libertad de expresión como restricción legal. Esta relación determina el efecto práctico de los marcos de gobernanza de la IA sobre la libertad de expresión, pero no se ha mencionado como un problema estructural en ningún instrumento multilateral importante.
La integridad de la información aparece en los instrumentos de gobernanza de la IA como un objetivo primordial o de igual importancia que la libertad de expresión, y a menudo está integrada estructuralmente en dichos instrumentos. Cuando las medidas de integridad de la información están explícitamente condicionadas al respeto de la libertad de expresión, como en la Recomendación de la OCDE de 2024 y en ciertas disposiciones del Pacto Digital Global , este derecho funciona como un límite sustantivo. Cuando la integridad de la información se plantea como un objetivo independiente o primordial sin ese contrapeso, la disciplina jurídica del Artículo 19 se debilita. Categorías como «información inexacta», «contenido perjudicial» y «contenido que socava la estabilidad social», sin definir y sin estar sujetas a requisitos de proporcionalidad, tienen un historial documentado de aplicación al periodismo, la disidencia política y la actividad de la sociedad civil, tanto en contextos democráticos como autoritarios.
Cabe destacar que las disposiciones sobre integridad de la información del Pacto Digital Global (párrafos 33 y 34) plantean la lucha contra la desinformación como un objetivo de cooperación sin someterla explícitamente al criterio de necesidad y proporcionalidad, a pesar de que el párrafo 23(d) compromete por separado a los Estados a abstenerse de imponer restricciones a la información que sean incompatibles con el derecho internacional. La Resolución A/RES/76/227 de la Asamblea General de las Naciones Unidas, adoptada en diciembre de 2021, sentó un precedente más sólido al exigir explícitamente que las respuestas a la desinformación «promuevan y protejan la libertad de expresión de las personas y no la vulneren». El debate temático del Diálogo sobre la IA segura, fiable y digna de confianza, y el resumen de sus copresidentes, deberían aclarar que los compromisos del Pacto Digital Global en materia de integridad de la información deben interpretarse a la luz de este requisito.
5. ¿Cómo afectan las deficiencias de gobernanza en las áreas temáticas que ha seleccionado a su país, región o sector?
La organización El Futuro de la Libertad de Expresión (FoFS) se centra principalmente en la libertad de expresión en Estados Unidos y la Unión Europea. Ambas son democracias con protecciones relativamente sólidas para la libertad de expresión, pero ambas enfrentan desafíos. Analizamos estos desafíos en nuestro reciente informe, « Eso viola mis políticas: leyes de IA, chatbots y el futuro de la expresión» , que evalúa la IA y la libertad de expresión en seis jurisdicciones (Estados Unidos, la Unión Europea, Brasil, China, India y la República de Corea) en colaboración con destacados expertos locales.
En la Unión Europea , los requisitos de evaluación de riesgos sistémicos contemplados en la Ley de Servicios Digitales y la Ley de IA son motivo de especial preocupación. Se basan en disposiciones vagas que se prestan a abusos y centran el cumplimiento normativo en los riesgos en lugar de en los derechos.
En Estados Unidos , las políticas centradas en la "búsqueda de la verdad" y la IA "neutral" conllevan el riesgo de generar restricciones indebidas a la libertad de expresión y al acceso a la información, en parte debido a la vaguedad con la que se definen estos conceptos. La prohibición de la manipulación de contenido político mediante deepfakes en varios estados es otro motivo de preocupación.
En conjunto, estas disposiciones reflejan una brecha multilateral más amplia: cuando la integridad de la información se prioriza como objetivo sin el contrapeso de la legalidad, la necesidad y la proporcionalidad, los marcos de gobernanza generan presión para el cumplimiento, lo que lleva a restringir la libertad de expresión, aunque sea lícita y controvertida.
El corpus internacional de gobernanza de la IA no proporciona el fundamento normativo que requiere un marco de protección de derechos. Cuando los instrumentos multilaterales que orientan la formulación de políticas nacionales consideran la integridad de la información como un objetivo primordial sin fundamentarla en los estándares operativos del Artículo 19, esta brecha se propaga al diseño legislativo interno. El Diálogo, como foro universal que conecta los compromisos de la GDC con la práctica de la gobernanza de la IA, es el espacio idóneo para establecer que la legalidad, la necesidad y la proporcionalidad no son estándares opcionales en la gobernanza del contenido de la IA, sino el marco jurídico internacional aplicable en materia de derechos humanos.
6. ¿Qué papel puede desempeñar el Diálogo sobre IA para impulsar la cooperación internacional en materia de gobernanza de la IA?
Las poblaciones de la mayoría global no están representadas en los procesos que han dado lugar a algunos de los instrumentos normativos más importantes, como los Principios de IA de la OCDE y la Ley de IA de la UE . La participación universal del Diálogo crea las condiciones para corregir esta asimetría, siempre que el grupo de derechos humanos se comprometa de forma sustantiva y no meramente procedimental.
Los Estados miembros llegaron al Diálogo tras haberse comprometido, mediante el Pacto Mundial Digital a proteger la libertad de expresión en las medidas de mitigación de riesgos y a abstenerse de imponer restricciones a la información incompatibles con el derecho internacional. Estos compromisos constituyen una base común para el debate, que no debería requerir nuevas deliberaciones. El valor del Diálogo reside en aclarar cómo se aplican estos compromisos a la gobernanza de la IA en concreto: a los sistemas de moderación de contenidos, a la vigilancia mediada por IA y a los marcos de integridad de la información que los Estados están incorporando a su legislación nacional sobre IA. La Resolución A/RES/76/227 de la Asamblea General de las Naciones Unidas, de diciembre de 2021, estableció además que las respuestas a la desinformación no deben vulnerar la libertad de expresión. El Diálogo puede considerar esto como doctrina consolidada del sistema de las Naciones Unidas y analizar cómo se aplica a las decisiones sobre contenido mediadas por IA.
El Diálogo también puede encargar al Panel Científico que aporte pruebas sobre cómo la vigilancia y la gobernanza de contenidos basadas en IA afectan a la libertad de expresión en distintos contextos de gobernanza, sentando así las bases probatorias que requerirán los instrumentos posteriores. El informe de 2021 del Relator Especial sobre la libertad de expresión sobre la desinformación ( A/HRC/47/25 ) concluyó que las respuestas de los Estados y las empresas a la desinformación han sido «problemáticas, inadecuadas y perjudiciales para los derechos humanos» y pidió respuestas fundamentadas en el marco internacional de los derechos humanos. Esta conclusión sigue siendo directamente aplicable a la gobernanza de la IA y debería servir de base para el mandato del Panel.
7. ¿Sobre qué iniciativas, alianzas o mecanismos existentes debería basarse o con cuáles debería conectarse el Diálogo?
El Pacto Mundial Digital (2024) constituye la base más reciente y autorizada a nivel de las Naciones Unidas. El párrafo 30 compromete a los Estados a adoptar «medidas sólidas de mitigación de riesgos y reparación que protejan también la privacidad y la libertad de expresión». El párrafo 31(c) compromete a cooperar para «proteger la privacidad, la libertad de expresión y el acceso a la información, al tiempo que se abordan los daños». El párrafo 23(d) compromete a los Estados a abstenerse de «imponer restricciones a la libre circulación de información e ideas que sean incompatibles con las obligaciones contraídas en virtud del derecho internacional». En conjunto, estas disposiciones establecen que los Estados miembros aceptan la libertad de expresión como un límite estructural a las medidas de gobernanza de la IA, y no simplemente como un valor que deba reconocerse.
La Resolución A/RES/76/227 de la Asamblea General de las Naciones Unidas (diciembre de 2021), relativa a la lucha contra la desinformación para la promoción y protección de los derechos humanos y las libertades fundamentales, exigía explícitamente que las respuestas a la desinformación «promovieran y protegieran la libertad de expresión de las personas y no la vulneraran». Esta resolución es anterior a la mayoría de los instrumentos de gobernanza de la IA y establece la norma aplicable del sistema de las Naciones Unidas. El Diálogo debería considerarla parte del fundamento normativo sobre el que se basan sus debates sobre la integridad de la información.
El informe de 2021 del Relator Especial sobre la libertad de expresión relativo a la desinformación ( A/HRC/47/25 ) concluyó que las respuestas de los Estados y las empresas han sido problemáticas y perjudiciales para los derechos humanos, y pidió respuestas multidimensionales basadas en el marco internacional de los derechos humanos.
La Recomendación de la UNESCO sobre la ética de la IA (2021) es el instrumento más avanzado respaldado por los Estados miembros en materia de libertad de expresión e inteligencia artificial. Invoca el principio de proporcionalidad en el sentido de los derechos humanos, prohíbe el uso de sistemas de IA para la puntuación social o la vigilancia masiva, y exige a los Estados que garanticen que los actores de la IA respeten y promuevan la libertad de expresión en la moderación automatizada de contenidos.
La revisión de 2024 de la Recomendación de la OCDE sobre Inteligencia Artificial introdujo la formulación de que la mitigación de daños debe respetar la libertad de expresión, condicionando las medidas de integridad de la información al cumplimiento de este derecho. ISABELLE ANZABI es investigadora asociada en The Future of Free Speech. Publicado en Substack el 1 de mayo de 2026
No hay comentarios:
Publicar un comentario