El reto de gobernar la IA para la humanidad

La IA está revolucionando la forma en que vivimos y trabajamos, y nos ofrece oportunidades sin precedentes para el progreso económico y social. Sin embargo, la aceleración de los avances en este campo también trae consigo desafíos complejos que requieren una atención global coordinada. Hasta ahora, la implementación de regulaciones dispares sobre IA en diferentes regiones del mundo ha generado inconsistencias en normas y estándares. Esta falta de armonización no solo crea obstáculos para la innovación y el comercio internacional, sino que también dificulta la gestión eficaz de los riesgos asociados al despliegue de la IA, como la desinformación, la privacidad de datos, los sesgos algorítmicos y la posible destrucción masiva de empleo.

Ante este panorama, surge la necesidad imperiosa de establecer un sistema de gobernanza global de la IA que aborde de manera integral los retos sociales y económicos que plantea esta tecnología emergente. En este contexto, el recientemente presentado informe Governing AI for Humanity, elaborado por el Órgano Asesor de Alto Nivel sobre Inteligencia Artificial del secretario general de las Naciones Unidas, ofrece un análisis exhaustivo de las oportunidades y riesgos de la IA y propone recomendaciones para su gobernanza a nivel internacional, destacando la necesidad de establecer marcos regulatorios, éticos y colaborativos para asegurar que el desarrollo y la implementación de la IA beneficien a toda la humanidad, mitigando los riesgos potenciales y abordando las desigualdades emergentes.

Hacia un modelo global de gobernanza de la IA

Entre otros mecanismos para facilitar que toda la humanidad se beneficie de los avances en IA, el informe recomienda establecer un panel científico internacional sobre IA que reúna a expertos de diversas disciplinas y antecedentes. Este panel trabajaría con organizaciones e iniciativas globales para recopilar, analizar y promover la investigación, y publicaría un informe anual sobre las capacidades, oportunidades, riesgos e incertidumbres relacionadas con la IA. Al destacar áreas de consenso e identificar temas que requieren mayor estudio, este panel podría mejorar la transparencia e informar los debates políticos y la toma de decisiones. Además, podría realizar investigaciones enfocadas en asuntos específicos, como el uso de la IA para descubrir nuevos materiales o tratar enfermedades desatendidas.

El informe también recomienda el lanzamiento de un diálogo político intergubernamental y multiactor sobre la gobernanza de la IA, que se llevaría a cabo dos veces al año al margen de las reuniones ya existentes en las Naciones Unidas. Su propósito sería compartir mejores prácticas en gobernanza de IA que fomenten el desarrollo mientras promueven el respeto, la protección y el cumplimiento de todos los derechos humanos. Esto incluye aprovechar oportunidades y gestionar riesgos, así como promover entendimientos comunes sobre la implementación de medidas de gobernanza de IA por parte de desarrolladores y usuarios del sector público y privado, para mejorar la interoperabilidad internacional en este ámbito.

En tercer lugar, reconociendo que muchos países necesitan mejor acceso a recursos esenciales de IA—como capacidad de computación, conjuntos de datos de entrenamiento inclusivos y representativos, talento calificado y un marco global de datos—el informe también recomienda establecer un fondo global para la IA (Global Fund for AI). Gobernado por un órgano independiente y financiado mediante aportaciones dinerarias y en especie de fuentes públicas y privadas, este fondo apoyaría el intercambio de datos, la construcción de infraestructura digital, el fomento de ecosistemas locales de IA y la promoción del emprendimiento.

Otra propuesta es la creación de una red de desarrollo de capacidades en IA para ampliar el acceso global al talento y la experiencia, y avanzar hacia los Objetivos de Desarrollo Sostenible (ODS). Esta red conectaría un conjunto de centros de desarrollo de capacidades, afiliados a las Naciones Unidas, que pondrían a disposición de los actores clave conocimiento experto, capacidad de computación y datos de entrenamiento en IA.

Por otro lado, para garantizar la estandarización, la alineación regulatoria y enfoques coordinados en ética y seguridad, se recomienda establecer un intercambio de estándares de IA y un marco global de datos sobre IA para discusiones sobre la gobernanza de la IA. Estas iniciativas se basarían en el trabajo de las agencias de la ONU y otros esfuerzos internacionales, promoviendo la interoperabilidad y la colaboración transfronteriza.

Finalmente, para lograr una coordinación efectiva de todos estos mecanismos, se propone establecer una “oficina de la IA” que reporte directamente al secretario general de las Naciones Unidas. Esta oficina, que el informe define como “ligera y ágil”, actuaría como un centro neurálgico, conectando e integrando diversas iniciativas institucionales. Al vincular esfuerzos liderados por organizaciones regionales y otras partes interesadas, podría reducir los costes de cooperación y agilizar la acción colectiva.

Obstáculos y fuerzas contrarias a una gobernanza global de la IA

La iniciativa es encomiable, sin embargo, debemos ser conscientes de los importantes obstáculos y fuerzas contrarias que pueden dificultar la implementación del modelo propuesto en el informe. 

En primer lugar, existen intereses nacionales divergentes. Cada país tiene sus propias prioridades y estrategias en cuanto al desarrollo y uso de la IA. Las potencias tecnológicas como Estados Unidos y China y también la Unión Europea, buscan mantener o alcanzar la supremacía en este campo, lo que puede generar reticencia a ceder soberanía o a adoptar regulaciones que perciban como limitantes para su avance tecnológico.

Esta situación se agrava por la cuestión de la soberanía y autonomía reguladora. Los gobiernos pueden mostrarse reacios a aceptar un marco regulatorio global que interfiera con su autonomía nacional. La idea de que una entidad internacional tenga influencia sobre las políticas internas puede generar resistencia, especialmente en temas estratégicos como la IA.

La competencia geopolítica y la desconfianza entre naciones también obstaculizan la cooperación internacional. Si los países sospechan que otros no cumplirán con las regulaciones o que podrían obtener ventajas desleales, es menos probable que se comprometan con un modelo global. La falta de confianza puede dificultar la construcción de acuerdos sólidos y efectivos.

En este sentido, las consideraciones de seguridad nacional añaden otra capa de complejidad. La IA tiene aplicaciones militares y de seguridad sensibles. Los países pueden resistirse a compartir información o someterse a regulaciones que puedan comprometer sus capacidades de defensa o seguridad interna, lo que limita la cooperación internacional en estas áreas.

Además, el rápido avance tecnológico de la IA supera a menudo la capacidad de los legisladores para regularla adecuadamente. Este desfase puede hacer que las regulaciones queden obsoletas rápidamente o que no aborden eficazmente los nuevos desafíos que surgen. La velocidad de la innovación requiere marcos reguladores flexibles y adaptativos, lo cual es difícil de lograr a nivel global.

Por otro lado, los intereses del sector privado también juegan un papel significativo. Las grandes corporaciones tecnológicas pueden oponerse a regulaciones que consideren restrictivas para la innovación o perjudiciales para sus modelos de negocio, y aprovechar su poder económico y capacidad de lobby pueden dificultar la implementación de regulaciones más estrictas.

Existen también preocupaciones sobre innovación y flexibilidad. Como estamos viendo en relación con el reglamento de la IA de la Unión Europea, algunos argumentan que regulaciones estrictas podrían inhibir la innovación y reducir la competitividad económica. Este temor puede llevar a una resistencia contra regulaciones percibidas como demasiado restrictivas, especialmente en industrias emergentes donde la flexibilidad es clave para el desarrollo.

Finalmente, el temor a la pérdida de ventajas competitivas puede hacer que los países líderes en investigación y desarrollo de IA sean reacios a adoptar un modelo global. Pueden temer que las regulaciones internacionales nivelen el campo de juego, permitiendo a otros países alcanzarlos o superarlos, afectando su posición dominante en el mercado global.

El camino por recorrer

Las buenas noticias son que estos desafíos no son insuperables, pero requieren un enfoque realista y colaborativo. Para empezar, es esencial que los actores globales reconozcan que los riesgos de una IA sin regulación adecuada trascienden fronteras y afectan a toda la humanidad, y que la cooperación internacional, aunque difícil, es necesaria para abordar problemas que son inherentemente globales.

De ahí que el informe concluya con una llamada urgente a todos los actores involucrados para que trabajen juntos en la construcción de ese modelo global de gobernanza de la IA. Este modelo, entre otros beneficios, debería contribuir a que los avances tecnológicos nos impulsen hacia un futuro laboral inclusivo, equitativo y sostenible, en lugar de llevarnos a un escenario distópico. La clave reside en abordar proactivamente los cambios, estableciendo marcos éticos y regulatorios sólidos, y asegurando que los beneficios de la IA se distribuyan de manera justa en toda la sociedad.

Debemos entender que la gobernanza efectiva de la IA no es solo una cuestión tecnológica o económica, sino un imperativo humano que requiere visión, cooperación y compromiso con los valores compartidos de dignidad, justicia y bienestar para todos. Reconocer y hacer frente a los obstáculos y fuerzas contrarias es parte esencial de este proceso. 

Ser capaces no es una cuestión de posibilidad, sino de voluntad. Solo mediante un esfuerzo colectivo y decidido podremos superar las barreras y construir un futuro en el que la IA sirva verdaderamente a la humanidad. El camino hacia una gobernanza global de la IA será, sin duda, complejo, pero es un desafío que debemos afrontar juntos, con convicción y cooperación. Alinear nuestros esfuerzos, abrazar valores compartidos y actuar con visión de futuro nos permitirá asegurar que la IA se convierta en una fuerza para el bien, una que empodere a toda la humanidad y nos conduzca hacia un futuro marcado por la inclusión, la equidad y la sostenibilidad.

+++

Foto Niels Huenuerfuest