Con la presente Carta sobre Inteligencia Artificial, el Ministerio Federal de Relaciones Exteriores establece un marco de referencia que asegure un uso de la inteligencia artificial (IA) basado en derechos y valores y centrado en el ser humano. La Carta será también el telón de fondo a partir del cual definamos nuestro compromiso multilateral y bilateral en la política exterior y de seguridad respecto al uso civil de la IA.

El empleo de la IA en el Ministerio Federal de Relaciones Exteriores nos brinda la posibilidad de servir de forma eficaz a la política exterior, europea y de seguridad alemanas. En nuestro papel de usuarios, desarrolladores y reguladores de la IA, la salvaguardia y protección de los derechos fundamentales y humanos es la prioridad. Debido a los riesgos que conlleva el uso de las soluciones aportadas por la IA, estas deben regularse de forma segura, basándose en valores y en función del contexto.

El marco en el que se encuadran nuestros valores se concretiza en ocho principios rectores que incorporan debates y estándares tanto internacionales como nacionales y que se condicionan mutuamente. Asimismo, está previsto redactar documentos adicionales que servirán de orientación para el uso de la IA en el ministerio. El Ministerio Federal de Relaciones Exteriores abordará regularmente este tema con actores de los ámbitos político, económico, científico y de la sociedad civil.

1. La IA es una política exterior basada en valores

En la concepción de la política exterior, europea y de seguridad alemanas, el Ministerio Federal de Relaciones Exteriores se compromete, en calidad de actor multilateral y bilateral, a desarrollar una política de IA fundamentada en valores. Sobre la base de una serie de documentos y principios internacionales (como los acordados, por
ejemplo, en la UE, el Consejo de Europa, la OCDE y la UNESCO) defendemos a todos los niveles el desarrollo, el establecimiento y la puesta en práctica de normas y estructuras de gobernanza que estén en consonancia con nuestros valores y objetivos (Reglamento de Inteligencia Artificial de la UE, Convenio Marco sobre Inteligencia Artificial del Consejo de Europa, proceso de Hiroshima del G7, el panel de expertos de las Naciones Unidas sobre IA, Pacto Digital Mundial, etc.). Para promover eficazmente a nivel internacional estos objetivos y valores cooperamos en pie de igualdad con socios afines. También contribuimos a desarrollar y ampliar competencias en el sector digital y de la IA a nivel internacional, rigiéndonos por el principio del aprendizaje recíproco. Partiendo de estrategias ya existentes, a la hora de actualizar documentos internacionales y nacionales (por ejemplo, la Estrategia Digital Internacional del Gobierno Federal) nos centramos
en la coherencia. 

2. Protección de los derechos fundamentales y humanos

Respetamos, protegemos y promovemos los derechos fundamentales y humanos consagrados en documentos internacionales y en nuestra Ley Fundamental, en particular la dignidad humana, la igualdad de todas las personas ante la ley y la prohibición de discriminación, el derecho a la autodeterminación informativa, el derecho al secreto de las comunicaciones, el respeto a la privacidad, la protección de datos, y todos los derechos fundamentales que pueden verse afectados por el uso de la IA y las nuevas tecnologías.

3. Protección del clima y del medio ambiente

Abogamos por un uso sostenible de la IA. Por un lado, esto significa que el desarrollo y el empleo de la IA se lleven a cabo respetando los recursos y haciendo un uso eficiente de la energía (tecnologías verdes) y, por otro, que para proteger el clima y el medio ambiente se incluya el uso de soluciones aportadas por la IA. La Estrategia de Política Climática Exterior nos sirve aquí como referente.

4. Autonomía decisoria humana: control y regulación 

El planteamiento que perseguimos está basado en el riesgo cuanto más riesgo conlleve el uso de la IA, mayor habrá de ser la intervención reguladora humana. El control y la regulación humanos garantizan tanto la autonomía decisoria humana como una actuación administrativa transparente y segura desde el punto de vista legal. Hacer un uso responsable de la IA significa apoyar las decisiones humanas de la manera más comprensible posible, pero no sustituirlas. Por tanto, empleamos la IA como herramienta de apoyo a la hora de tomar decisiones humanas. Esto incluye informar de forma activa a los usuarios y usuarias acerca de las distintas funcionalidades del sistema de IA con el que interactúan. El derecho a la decisión humana y a tener diferentes posibilidades de objeción se deberá garantizar en todo momento. Para ello es primordial que los usuarios y usuarias dispongan de vías apropiadas que les permitan intervenir o interponer una queja de manera sencilla y accesible.

5. Seguridad: enfoque basado en los riesgos y la resiliencia 

Hacemos un uso seguro de la IA. Para que esto sea así hay que proteger tanto los datos en los que se basa como el sistema en sí mismo de ataques internos y externos (seguridad de la información) y descartar el uso indebido o la manipulación de los datos de entrenamiento y de los datos reales (seguridad de los datos). Debido a la creciente interconexión y a un aumento de las amenazas digitales, nos estamos centrando de forma particular en la seguridad de la información y en la protección de la información clasificada. El punto de partida son regulaciones federales o ministeriales tales como la estrategia de digitalización, la estrategia de seguridad de la información o la estrategia TI.

6. Calidad:imparcialidad y fiabilidad

El empleo de la IA ha de ser fiable, es decir, que su tasa de errores sea baja y sus resultados reproducibles, y estar, además, libre de discriminación. Partiendo de las Directrices para una Política Exterior Feminista y del principio fundamental de la inclusión estructural de todos los grupos sociales en que se basan, adoptar en el ámbito de la IA y de los datos un enfoque que se centre en la no discriminación es una condición ineludible para asegurar la alta calidad de los datos y su procesamiento. Por ello, es esencial que en todo el ciclo de vida de la IA se incluyan múltiples perspectivas y actores (reducción de distorsiones y puntos ciegos).

7. Competencias y prácticas de uso: enfoque exploratorio y gestión autónoma

Establecemos condiciones marco seguras para que en el Ministerio Federal de Relaciones Exteriores la exploración y el uso de las soluciones aportadas por la IA sean proactivos, con el objetivo de promover la innovación en el ministerio. Las soluciones proporcionadas por la IA pueden simplificar y acelerar los procesos existentes, apoyar la toma de decisiones con información procesada automáticamente, liberar recursos y crear nuevas posibilidades de actuación. En cada nueva ocasión habrá que sopesar entre el entusiasmo por experimentar con la IA y la conciencia de sus riesgos y encontrar un equilibrio responsable entre ambos aspectos. Un uso profesional y abierto de la IA implica capacitar a las partes interesadas en el desarrollo de competencias en materia de IA y de datos (por ejemplo, mediante la formación continua), emplear métodos de trabajo modernos, así como fomentar unas prácticas de uso y una cultura de innovación abiertas a la IA.

8.Funcionamiento y toma de decisiones: explicabilidad y fiabilidad

De la forma más clara y comprensible posible, expondremos a todas las partes interesadas cómo funcionan los sistemas de IA y cómo llegan a la toma de decisiones, a fin de que las actuaciones administrativas sean transparentes y seguras desde el punto de vista legal. Para que los sistemas de IA sean explicables y fiables desarrollaremos los sistemas de IA de tal modo que los usuarios y usuarias puedan entender de la mejor manera posible cómo funcionan y cómo se generan los resultados. Que un modelo de IA (aún) no reúna los requisitos, será algo que solo podrán determinar los usuarios y usuarias con conocimientos técnicos, lo cual hace indispensable que los sistemas de IA sean comprensibles. Para ello son importantes los planteamientos de código abierto.