La UNESCO pone fin a la eterna ausencia

Se redactó el Primer acuerdo mundial sobre la ética de la Inteligencia Artificial

El pasado 24 de noviembre de 2021, en su Asamblea General n°41, la Organización de las Naciones Unidas para la Educación, Ciencia y Cultura, UNESCO, – de la cual nuestro país es miembro desde 1948- aprobó (con el apoyo de 193 países) la primera recomendación  mundial sobre ética e Inteligencia Artificial.

Este hecho histórico, no sólo es trascendental por no tener antecedentes, es decir, por ser el primer modelo a seguir para la comunidad internacional en la materia, sino también porque hace no mucho tiempo, más precisamente el 3 de diciembre de 2018, Estados Unidos de América dejó de formar parte oficialmente de la UNESCO. Dicha decisión, conforme informaron los voceros del país, fue tomada por “el continuado sesgo contra Israel (…)” por parte de la UNESCO, a la vez que manifestaron que Estados Unidos seguiría cooperando como “observador permanente» del organismo para «contribuir con las opiniones, perspectivas y conocimiento estadounidense«. Esta salida no es menor si consideramos que el gigante del norte destina gran parte de su patrimonio al avance tecnológico, en particular al desarrollo de tecnologías de procesamiento de la información, dentro de las cuales se destaca el “machine learning”. 

Podría ser interesante para exaltar aún más la importancia de este hito histórico, recordar que la primera vez que se hicieron famosas las palabras “inteligencia artificial” fue en 1956 por el matemático John McCarthy, durante una conferencia de Darmouth, es decir hace tan sólo 65 años.

Luego de comprender el valor de este acontecimiento, y a pesar de las diferencias que coexisten dentro de la comunidad científica respecto de si se ha evidenciado un verdadero avance de la IA o si aún sigue siendo un lejano sueño, esta primera aproximación a regular una de las tecnologías que más admiración y miedo genera en la sociedad, es una pieza clave en el desarrollo de los próximos derechos internacionales humanos y no humanos.

En el texto de la UNESCO, en primer término se destaca una serie de valores que los Estados y los actores de cada etapa de desarrollo de la IA deben respetar. Éstos por supuesto que son todos aquellos vinculados al respeto por la dignidad humana y a la protección de los derechos humanos.

El texto continúa con unas breves menciones sobre la importancia de garantizar la prosperidad del medio ambiente y la diversidad e implementación de políticas de inclusión en la selección de participantes en el proceso de vida de las IA, culminando este apartado con la promoción de sociedades pacíficas y justas para garantizar su armoniosa interacción.

Luego, nos encontramos con aquellos principios que deberán regir la temática, entre los que se encuentran: I. proporcionalidad e inocuidad, vinculados a la justificación de la elección de IA y su método elegido, II. seguridad, principio orientado a la prevención de riesgos y reducción de vulnerabilidades, III. equidad y no discriminación, con el objtetivo de garantizar el acceso digital y su educación a toda la población y por supuesto,  reducir la obtención de resultados discriminatorios o sesgados a lo largo del ciclo de vida de los sistemas de IA, IV. sostenibilidad, como una manera de emplear la IA para construir sociedades sustentables y sostenibles en el tiempo,  V. la intimidad y protección de datos, vinculados desde ya con la gestión de los datos personales y el respeto por la privacidad del ser humano, VI. transparencia y explicabilidad, a fin de conocer qué decisiones se toman diariamente basadas en algoritmos IA y cuales son sus procesos, VII. responsabilidad y rendición de cuentas, para la elaboración de mecanismos de supervisión, auditoría y evaluación de impacto, en lo atinente al ciclo de vida de la IA, VIII. sensibilización y educación, de la mano con el principio de transparencia y explicabilidad, expone la necesidad de una educación abierta y accesible para todos los ciudadanos, IX. gobernanza y colaboración adaptativas y de múltiples partes interesadas, a través de la cual se reconoce al derecho internacional y la soberanía de cada país como los reguladores de los datos y garantizadores del respeto a la autonomía de gestión de aquellos.

Análisis aparte merece el principio de X. “Supervisión y decisión humanas”, en el cual no se deja lugar a interpretaciones al establecer lo siguiente: “Los Estados Miembros deberían velar por que siempre sea posible atribuir la responsabilidad ética y jurídica, en cualquier etapa del ciclo de vida de los sistemas de IA, así como en los casos de recurso relacionados con sistemas de IA, a personas físicas o a entidades jurídicas existentes. La supervisión humana se refiere, por tanto, no sólo a la supervisión humana individual, sino también a la supervisión pública inclusiva, según corresponda.” Y agrega que la decisión de ceder el control no impedirá que recaiga la responsabilidad en un ser humano.

Este es un importante avance en el proceso de positivización de normativas claves para todo lo que vendrá indefectiblemente de la mano del desarrollo de la Inteligencia Artificial y su vínculo con el ser humano. 

Si bien el instrumento analizado no deja de ser una Recomendación, es un empujón necesario para aquellos Estados que siguen procrastinando en la normativización de uno de los desafíos tecnológicos más importantes del siglo XXI.

Por Daniela Minnetti

Hacé clic en «Ver PDF» para acceder al documento oficial de la UNESCO