La actividad se desarrolló en español y congregó a una audiencia interesada en comprender cómo afrontar riesgos y desafíos éticos graves que surgen del desarrollo acelerado de la Inteligencia Artificial. Para ello, contamos con la participación de Gabriela Ramos, una de las personalidades mexicanas con más prestigio y experiencia en la esfera internacional, tras una larga carrera en la que ha ocupado importantes cargos en organismos como el servicio exterior mexicano o la OECD. Durante la sesión, Gabriela Ramos presentó un análisis detallado de los elementos clave que permiten comprender el impacto ético de la IA. Se destacó el papel clave de la UNESCO en velar por el desarrollo ético de la ciencia y la tecnología desde hace 20 años, siempre desde un enfoque multidisciplinar que permita adaptar las recomendaciones a políticas públicas procedentes de muy diversos ámbitos. 

Gabriela Ramos comenzó su intervención señalando el desarrollo de la IA como uno de los temas clave de la actualidad, al tratarse de una revolución tecnológica que no solo afecta a todos los ámbitos, sino que además lo hace a una velocidad sin precedentes. Es de ahí que nace la necesidad de abordar cómo canalizar este tipo de tecnología para lograr sociedades más justas y equitativas, asegurando que no haya comunidades que se queden al margen ni una gran concentración de capacidades tecnológicas en la utilización de estas herramientas en manos de unos cuantos. 

Gabriela Ramos señala que una de las claves para comprender el impacto de la IA está en su velocidad récord de adopción. El avance sin precedentes en su desarrollo se sustenta en inversiones millonarias que no todas las empresas se pueden permitir, por lo que la capacidad competitiva para amplificar estas herramientas se concentra en un número limitado de compañías de alta capacidad financiera. Ramos también destaca que adoptar la IA en procesos sofisticados no solo requiere un esfuerzo de inversión, sino que también puede precisar el aumento de las competencias de aquellas empresas que quieran utilizar esta herramienta. Es por todo ello que en la actualidad muchas pequeñas y medianas empresas son incapaces de utilizar la IA en toda su extensión. 

Aun así, la implementación de dichas herramientas se establece como una prioridad para la mayoría de los directivos en tecnologías de la información (67%), con un 33% considerándola una prioridad máxima. Además, más de la mitad cree que estas tecnologías cambiarán las normas del juego, aunque también hay una mayoría a quienes les preocupa que puedan conllevar riesgos para la seguridad (79%), o que otorguen resultados sesgados (73%). 

Aunque riesgos como la ciberseguridad, la mala utilización y la desinformación son destacados como los grandes temores que genera el desarrollo de esta tecnología, Gabriela Ramos señala otros que reciben menor visibilidad. Por ejemplo, el uso diario de resultados generados por IA para apoyar decisiones a nivel gubernamental, académico o privado podría amenazar la convivencia social, al abrir la puerta a despojar de derechos sociales a partes de la población a partir de algoritmos sesgados o poco equilibrados. Otro desafío importante surge a nivel de género, con la IA generando una brecha tecnológica entre hombres y mujeres al ampliar estereotipos, generar sesgos algorítmicos en razón de género, o crear baches para el emprendimiento de las mujeres en relación a esta tecnología. 

A estos desafíos derivados del desarrollo de la IA se anteponen narrativas que han impedido mayores avances en su regulación, como la concepción de que la regulación coarta la innovación, o que los asuntos relativos a la IA son demasiado complejos y deben ser manejados únicamente por personal especializado. A pesar de ello, Gabriela Ramos reconoce una mayor concienciación por parte de los gobiernos respecto a la necesidad de desarrollar marcos de regulación mucho más sólidos. Ramos señala el incremento de los proyectos de ley en muchos países (de 1 en 2016 a 37 en 2022), así como de procedimientos legislativos mundiales con relación a la IA (6.5% más desde 2016). Se trata de un avance significativo, aunque muchas de estas legislaciones se centren en la aplicación práctica de la IA en sectores específicos, en lugar de en su regulación general a nivel algorítmico. 

Ramos destaca también el papel de la UNESCO como primera organización internacional en lograr que 193 países firmaran una resolución sobre la ética de la IA. Dicha resolución fue a su vez impulsada por un grupo internacional de expertos en diversas materias (matemáticos, filósofos, historiadores, economistas etc.), lo que destaca el carácter multidisciplinar de la regulación, así como su foco en el contenido humano. De esta forma, la resolución no se centra en la tecnología, sino en cuál debe ser el objetivo y el impacto de esta. Esto pasa por una definición exhaustiva de los valores a los que debe adherirse la tecnología, extrapolables a principios prácticos que los desarrolladores, gobiernos y utilizadores deben tener en cuenta al interactuar con la IA, como la proporcionalidad de su uso, la garantía de la seguridad y la protección de los usuarios, o el derecho a la intimidad y la protección de datos. Dichos valores pueden, a su vez, ser trasladados a recomendaciones muy específicas a nivel de políticas públicas. 

Gabriela Ramos señala el papel fundamental de los foros regionales y globales de la ética de la IA, que permiten compartir experiencias en esta materia, incluso a nivel de empresa privada o enfocándose en áreas específicas como la de género. Finalmente, concluye mencionando el pacto digital global impulsado por la ONU, que lleva la narrativa un paso más allá para asegurar que la IA es sólida e inclusiva y que los países rezagados en su utilización están recibiendo el apoyo que necesitan. Según Ramos, la IA puede ser una herramienta fundamental para alcanzar los ODS, de ahí que la cuestión no sea solo su regulación, sino también el apoyo en la inversión para que los desarrollos en ella sean sólidos y accesibles.

La sesión concluyó con un debate donde los participantes pudieron plantear preguntas sobre los temas tratados. Este intercambio subrayó la relevancia de comprender mejor la importancia del marco internacional al abordar los desafíos éticos procedentes del desarrollo de la IA.

Lucía Rodríguez