Artificial Intelligence governance. A view from UNESCO

1. Hacia una Inteligencia Artificial ética y sostenible
Una visión desde UNESCO
Angel Melguizo, Asesor UNESCO sobre AI y Ética
M360 LATAM – Ciudad de México, 1 junio 2023

2. Angel Melguizo, SHS Advisor, UNESCO 2

3. Angel Melguizo, SHS Advisor, UNESCO 3

4. Angel Melguizo, SHS Advisor, UNESCO 4

5. Going digital: La recuperación plena será digital o no será
5
Fuente: Elaboración propia, empleando
diferentes olas de proyecciones del FMI, y
AlphaBeta (2020), Digital Sprinters
85
90
95
100
105
110
115
120
125
2015 2016 2017 2018 2019 2020 2021 2022 2023 2024 2025
Proyecciones de actividad economica en Latinoamerica
(Nivel de PIB 2019=100)
Tendencia pre-covid FMI_Junio2020
FMI_Abril2022 Sprint digital
Angel Melguizo, SHS Advisor, UNESCO

6. Tres pilares y áreas de acción: conectividad, habilidades y regulación
6
Conectividad Skills
Regulación inteligente
Moderna: nuevas barreras de entrada
y competencia 4.0
Neutral: convergencia de servicios y
tecnologías
Innovadora: known unknonws y
sandboxes
Global: iniciativas publicas
internacionales/regionales &
iniciativas de industria & reglas
nacionales
0
50
100
150
200
250
300
350
Latin America Asia & Pacific Europe US
Inversión en telecomuncaciones (pc USD)
2010 2019 2020
Angel Melguizo, SHS Advisor, UNESCO
+ conciencia ética

7. Tres principales argumentos falaces en contra de regular IA
• La regulación matará la innovación
• Mi desarrollo de IA es demasiado complicado para que el regulador lo
entienda
• No toda la IA tiene riesgos
• Los riesgos derivados del uso de la mía son muy bajos
• Hay riesgos, pero compensaré sus consecuencias negativas después
• Laissez-faire
Angel Melguizo, SHS Advisor, UNESCO

8. Tres principales argumentos falaces en contra de regular IA
• La regulación matará la innovación
• Mi desarrollo de IA es demasiado complicado para que el regulador lo
entienda
• La buena regulación y la buena institucionalidad fomentan la inversión y la
innovación
• No solo hay que regular, sino invertir en capacidad e institucionalidad
Angel Melguizo, SHS Advisor, UNESCO

9. Tres principales argumentos falaces en contra de regular IA
• No toda la IA tiene riesgos
• Los riesgos derivados del uso de la mía son muy bajos
• Un mismo desarrollo con IA puede usarse para múltiples fines. Además, la IA ha
sorprendido constantemente incluso a sus creadores (por su impacto y su
velocidad).
• Los consumidores / ciudadanos siempre encuentran usos no previstos
Angel Melguizo, SHS Advisor, UNESCO

10. Tres principales argumentos falaces en contra de regular IA
• Hay riesgos, pero compensaré sus consecuencias negativas después
• Laissez-faire
• Hay riesgos que, de materializarse, son muy costosos; o directamente no se
pueden compensar
• Una buena regulación reduce incertidumbre
Angel Melguizo, SHS Advisor, UNESCO

11. ¿Que decimos desde UNESCO?
• IA como uno de los desarrollos tecnológicos más prometedores para afrontar los
retos del desarrollo
• Prerrequisito: cierre de brechas de conectividad y habilidades
• Punto de no retorno: IA como tecnología de uso general (general purpose
technology), que requiere un desarrollo sostenible y ético.
• Contexto: cultura, historia y valores
• No es realista una pausa, pero si avanzar hacia una regulación global ex ante
basada en Recomendación UNESCO
Angel Melguizo, SHS Advisor, UNESCO

12. Recomendación de UNESCO sobre la Ética de IA: principios, acciones y herramientas
12
Acciones - implementación
Protección y revisión de datos & auditoria de algoritmos
No uso para vigilancia o social scoring
No personalidad legal (responsabilidad)
Lucha activa contra cambio climático
Angel Melguizo, SHS Advisor, UNESCO
Principios
Política de
Datos
Género Desarrollo y
cooperación
internacional
Medio
ambiente y
ecosistemas
Salud y
bienestar
social
Comunicación
e información
Educación e
investigación
Cultura

13. Profundizando en los desafíos hacia una IA eficiente y ética: algunas preguntas clave
13
• Cómo de representativas son las bases de datos empleadas?
• Cómo se están entrenando los modelos, en particular para diferenciar entre
correlación y causalidad?
• Cómo se están evitando los sesgos conscientes e inconscientes? O, de hecho, se
amplifican?
• Cómo de inclusivos son los equipos de programación?
Angel Melguizo, SHS Advisor, UNESCO

14. ¿Que estamos haciendo desde UNESCO? Walk the talk con países y empresas
• Women4EthicalAI
• AI Experts without borders
• Trabajo con 40 países implementando recomendación en 2023-24 con apoyo de
Japon, McGovern Foundation y UE
• UNESCO AI Readiness Assessment - Brasil, Chile, Costa Rica, y Uruguay
• Consejo Empresarial con Telefónica y Microsoft, y GSMA; alianza público-privada sobre
regulación de IA, capacidades e institucionalidad
• En América Latina y el Caribe: Ministerial AI (con Gobierno de Chile y CAF) - buenos
usos de IA en empleo, salud, futuro del trabajo, impuestos
Angel Melguizo, SHS Advisor, UNESCO

15. ¿De qué lado quieres estar?
• América Latina y el Caribe están enfrentando unos nuevos choques económicos y
sociales, apenas cuando se sale del impacto de la pandemia
• La apuesta por una transformación digital debe ser sostenible en sus dimensiones
política, social y medioambiental
• No hay una tercera vía – se precisa una institucionalidad global para la IA
• Sector privado debe ser socio por convicción (ESG) o y/o negocio (inversores,
fidelización consumidores)
• Bienvenidos https://www.unesco.org/en/artificial-intelligence/recommendation-
ethics
Angel Melguizo, SHS Advisor, UNESCO

16. Angel Melguizo, SHS Advisor, UNESCO 16
Ensure that AI remains under human control, Microsoft 2023

17. Más sobre la Recomendación de la UNESCO sobre la ética de la IA :
https://es.unesco.org/artificial-intelligence/ethics
Sector de Ciencias Sociales y Humanas :
https://es.unesco.org/themes/aprender-convivir
Muchas gracias