✨︎ Resumen (TL;DR):
- La ONU y la UIT presentaron la Comisión Global AI for Good para establecer reglas internacionales de gobernanza en tecnología.
- Un informe científico advierte que la complejidad de la IA se duplica cada cuatro a siete meses, superando el control regulatorio actual.
- El panel de expertos señala amenazas críticas como desinformación masiva, fraudes automatizados, ciberataques y riesgos biológicos.
La Organización de las Naciones Unidas (ONU) y la Unión Internacional de Telecomunicaciones (UIT) presentaron la Comisión Global AI for Good. Este nuevo organismo de gobernanza reunirá a líderes políticos y directores de empresas tecnológicas con el objetivo de diseñar reglas internacionales para controlar el desarrollo acelerado de la inteligencia artificial.
La iniciativa estará copresidida por el presidente de Ruanda, Paul Kagame, y el CEO de Salesforce, Marc Benioff. La secretaría general de la UIT, Doreen Bogdan-Martin, ocupará la vicepresidencia permanente del organismo.
El anuncio coincide con la publicación del informe preliminar del Panel Científico Internacional Independiente sobre IA. Este documento es la primera evaluación global de los riesgos de esta tecnología y advierte que la velocidad de desarrollo del software supera por completo la capacidad de regulación de los gobiernos.
“La capacidad de la IA está superando tanto la comprensión científica como la habilidad de adaptación de los gobiernos”, declaró Yoshua Bengio, copresidente del panel científico de 40 miembros. “Con la creciente evidencia de comportamientos engañosos por parte de la IA, la ciencia actualmente no puede garantizar que, a medida que aumenten las capacidades, la IA no causará daños catastróficos, ya sea por sí misma o debido a usuarios maliciosos”.
El crecimiento exponencial y la IA agéntica
El informe científico detalla que la complejidad de las tareas que resuelve la inteligencia artificial se duplica en periodos de cuatro a siete meses. Los sistemas actuales ya muestran un razonamiento de nivel experto en áreas como matemáticas y ciencias, además de acelerar el desarrollo de nuevos medicamentos.
A corto plazo, el panel anticipa una transición hacia sistemas de IA agéntica, definidos como programas autónomos capaces de ejecutar tareas complejas en el mundo real. No obstante, el crecimiento de estos modelos podría verse limitado en el futuro cercano por la escasez de energía y datos disponibles para su entrenamiento.
El secretario general de la ONU, António Guterres, urgió a los gobiernos a tomar medidas inmediatas frente a este panorama. “El mundo no puede gobernar lo que no puede entender”, afirmó. “El potencial es grandioso, pero los riesgos son reales y el costo de esperar sigue aumentando”.
Una regulación fragmentada en el escenario global
La presentación de la comisión ocurre antes de una semana clave para el sector en Ginebra, Suiza. El 6 y 7 de julio se llevará a cabo el Diálogo Global de la ONU sobre Gobernanza de la IA, seguido por la Cumbre Global AI for Good del 7 al 10 de julio, organizada por la UIT en colaboración con más de 50 agencias de la ONU y el gobierno suizo.
Los científicos identificaron que la fragmentación regulatoria es uno de los mayores desafíos actuales. Muchos países carecen de la infraestructura técnica para evaluar sistemas avanzados de IA, lo que los obliga a depender de tecnologías que no comprenden ni pueden controlar.
Entre las principales amenazas de seguridad detectadas por el panel destacan la generación masiva de desinformación, fraudes automatizados, ciberataques a gran escala y el desarrollo potencial de amenazas biológicas si la tecnología se utiliza con fines maliciosos.
