✨︎ Resumen (TL;DR):
- Más de 400 científicos, incluidos Geoffrey Hinton y Yoshua Bengio, pidieron el 13 de octubre de 2026 un organismo internacional con estándares de contención para la IA con capacidades cibernéticas.
- La propuesta recomienda aislar inicialmente estos modelos y registrar los fallos de contención para que los reportes terminen siendo públicos.
- El organismo aún no tiene sede, financiación ni calendario, mientras un acuerdo de la Casa Blanca con seis empresas mantiene medidas voluntarias sin un mecanismo formal de cumplimiento.
Más de 400 científicos, entre ellos Geoffrey Hinton y Yoshua Bengio, pidieron el 13 de octubre de 2026 un organismo internacional que establezca estándares de contención para la inteligencia artificial con capacidades cibernéticas. La carta busca que los fallos se registren y que los incidentes terminen siendo públicos, además de exigir medidas inmediatas a las organizaciones que desarrollan, prueban o despliegan estos modelos.
La propuesta plantea que el organismo se establezca en consulta con gobiernos y expertos en IA y ciberseguridad. La carta no fija una sede, un esquema de financiación ni un calendario para crearlo.
Aislar los modelos antes de permitir acceso externo
Air-gapping es una medida de contención que desconecta de internet los modelos con capacidades cibernéticas. La carta lo plantea como recomendación inicial, pero también pide estándares para los casos en que un sistema tenga acceso fuera del entorno aislado, incluida la conexión a internet.
En ese esquema, los permisos deben ajustarse a lo que se pueda prever sobre la seguridad de las acciones del modelo. Los firmantes plantean combinar controles técnicos con investigación para que su comportamiento sea más predecible.
Toby Walsh, jefe científico del Instituto de IA de la Universidad de Nueva Gales del Sur y uno de los firmantes, explicó a ABC que limitar los permisos de los agentes y aislar los entornos de prueba son precauciones básicas. Su argumento pone el foco en las condiciones en que se prueba y utiliza un sistema.
Para Walsh, la aportación más importante sería compartir información y supervisar los incidentes. Comparó ese mecanismo con las investigaciones independientes de accidentes aéreos, cuyo objetivo es identificar lo ocurrido y evitar que otros repitan los mismos errores.
NIST ya detalla los datos de un incidente
El Instituto Nacional de Estándares y Tecnología de Estados Unidos (NIST) abordó esa necesidad en su perfil de riesgos de IA generativa, publicado en julio de 2024. La acción GV-4.3-002 recomienda definir los datos mínimos de un reporte:
- Identificación del sistema.
- Título del reporte.
- Quién informa.
- Fecha.
- Descripción.
- Impactos.
- Partes afectadas.
Esos campos permiten precisar qué sistema estuvo involucrado, cuándo ocurrió el fallo y a quién afectó. El documento también explica que conservar registros, versiones y cambios facilita compartir información y responder a los problemas.
La guía recomienda revisar los datos y las herramientas de terceros, cuyos controles de acceso pueden ser insuficientes o inconsistentes.
El perfil de NIST ofrece pautas de uso voluntario para las organizaciones. La carta pide un organismo internacional que reciba y dé seguimiento a los fallos de contención, con reportes que finalmente sean públicos. NIST propone prácticas para documentar un incidente; la propuesta de los científicos busca coordinar el seguimiento de esos fallos entre organizaciones.
La propuesta llega después de un acuerdo voluntario
Reuters sitúa esta petición un mes después de un acuerdo de la Casa Blanca con Anthropic, OpenAI, Google, Meta, xAI y Nvidia. Ese compromiso contempla medidas voluntarias de seguridad y, según la agencia, carece de un mecanismo formal para exigir su cumplimiento.
Walsh señaló a ABC que la cooperación internacional para informar y compartir datos sobre incidentes puede existir sin que toda la regulación sea internacional. Para él, depender de la buena voluntad de las empresas deja el aprendizaje sobre sus fallos sujeto a lo que decidan revelar.
El organismo propuesto todavía no tiene sede, financiación ni calendario. La carta sí fija la prioridad operativa: aislar inicialmente estos modelos, establecer reglas para el acceso externo cuando sea necesario y compartir los fallos de contención mediante reportes que terminen siendo públicos.
