✨︎ Resumen (TL;DR):
- James Manyika, directivo de Google y codirector del DeepMind Institute, respaldó un organismo de estándares con supervisión federal para los modelos más avanzados.
- El pacto voluntario firmado el 29 de septiembre de 2026 propone cuatro niveles de revisión, pero no fija plazos ni sanciones.
- La propuesta de Demis Hassabis plantea revisar modelos con hasta 30 días de anticipación al lanzamiento y exigir la revisión antes de desplegarlos en Estados Unidos.
James Manyika, directivo de Google y codirector del DeepMind Institute, respaldó un organismo de estándares con supervisión federal para los modelos de IA más avanzados. En una entrevista de Bloomberg publicada el 2 de octubre de 2026, defendió que la seguridad de esta tecnología requiere la participación de empresas, gobiernos y sociedad.
Manyika dirige las áreas de investigación, laboratorios, tecnología y sociedad de Google. Es uno de los tres directores del instituto, junto con Shane Legg y Demis Hassabis, según su presentación institucional.
El ejecutivo incluyó entre los responsables a quienes integran modelos en aplicaciones y deciden dónde usarlos. También sostuvo que las compañías deben actuar sin esperar a que el gobierno les imponga una estructura.
Al hablar de riesgos existenciales, Manyika dijo que tomaría en serio incluso una probabilidad hipotética de 0.1%. Planteó el porcentaje como ejemplo para explicar su principio de precaución, en respuesta a una pregunta sobre posibles daños a la humanidad.
Un pacto con auditorías, pero sin sanciones
La entrevista se publicó después del pacto voluntario anunciado por Trump. El documento, firmado en la Casa Blanca el 29 de septiembre de 2026 y conservado por The American Presidency Project, lleva las firmas de Trump y de representantes de Google, Anthropic, Meta, OpenAI, xAI y Nvidia.
El acuerdo propone cuatro niveles de revisión:
- Controles internos para vigilar las capacidades y el comportamiento de los modelos durante su entrenamiento y despliegue.
- Un equipo interno que compruebe esos controles y atienda los problemas detectados.
- Un auditor o evaluador externo independiente que revise si las medidas funcionan.
- Un comité independiente del consejo de administración que reciba los informes y supervise las correcciones.
El texto también deja abierta la posibilidad de incorporar esas medidas a leyes o reglamentos en el futuro. Por el momento, el compromiso es voluntario: no fija plazos ni sanciones por incumplimiento.
La revisión externa evalúa los controles de la empresa, pero no crea una prueba gubernamental obligatoria antes del lanzamiento de cada modelo.
Hassabis propone revisar modelos antes del lanzamiento
Manyika remitió durante la conversación a una propuesta de Demis Hassabis que el DeepMind Institute recoge con fecha del 14 de julio de 2026. El esquema plantea una entidad de estándares bajo supervisión federal. Su consejo incluiría expertos técnicos independientes y representantes de modelos de código abierto.
En este esquema, la revisión previa al lanzamiento es un proceso que evalúa las capacidades de un modelo antes de su despliegue en el mercado estadounidense.
Al principio, Hassabis propone que los desarrolladores compartan voluntariamente sus modelos para revisión con hasta 30 días de anticipación al lanzamiento. Tras demostrar que el protocolo funciona, plantea formalizarlo para exigir que los modelos sujetos al esquema lo superen antes de desplegarse en el mercado estadounidense.
En comparación, el pacto firmado se centra en los controles empresariales; la propuesta de Hassabis evaluaría también las capacidades del modelo antes de su salida al mercado.
Los umbrales técnicos definirían qué modelos deben evaluarse, sin importar su país de origen ni si son abiertos o cerrados. Los sistemas que no alcancen esa categoría quedarían fuera del proceso.
La propuesta no representa la postura oficial de Google
El DeepMind Institute advierte que sus ensayos reflejan las ideas de sus autores y no deben leerse como la posición oficial de Google. Esa reserva distingue la propuesta de Hassabis del respaldo que Manyika expresó en la entrevista.
Los dos mecanismos tienen alcances distintos. El pacto voluntario deja la revisión externa en los controles de cada empresa y no fija plazos ni sanciones. La propuesta de Hassabis llevaría la evaluación de capacidades a una entidad federal antes del despliegue de los modelos que superen los umbrales técnicos, pero todavía necesita demostrar que su protocolo funciona y formalizarse.
