✨︎ Resumen (TL;DR):
- Brad Smith, presidente de Microsoft, pidió evaluaciones independientes y obligaciones legales para reportar incidentes de IA.
- Satya Nadella propuso mantener fuera del modelo el control de los datos, los permisos y las acciones autorizadas.
- La Unión Europea ya establece obligaciones para modelos de propósito general, con fechas de cumplimiento entre el 2 de agosto de 2025 y el 2 de agosto de 2028.
Microsoft pidió reforzar las reglas de seguridad para la inteligencia artificial. Brad Smith, presidente de la empresa, propuso evaluaciones gubernamentales independientes, informes obligatorios de incidentes y mecanismos para frenar sistemas fuera de control. Además, Satya Nadella planteó que una persona autorizada pueda pausar o apagar un modelo durante una tarea.
Smith compara la IA con productos más regulados
Durante una entrevista con la BBC, Brad Smith sostuvo que la leche y las lavadoras tienen más controles de seguridad que la IA. Según la cobertura de ITPro, el ejecutivo propone que organismos gubernamentales independientes evalúen las nuevas tecnologías.
Smith también reclama una obligación legal para que las empresas elaboren informes de incidentes, informen a las personas afectadas y mantengan mecanismos capaces de frenar sistemas que se salgan de control.
El ejecutivo considera que Reino Unido puede liderar esos esfuerzos por la capacidad técnica de su AI Security Institute, dedicado a evaluar la seguridad de la IA.
Nadella quiere un control externo al modelo
El 10 de octubre de 2026, Satya Nadella, CEO de Microsoft, publicó una propuesta técnica en su blog sn scratchpad para limitar la autoridad de los modelos. Defendió que los controles sobre los datos y las acciones permitidas permanezcan fuera de la propia IA.
“Una persona autorizada siempre debería poder pausar o apagar un modelo en plena tarea”, escribió Nadella.
El planteamiento trata a los modelos avanzados como posibles riesgos internos. Nadella explicó que un sistema con acceso a información sensible puede cometer errores o quedar comprometido. Por eso, las empresas deben conservar mecanismos de supervisión independientes del modelo.
Su propuesta incluye:
- Registros legibles para humanos y resistentes a alteraciones de cada acción relevante, para reconstruir lo ocurrido sin depender de la explicación que ofrezca la IA.
- Auditorías independientes y comunicación oportuna a las personas afectadas cuando fallen los sistemas.
Europa ya fija obligaciones y plazos
Un modelo de propósito general es un sistema de IA capaz de realizar múltiples tareas. La Ley de IA de la Unión Europea exige a sus proveedores documentación técnica, una política de derechos de autor y un resumen público del contenido utilizado para entrenarlos.
Los proveedores de modelos con riesgo sistémico deben evaluar y mitigar riesgos, reportar incidentes graves y proteger el modelo junto con su infraestructura. Estas obligaciones también aplican a empresas establecidas fuera de la Unión Europea que comercialicen sus modelos en ese mercado.
Algunos modelos de código abierto tienen exenciones de documentación si cumplen las condiciones previstas. La excepción no cubre a los modelos con riesgo sistémico. El código europeo de buenas prácticas ofrece una vía voluntaria para acreditar el cumplimiento.
El calendario queda así:
- Las obligaciones para modelos de propósito general se aplican desde el 2 de agosto de 2025.
- Desde el 2 de agosto de 2026, la Comisión Europea también puede hacer cumplir esas obligaciones mediante sanciones.
- Los modelos comercializados antes del 2 de agosto de 2025 tienen hasta el 2 de agosto de 2027 para cumplirlas.
- Para determinados usos de alto riesgo, como empleo y educación, los requisitos comenzarán el 2 de diciembre de 2027.
- Los sistemas de alto riesgo integrados en productos regulados tienen otro plazo: el 2 de agosto de 2028.
Para las empresas usuarias, la propuesta de Nadella deja una responsabilidad concreta: conservar el control de los permisos y poder detener al agente mientras trabaja. En Europa, las obligaciones ya tienen fechas distintas según el tipo de modelo, el nivel de riesgo y el uso o producto en que se integre.
