Cuando los grandes distritos escolares de Nueva York y Los Ángeles anunciaron, hace apenas una semana, la suspensión temporal del uso de herramientas de inteligencia artificial en sus aulas, enviaron una señal inequívoca: el sector educativo estadounidense exige garantías concretas antes de ceder sus datos al ecosistema tecnológico. Microsoft ha respondido con un acuerdo que, al menos sobre el papel, va más allá de la mera declaración de intenciones.
La compañía dirigida por Satya Nadella ha pactado con la Federación Estadounidense de Profesores (AFT) y su filial neoyorquina UFT la adopción de diez principios de seguridad y privacidad recogidos en lo que denominan la Norma nacional de seguridad y privacidad en materia de IA. Los centros educativos podrán incorporar estos principios en sus contratos con Microsoft a partir de noviembre, lo que convierte el compromiso en un instrumento jurídicamente exigible y no en una simple promesa corporativa.
El núcleo del acuerdo descansa sobre una premisa que, en el debate público sobre inteligencia artificial, resulta todavía infrecuente: los datos de los alumnos pertenecen a los alumnos, no a la empresa que los procesa. Esto implica la prohibición expresa de utilizar esa información para entrenar modelos de IA, para fines publicitarios o para el desarrollo de nuevos productos. La minimización de datos desde el diseño —recopilar únicamente lo estrictamente necesario— complementa este principio y limita la tentación de acumular información con valor comercial futuro.
El acuerdo también aborda la opacidad algorítmica, uno de los flancos más criticados de la IA aplicada a la educación. Se exige supervisión humana y explicabilidad para las decisiones de calado, y se prohíben expresamente los llamados «compañeros de IA», esos sistemas que simulan relaciones afectivas con los estudiantes y cuyo impacto psicológico suscita fundadas preocupaciones. Los datos deberán estar cifrados, sometidos a pruebas independientes y respaldados por planes de respuesta ante incidentes.
Lo que distingue este pacto de otros compromisos similares suscritos por empresas tecnológicas es su carácter ejecutable. Los centros escolares tendrán derecho a exigir auditorías independientes de terceros —con certificaciones SOC 2 e ISO como referencia— y, si se detectan incumplimientos, podrán rescindir sus contratos y reclamar indemnizaciones por daños. Brad Smith, presidente de Microsoft, lo resumió con una fórmula que la compañía presenta como principio rector: «En caso de duda, protege al estudiante».
Randi Weingarten, presidenta de la AFT, subrayó que el acuerdo persigue tres objetivos: proteger la privacidad y los datos de los menores, otorgar a los colegios un control real sobre las herramientas de IA en el aula, y ofrecer transparencia efectiva a las familias mediante guías claras sobre el uso de estos sistemas. La transparencia hacia los padres, que recibirán información comprensible sobre qué datos se recogen y con qué propósito, constituye uno de los pilares menos frecuentes en los compromisos corporativos del sector.
El acuerdo nace, en todo caso, de un vacío normativo que conviene no perder de vista. A falta de un marco legal federal que regule el uso de la inteligencia artificial en el ámbito educativo, la iniciativa traslada a las propias empresas tecnológicas la responsabilidad de proteger los datos de los menores. Es un avance pragmático, pero también un recordatorio de que la autorregulación, por bien articulada que esté, no sustituye a la legislación. Que sea Microsoft quien fije el estándar —y quien, en consecuencia, lo extienda a todos los distritos escolares del país según anunció Smith— plantea preguntas legítimas sobre quién define las reglas del juego cuando el legislador no llega a tiempo.