El presidente de Microsoft, Brad Smith, pide normas mundiales de seguridad de la IA y sostiene que esta tecnología está sujeta a menos requisitos que la leche y las lavadoras, según informó primero Bbc. Sus propuestas incluyen la obligación de informar sobre incidentes, avisar a las víctimas cuando un agente de IA descontrolado vulnere un sistema y establecer cuándo los evaluadores externos deben dar el visto bueno a los productos antes de su lanzamiento.
Smith quiere que las empresas cuenten con frenos de emergencia, a menudo llamados interruptores de apagado, para pausar o ralentizar la IA si se descontrola. Describió la IA como una herramienta y también como un arma.
Las propuestas abarcan controles de los sistemas, informes de las empresas y evaluaciones externas. Smith también sugirió que evaluadores independientes del Gobierno examinen las nuevas tecnologías de IA y que se establezcan normas sobre cuándo los evaluadores externos deben dar el visto bueno a un producto antes de su lanzamiento.
Smith afirmó que las lavadoras están sujetas a más normas de seguridad que la IA y que cada envase de leche de una tienda de comestibles debe cumplir normas de seguridad y someterse a inspecciones.
Smith dijo que el Reino Unido estaba en la mejor posición para impulsar normas mundiales y citó su AI Security Institute, creado durante el Gobierno del ex primer ministro Rishi Sunak con el nombre de AI Safety Institute. Sugirió que Estados Unidos aceptaría mejor unas normas lideradas por el Reino Unido que unas normas de la UE y señaló que en Washington no ven a Londres como ven a Bruselas.
Esa postura difiere de la del presidente Donald Trump, quien considera que el sector de la IA debe autorregularse para que las empresas estadounidenses no pierdan terreno frente a sus rivales chinos. A finales del mes pasado, Trump recibió en la Casa Blanca a los líderes de OpenAI, Anthropic, Nvidia, SpaceX, Meta y Google; los directivos firmaron un documento descrito como moralmente vinculante.
Las empresas acordaron trabajar con auditores independientes para evaluar si sus sistemas de IA funcionaban según lo previsto y asegurarse de que no piratearan ni accedieran a sistemas técnicos de formas no previstas. Smith elogió la declaración y dijo que Microsoft estaba dispuesta a firmarla, pero añadió que ya no era suficiente.
Dijo que el reto de la autorregulación es que las empresas responsables harían lo que se espera de ellas, mientras que las menos responsables son las que preocupan.