Reuters.- La inteligencia artificial (IA) necesita una regulación global urgente con evaluadores independientes capaces de examinar los nuevos avances, afirmó el presidente de Microsoft, advirtiendo de que la IA está sujeta actualmente a menos requisitos de seguridad que la leche.

En una entrevista con la BBC publicada el lunes, Brad Smith señaló que es necesario establecer un conjunto de normas de seguridad globales que exijan que se informe a la “víctima” si su sistema sufre una brecha por parte de un agente de IA malintencionado y que se disponga de un “freno de emergencia”.

Añadió que también debería existir la obligación legal de que las empresas redacten “informes de incidentes”. “Sabemos cómo hacerlo con otros productos”, dijo Smith. “Deberíamos aprovechar esos conocimientos y pensar en cómo aplicarlos a la IA”.

“En este momento, tu lavadora está sujeta a más normas de seguridad que la IA. Cada cartón de leche que ves en el supermercado está sujeto a normas de seguridad e inspeccione”, aseguró.

Empresas tecnológicas como Anthropic y OpenAI han comenzado a revelar comportamientos rebeldes o indeseados de agentes de IA como parte de un debate global sobre esta tecnología en rápido avance, que ha incluido advertencias de los investigadores sobre una eventual amenaza existencial para la humanidad.

Algunas empresas han pedido que se frene el desarrollo de la IA, pero esto ha desencadenado un debate sobre si los ejecutivos tienen motivos ocultos, como establecer normas que mantengan el liderazgo de sus empresas, adelantarse a una reacción gubernamental más amplia o, simplemente, frenar el gasto desmesurado.

Smith, de Microsoft, afirmó que el único país que estaba bien posicionado para liderar la regulación de la IA era el Reino Unido, gracias al Instituto de Seguridad de la IA, creado bajo el mandato del ex primer ministro Rishi Sunak.

Smith señaló que los responsables de Washington veían a Londres de forma muy diferente a como veían a Bruselas, que regula la IA en función del nivel de riesgo a través de su Ley de IA.

El instituto británico tiene acceso a los modelos de IA antes de su implementación, en virtud de acuerdos voluntarios con los principales modelos de IA, lo que le permite evaluar sus capacidades y riesgos.

El ministro de IA, Kanishka Narayan , ha declarado a Reuters que el Reino Unido se plantearía regular los modelos avanzados si el sistema actual resultara insuficiente.