Reuters.- Mistral, la empresa europea líder en IA, y otras han acusado a sus rivales estadounidenses de utilizar las preocupaciones en materia de seguridad para afianzar su dominio, rechazando los llamamientos de Anthropic para que los desarrolladores más avanzados reduzcan el ritmo mientras Europa lucha por ponerse al día.

El director ejecutivo de Anthropic, Dario Amodei, instó en un artículo publicado en línea a las empresas a ralentizar el ritmo al que mejoran las capacidades de los modelos de IA y pidió una exención antimonopolio que permita a los principales desarrolladores elaborar conjuntamente medidas de seguridad, después de que investigadores advirtieran sobre los peligros de la IA, entre ellos que podría acabar con la humanidad.

Aunque el director de OpenAI, Sam Altman, y Elon Musk, de xAI, también advirtieron sobre los riesgos que plantean los sistemas de IA cada vez más potentes y coincidieron en la necesidad de moderar el ritmo de desarrollo, las empresas y los responsables políticos europeos han adoptado una postura más escéptica.

“Algunas empresas ya establecidas están aprovechando este momento para consolidar su posición en el mercado, presionando a favor de una regulación diseñada para favorecerlas frente a sus competidores”, afirmó la startup francesa Mistral en un comunicado, señalando que los riesgos ya eran evidentes desde hacía meses.

Las medidas de las empresas estadounidenses son “totalmente interesadas”

Europa ha dado pocos desarrolladores pioneros en IA, y Mistral, con tres años de antigüedad, se considera la mejor esperanza de la región para desarrollar su propio modelo pionero de IA que desafíe el dominio de EU y China.

Por ahora, la región depende en gran medida de los modelos desarrollados por OpenAI, Anthropic o Microsoft, lo que hace que muchos vean con recelo la continua dependencia de la tecnología estadounidense.

“Creo que esto es totalmente egoísta”, declaró Raphael Auphan, director de operaciones de la empresa suiza de software de privacidad Proton, en un evento tecnológico celebrado el miércoles en París. “Simplemente quieren mantener un cierto grado de dependencia de su servicio».

Ben Brooks, responsable de políticas públicas de la startup alemana de IA Black Forest Labs, señaló que las medidas para reforzar la brecha entre los grandes laboratorios y los nuevos participantes “basadas en umbrales arbitrarios frenarán la innovación abierta en la vanguardia o cerca de ella”.

“No es momento de frenar, sino de acelerar”, declaró la semana pasada en X el director general de la empresa de software franco-estadounidense Hugging Face, Clément Delangue. No obstante, respaldó la propuesta de Amodei de incorporar “evaluadores independientes” dentro de las empresas de IA.

Europa ve riesgos competitivos

Los principales desarrolladores de IA llevan tiempo advirtiendo de que la inteligencia artificial supone una amenaza existencial para la humanidad y de que se necesitan medidas de protección para evitar que los sistemas potentes causen daños.

Amodei argumentó que el desarrollo de la IA avanza más rápido de lo que los gobiernos pueden regular. En su ensayo, afirmó que los principales desarrolladores deberían coordinarse voluntariamente en materia de normas de seguridad y someterse a la supervisión de evaluadores permanentes integrados que controlarían el cumplimiento de dichas normas.

“Por desgracia, la aprobación de leyes puede llevar tiempo, y la IA avanza muy rápidamente. Por lo tanto, en paralelo a la vía reguladora, las empresas de IA pueden y deben colaborar voluntariamente para establecer normas”, afirmó.

Kristian Kersting, profesor de IA en la Universidad Técnica de Darmstadt (Alemania), señaló que las propuestas de Amodei equivalían a una “captura regulatoria”.

“Si un puñado de grandes empresas deciden por sí mismas qué se considera ‘peligroso’, seleccionan a los inspectores adecuados y exigen una exención de la ley de competencia, eso ya no es una regulación genuina”, señaló Kersting.

Los responsables políticos europeos y los grupos industriales expresaron preocupaciones similares. La presidenta de la Comisión, Ursula von der Leyen, declaró el miércoles que las normas históricas de la UE que regulan el uso de la IA sitúan al bloque en una posición que le permite marcar el rumbo de los esfuerzos globales para hacer frente a los riesgos. El rey Carlos de Inglaterra reunió el jueves a líderes del sector tecnológico y de la IA para debatir estas cuestiones en una cumbre celebrada en Escocia.

“Hacer que todos los que les siguen reduzcan el ritmo para poder mantenerse en primera posición: veo claramente su interés propio”, declaró a Reuters el ministro de Hacienda francés, Roland Lescure .

El Ministerio de Asuntos Digitales de Alemania afirmó que detener el desarrollo de la IA no era realista, dada la necesidad de soberanía digital de Europa, mientras que Daniel Abbou, presidente de la asociación alemana del sector de la IA, señaló que Europa debería centrarse en reducir la brecha tecnológica. “Para las empresas europeas, este debate es irrelevante. Primero tenemos que ponernos al día en materia tecnológica”, afirmó Abbou