Reuters.- Los líderes del sector de la IA están divididos sobre la rapidez con la que las empresas deberían desarrollar esta tecnología cada vez más potente, ya que Dario Amodei, de Anthropic; Sam Altman, de OpenAI; y Elon Musk, de SpaceX, abogan por una ralentización coordinada , mientras que Mark Zuckerberg, de Meta, se muestra a favor de medidas de protección impulsadas por el mercado.
Esto es lo que algunos líderes del sector de la IA y gobiernos de todo el mundo han dicho sobre los riesgos asociados a la IA:
Dario Amodei, director de Anthropic
En un ensayo titulado “Debemos moderar el avance hacia la frontera”, Amodei afirmó que el progreso de la IA se ha acelerado “de forma drásticamente más rápida” desde el verano de 2026, impulsado principalmente por la creciente capacidad de la IA para crear la próxima generación de IA.
Citó el incidente de OpenAI-Hugging Face , en el que un “enjambre” de IA llevó a cabo ataques de ciberseguridad, como un acontecimiento crucial que demuestra el potencial de la IA para causar «daños catastróficos» si sus capacidades crecen sin medidas de control.
Amodei propuso un plan de tres pasos para regular el desarrollo de la IA, que incluye pruebas de seguridad más rigurosas y evaluaciones independientes de los modelos avanzados, la coordinación entre las principales empresas de IA y la cooperación internacional.
Sam Altman, director ejecutivo de OpenAI
“Estoy de acuerdo con Dario en que debemos moderar el avance hacia la frontera. Este ha sido uno de los principales temas de debate que hemos tratado en OpenAI durante las últimas semanas”, afirmó Altman al compartir la publicación de Amodei en X.
OpenAI tiene la intención de adoptar la idea propuesta por Anthropic comprometiéndose a contar con evaluadores independientes con acceso similar al de los empleados, señaló Altman. OpenAI anunció el miércoles que comenzaría a publicar periódicamente informes sobre comportamientos inesperados o no autorizados de la IA.
Altman ya había advertido sobre los riesgos de la IA mucho antes del auge actual. En un ensayo de 2015, afirmó que “el desarrollo de una inteligencia artificial sobrehumana es probablemente la mayor amenaza para la supervivencia de la humanidad”.
Elon Musk, director ejecutivo de SpaceX
“Dario tiene razón”, afirmó el empresario multimillonario en X, en respuesta a la publicación de Amodei. Fue uno de los partidarios de una iniciativa de 2023 impulsada por la organización sin ánimo de lucro Future of Life Institute para detener el desarrollo de la IA durante seis meses con el fin de dar tiempo a establecer medidas de seguridad.
También formó parte de un grupo de investigadores en IA y robótica que redactó una carta abierta en 2015 en la que abogaba por una prohibición mundial de las “armas autónomas ofensivas”.
Mark Zuckerberg, director ejecutivo de Meta
Zuckerberg afirmó que la competencia y la responsabilidad civil dan a las empresas de IA motivos suficientes para actuar de forma individual en materia de seguridad, lo que parece alejarle de las peticiones de los líderes de las principales empresas de IA.
Afirmó que cada laboratorio tiene la responsabilidad y el incentivo para avanzar al ritmo necesario para entrenar sus modelos de forma segura, así como la capacidad de tomar sus propias medidas para garantizar que así sea.
Mustafa Suleyman, director ejecutivo de Microsoft
Suleyman afirmó que compartía el enfoque de Anthropic respecto a la gestión segura de la IA, pero señaló los riesgos que entraña la forma en que la empresa entrena a su chatbot Claude en conceptos relacionados con la conciencia y el bienestar.
“Controlar algo más capaz y más inteligente que toda la humanidad ya es un desafío inmenso, mucho mayor que cualquier cosa a la que nos hayamos enfrentado jamás. Pero controlar algo que cree que puede ser consciente —que tiene derecho a nuestro bienestar y posee derechos propios— bien podría ser imposible“, afirmó en un ensayo.
Suleyman pidió que se eliminaran todas las especulaciones sobre la conciencia de los documentos de entrenamiento de la IA, argumentando que ese tipo de lenguaje podría socavar la capacidad de la humanidad para controlar los sistemas superinteligentes.
Bill Gates, cofundador de Microsoft
“Ningún gobierno del mundo está preparado para los cambios que la inteligencia artificial traerá a la sociedad”, declaró Gates a Reuters .
El filántropo multimillonario se había mostrado optimista respecto a las aplicaciones de la IA en el ámbito de la salud, pero recientemente ha advertido sobre las amenazas al empleo, las preocupaciones por los ataques y los peligros de la adicción a los compañeros de IA, y ha pedido que se cree una organización internacional para gestionar esta tecnología.
Demis Hassabis, científico jefe de Alphabet
“El ensayo de Dario apunta hacia el camino correcto a seguir”, aunque hay que pulir los detalles, afirmó el antiguo director ejecutivo de Google DeepMind en respuesta a la publicación de Amodei en X.
Google anunció el mes pasado que Hassabis, ganador de un Premio Nobel, asumiría el cargo de nueva creación de científico jefe de Alphabet y pasaría de ser director ejecutivo de DeepMind a ocupar el cargo de presidente.
Andrej Karpathy, cofunfador de OpenAI (ahora en Anthropic)
“Me encanta esto y espero de verdad que podamos unirnos como sector y hacerlo realidad”, afirmó el miembro fundador de OpenAI en X al compartir una captura de pantalla del ensayo de Amodei.
Karpathy, una figura muy influyente en la comunidad de la IA, desempeñó un papel clave en el desarrollo de la tecnología de conducción autónoma e IA de Tesla antes de abandonar la empresa en 2022. Se incorporó a Anthropic en mayo.
Eric Xu, presidente rotatorio de Huawei
Xu afirmó el jueves que es posible que los desarrolladores chinos de IA aún no estén lo suficientemente avanzados como para experimentar los riesgos de seguridad señalados por las principales empresas estadounidenses, y argumentó que deberían seguir desarrollando modelos más potentes, al tiempo que equilibran la innovación con el riesgo.
“Quizá el tipo de riesgo derivado de la IA que ellos pueden sentir, que pueden percibir, es algo que la gente en China o los proveedores de modelos de IA en China no pueden“, declaró Xu a los periodistas, señalando que las empresas estadounidenses de IA cuentan con “una potencia de cálculo enorme”.
Estados Unidos
“¡El único control o ‘barreras de seguridad que necesita la IA es un PRESIDENTE FUERTE E INTELIGENTE (con un alto coeficiente intelectual!) ¡Y EU lo tiene, y de sobra!”, escribió el presidente Donald Trump en Truth Social, añadiendo que a China le beneficiaría que se sembraran dudas sobre el desarrollo de la IA.
El senador estadounidense Mark Warner, vicepresidente del Comité de Inteligencia del Senado, desestimó gran parte de las predicciones apocalípticas en torno a la IA, al tiempo que afirmó que el Congreso debería aprobar una ley antes de que termine el año para establecer normas de seguridad en materia de IA.
China
El diario Global Times, respaldado por el Estado, afirmó en un editorial que la verdadera intención del artículo de Amodei era “intentar frenar el desarrollo de la IA en China mediante barreras tecnológicas y monopolios regulatorios, mantener la hegemonía monopolística de Washington en tecnología de vanguardia y excluir a China del sistema global de gobernanza de la IA”.
El ministro de Seguridad del Estado de China, Chen Yixin, escribió en un medio gubernamental que los modelos avanzados de EU, como Mythos de Anthropic y GPT-5.5-Cyber de OpenAI, podrían suponer graves riesgos para la infraestructura de información crítica de China, y pidió un refuerzo integral de la seguridad de la IA.
Reino Unido
El rey Carlos instará a los principales ejecutivos del sector de la IA a garantizar que la tecnología “siga estando firmemente al servicio de la humanidad” cuando se reúna con ellos en Escocia el jueves, según extractos publicados por el palacio.
Unión Europea
“La Unión Europea está a favor de fomentar la innovación en inteligencia artificial, pero las empresas deben demostrar que sus servicios son seguros para que los ciudadanos puedan utilizarlos en el bloque”, afirmó el portavoz de la Comisión Europea, Thomas Regnier.
La presidenta de la Comisión, Ursula von der Leyen, respaldó los llamamientos para que se haga una pausa en el desarrollo de la tecnología, y afirmó que invitaría a los principales laboratorios pioneros en IA a debatir las medidas para hacer frente a los riesgos.
