Reuters.- Los riesgos existenciales y financieros que plantea el auge de la inteligencia artificial fueron el tema principal para inversores y responsables políticos en dos conferencias celebradas el miércoles en Singapur , lo que pone de manifiesto un cambio hacia la cautela en torno al sector de la IA.

Las preocupaciones, que antes se centraban en las valoraciones excesivas, se han ampliado a una amplia gama de temores , entre los que se incluyen los sistemas autónomos que se escapan al control humano, las armas biológicas diseñadas por IA y la posibilidad de que el gasto masivo en esta tecnología nunca dé sus frutos.

“Cualquiera que te diga que tiene un control absoluto sobre su agente autónomo… obviamente no sabe de lo que está hablando. Así que la pérdida de control es una amenaza real”, afirmó el ministro de Asuntos Exteriores de Singapur, Vivian Balakrishnan, en la Cumbre de Asia del Instituto Milken.

El mes pasado, los responsables de los principales laboratorios de IA de EU se unieron en una rara muestra de unidad para pedir que se ralentice el desarrollo de la tecnología, advirtiendo de que pronto podría mejorar por sí sola y escapar al control humano.

Anthropic, la empresa creadora de Claude, tiene previsto advertir a los posibles inversores en su salida a bolsa de que la IA avanzada podría suponer «riesgos catastróficos o existenciales para la humanidad», según informó Reuters la semana pasada.

Balakrishnan afirmó el miércoles que el riesgo de que actores estatales y no estatales utilicen la tecnología para fabricar nuevas armas, “ya sea en el ámbito de la química, la biología o las armas de destrucción masiva, es muy real”.

Kiran Mazumdar-Shaw, fundadora y presidenta de la empresa biofarmacéutica india Biocon, señaló que, si bien la IA es una fuerza para el bien, los actores malintencionados podrían utilizarla para diseñar nuevos virus o patógenos.

“La verdadera amenaza existencial es el bioterrorismo”, afirmó en la Conferencia Global de Directores Ejecutivos de Forbes, en la que abogó por la implantación de medidas de protección y una gobernanza adecuada. “No creo que la autogobernanza vaya a funcionar”.

Persisten las preocupaciones por la burbuja

La confianza de los inversores en el sector de la IA ha sostenido el mercado bursátil, incluso cuando el aumento de los precios de la energía y las caídas esporádicas en el mercado de bonos han empujado los costos de financiación en las principales economías a máximos de varias décadas.

Sin embargo, persisten las preocupaciones sobre cuánto tiempo puede durar el repunte de la IA y qué implicaciones tiene para los mercados mundiales.

“Si la narrativa de la IA se desmorona debido a cuestiones de seguridad, a la regulación o porque, a medida que avancemos hacia 2027, los usuarios finales no vean un retorno de la inversión (ROI) suficiente, podrían surgir problema”, afirmó Rohit Sipahimalani, director de inversiones del fondo estatal de Singapur Temasek.

“El mayor riesgo para el mercado es el discurso en torno a la IA. En este momento, parece muy sólido”, señaló Sipahimalani en el evento del Milken Institute.

El fundador de Bridgewater Associates, Ray Dalio, se mostró menos optimista y afirmó que la IA se encontraba en una “burbuja clásica” y que había una diferencia entre “lo fantástica que es una tecnología y lo fantástica que es una inversión”.

En el evento de Forbes, señaló que la subida de las tasas de interés y el cambio de circunstancias “aún no habían tenido un efecto negativo en otros ámbitos”, pero que existía presión para que las tasas subieran aún más. Una vez que el aumento de las tasas de interés comenzara a hacerse notar, la burbuja empezaría a estallar, señaló Dalio. “Creo que estamos cerca de eso”.