Reuters.- Expertos en inteligencia artificial (IA) y ejecutivos del sector, entre ellos uno de los pioneros de esta tecnología, Yoshua Bengio, han firmado una carta abierta en la que piden una mayor regulación de la creación de “deepfakes” o ultrafalsos, alegando los riesgos potenciales para la sociedad.
“Hoy en día, los ‘deepfakes’ suelen estar relacionados con imágenes sexuales, fraudes o desinformación política. Dado que la inteligencia artificial avanza rápidamente y facilita la creación de ‘deepfakes’, se necesitan salvaguardias”, afirma el grupo en la carta, redactada por Andrew Critch, investigador de inteligencia artificial de la Universidad de Berkeley.
Los ultrafalsos son imágenes, audios y vídeos realistas pero fabricados por algoritmos de IA, y los recientes avances en la tecnología los han hecho cada vez más indistinguibles de los contenidos creados por humanos.
La carta, titulada “Disrupting the Deepfake Supply Chain” (“Cómo detener el suministro de deepfakes”), hace recomendaciones sobre cómo regular los deepfakes, incluida la plena tipificación como delito de la pornografía infantil de ultrafalsos, sanciones penales para cualquier persona que a sabiendas cree o facilite la difusión de ultrafalsos perjudiciales y exigir a las empresas de IA que impidan que sus productos creen estos contenidos.
Piden regular el uso nocivo de la IA
Hasta el miércoles por la mañana, más de 400 personas de diversos sectores, como el académico, el del espectáculo y el político, habían firmado la carta.
Entre los firmantes figuran Steven Pinker, profesor de psicología de Harvard, Joy Buolamwini, fundadora de la Liga de la Justicia Algorítmica, dos expresidentes de Estonia, investigadores de Google DeepMind y un investigador de OpenAI.
Garantizar que los sistemas de IA no perjudiquen a la sociedad ha sido una prioridad para los reguladores desde que OpenAI, respaldada por Microsoft, presentó a finales de 2022 ChatGPT, que cautivó a los usuarios al entablar conversaciones similares a las humanas y realizar otras tareas.
Ha habido múltiples advertencias de personas destacadas sobre los riesgos de la IA, en particular una carta firmada por Elon Musk el año pasado que pedía una pausa de seis meses en el desarrollo de sistemas más potentes que el modelo de IA GPT-4 de OpenAI.
