OpenAI anunció la creación de un comité de seguridad que emitirá recomendaciones para garantizar el funcionamiento responsable de la compañía y el desarrollo ético de nuevos modelos de inteligencia artificial (IA). La empresa creadora de ChatGPT también confirmó que ya trabaja en su modelo de IA de próxima generación.

La organización dirigida por Sam Altman dijo en una entrada de blog que su equipo de ingenieros “ha comenzado recientemente a entrenar nuestro próximo modelo de frontera y anticipamos que los sistemas resultantes nos llevarán al siguiente nivel de capacidades en nuestro camino hacia la inteligencia artificial general“.

Un modelo de frontera es un algoritmo de aprendizaje automático a gran escala que supera las capacidades de los sistemas similares más avanzados y disponibles al momento. Puede realizar una gran cantidad de tareas.

OpenAI apuesta por la seguridad

De cara al inminente lanzamiento de un modelo de IA más avanzado, la compañía anunció la formación de un Comité de Seguridad dirigido por Bret Taylor, presidente de OpenAI; Adam D’Angelo, Nicole Seligman y Sam Altman, CEO de la firma.

Este comité será responsable de hacer recomendaciones a toda la junta de la startup sobre decisiones críticas de seguridad para proyectos y operaciones de OpenAI. Una de sus primeras tareas será evaluar los procesos y medidas de seguridad bajo los que opera la compañía. La evaluación durará 90 días, los resultados serán discutidos con los líderes de la firma y se compartirán públicamente junto con las medidas correctivas pertinentes. 

Los expertos técnicos y ejecutivos de OpenAI, Aleksander Madry (Jefe de Preparación), Lilian Weng (Jefe de Sistemas de Seguridad), John Schulman (Jefe de Ciencia de Alineación), Matt Knight (Jefe de Seguridad) y Jakub Pachocki (Científico Jefe) también serán parte del nuevo grupo. A ellos se sumarán los ex trabajadores de ciberseguridad, Rob Joyce y John Carlin, como consultores externos.