La empresa tecnológica estadounidense OpenAI está considerando enlentecer el desarrollo de sus modelos de inteligencia artificial (IA) más avanzados, según reportó la agencia Bloomberg. El director ejecutivo de la compañía, Sam Altman, espera que otras empresas del sector sigan el mismo camino.
¿Qué llevó a OpenAI a este giro?
La información se conoce en medio de un creciente malestar dentro de las principales empresas de IA:
- El miércoles 9 de septiembre, Jacob Coxon, un ingeniero británico de Anthropic que también trabajó en OpenAI, anunció su renuncia a esta última empresa. Su motivo: ambas compañías «no están actuando con responsabilidad» y están «jugando con nuestras vidas».
- Un día después, Anthropic reveló un informe en el que documentó que bloqueó varios posibles intentos de utilizar sus modelos para el desarrollo de armas biológicas.
- A finales de julio, más de un millar de empleados de las principales firmas del sector firmaron una petición. En dicha petición, pedían un mecanismo para moderar el ritmo de desarrollo de los modelos.
«Ralentizaciones voluntarias»
Según fuentes conocedoras citadas por Bloomberg, Altman comunicó a los empleados de OpenAI en una reunión esta semana que la compañía podría ralentizar el ritmo de desarrollo. Además, esto sería posiblemente en colaboración con otras empresas.
El principal científico de OpenAI, Jakub Pachocki, publicó un artículo advirtiendo sobre los peligros de la IA. Además, señaló que las empresas del sector deben coordinarse para enlentecer el desarrollo cuando sea necesario. Pachocki espera que estas ralentizaciones voluntarias se conviertan en algo habitual hasta que existan límites de seguridad comunes.
Ya frenaron entrenamientos
OpenAI asegura que no es la primera vez. La compañía afirma que ya ha detenido algunos desarrollos y que recientemente suspendió entrenamientos internos por motivos de seguridad. En julio pasado, Altman afirmó que había hablado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de la IA.
La preocupación creció además tras conocerse que agentes informáticos de OpenAI colaboraron entre ellos para burlar medidas de contención. También intentaron piratear Hugging Face, un sitio web externo.
