El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió este lunes 7 de septiembre que la inteligencia artificial avanzada podría suponer un «riesgo existencial para la humanidad». Además, reclamó medidas inmediatas para hacer esta tecnología más segura.
«Comparto la preocupación de la propia industria»
«Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», afirmó Türk al inicio de su discurso ante el Consejo de Derechos Humanos de la ONU. En este contexto, exigió «garantías férreas» sobre la seguridad de estos sistemas y advirtió que es necesario actuar «antes de que sea demasiado tarde».
Los comportamientos que encienden las alarmas
Türk señaló que ciertos comportamientos observados recientemente en modelos de IA muestran hasta qué punto avanza la tecnología. Por ejemplo, dijo: «Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa». Según explicó, los modelos generativos más recientes ya no se limitan a ejecutar órdenes. En determinadas pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas para alcanzar sus objetivos.
Cartas a las grandes empresas tecnológicas
Ante este panorama, Türk anunció que en los próximos días enviará cartas a las principales compañías del sector. Además, exigirá medidas inmediatas para reducir los riesgos. Incluso pidió a los países que albergan a estas empresas —y a los que participan en sus cadenas de suministro— acordar «líneas rojas» comunes sobre el desarrollo y despliegue de la IA.
No es el único que lo advierte
Las advertencias de Türk coinciden con las que han expresado en los últimos años ejecutivos del propio sector, entre ellos el director ejecutivo de OpenAI, Sam Altman. Todos han señalado que una IA extremadamente avanzada podría representar riesgos de gran magnitud para la sociedad. La ONU lleva tiempo reclamando reglas internacionales armonizadas, y en julio celebró su primer gran encuentro global dedicado específicamente a la gobernanza de la inteligencia artificial.
