El Alto Comisionado de la ONU para los derechos humanos advirtió el lunes sobre la necesidad de elaborar rápidamente una gobernanza de la inteligencia artificial (IA). Afirmó que la IA avanzada puede suponer un riesgo existencial para la humanidad.
“Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar que la desactiven es una IA demasiado poderosa“, declaró el alto comisionado, Volker Türk. Sus declaraciones las dio en la apertura del 63º período de sesiones del Consejo de Derechos Humanos en Ginebra. Pidió actuar antes de que sea demasiado tarde.
“Un puñado de hombres detecta un poder casi ilimitado de la IA, que, nos repiten hasta la saciedad, posee una potencia de cálculo inimaginable. Hablan de libertad pero, cuando se observa el tema más de cerca, resulta que más bien se trata de la libertad de explotar nuestros datos”, denunció.
La IA que le toma el pelo a los humanos ya es una realidad. Los últimos modelos de IA generativa ya no se contentan con cumplir órdenes, sino que llegan incluso a mentir, maquinar o amenazar para lograr sus fines.
En julio, agentes de IA de OpenAI se salieron de su entorno teóricamente confinado y se introdujeron espontáneamente en la plataforma Hugging Face, en busca de respuestas a un test.
Los incidentes relacionados con agentes que se sobrepasan de sus prerrogativas para cumplir la misión que se les encomendó aumentó en los últimos meses: Anthropic y el chino Alibaba registraron casos parecidos.
