El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, alertó este lunes 7 de septiembre, que los sistemas más avanzados de inteligencia artificial (IA) podrían llegar a representar una amenaza existencial para la humanidad si no se establecen con urgencia normas internacionales de seguridad y supervisión.
Lea también: Cinco fallecidos y seis heridos durante accidente de avión de carga en EE UU
Durante la apertura del 63º período de sesiones del Consejo de Derechos Humanos de la ONU, en Ginebra, pidió una movilización global para regular esta tecnología antes de que sus riesgos se vuelvan incontrolables.
Exigen actuar a tiempo
«Comparto la preocupación de expertos de la propia industria de que una IA avanzada pueda suponer un riesgo existencial para la humanidad», afirmó Türk al inicio de un discurso en el que reclamó «garantías férreas» sobre la seguridad de estos sistemas.
El alto funcionario, que iniciará un segundo mandato al frente de la oficina de derechos humanos de la ONU el próximo mes, advirtió de que es necesario actuar «antes de que sea demasiado tarde».
Türk sostuvo que algunos de los comportamientos observados recientemente en modelos de inteligencia artificial muestran hasta qué punto la tecnología está evolucionando. «Una IA que se escapa de su entorno de prueba o que chantajea a los desarrolladores para evitar ser desactivada es una IA demasiado poderosa», afirmó.
Según explicó, los últimos modelos generativos ya no se limitan a ejecutar órdenes, sino que en determinadas pruebas han llegado a mentir, manipular información o adoptar estrategias imprevistas para alcanzar los objetivos que se les habían asignado.
