A través de un comunicado, Türk alertó que la actual carrera por desarrollar sistemas de IA cada vez más avanzados podría generar “mayores riesgos existenciales” y tener efectos desestabilizadores en distintos ámbitos de la vida cotidiana.
Uno de los principales focos de preocupación es la llamada IA agéntica, capaz de tomar decisiones y ejecutar acciones con un mayor grado de autonomía.
De acuerdo con el alto comisionado, posibles fallos en estos sistemas podrían provocar interrupciones en servicios esenciales, afectar las comunicaciones, desestabilizar infraestructuras críticas e incluso poner en riesgo instituciones democráticas.
Türk advirtió que escenarios de este tipo podrían dejar a poblaciones enteras sin acceso a servicios básicos como agua, calefacción o servicios financieros.
El funcionario de Naciones Unidas también señaló que la IA está transformando los conflictos armados al acelerar el ritmo de las guerras y ampliar su alcance, al tiempo que podría debilitar las salvaguardas destinadas a evitar el uso de armas de destrucción masiva.
Las declaraciones ocurren en un contexto de creciente debate dentro de la propia industria tecnológica. Figuras como Dario Amodei, Sam Altman y Elon Musk han planteado la necesidad de reducir deliberadamente el ritmo de desarrollo de los sistemas de IA más avanzados ante los posibles riesgos asociados con una pérdida de control sobre estas tecnologías.
Ante este panorama, el alto comisionado pidió a los gobiernos y empresas actuar con urgencia mediante acuerdos multilaterales, bajo principios de derecho internacional y protección de los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo”, sostuvo Türk, quien también llamó a evitar que las empresas determinen de manera unilateral qué riesgos debe asumir la sociedad.
