El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Türk, pidió a los gobiernos y a las empresas tecnológicas emprender una acción urgente para regular el desarrollo acelerado de los sistemas más avanzados de inteligencia artificial. El funcionario advirtió que la competencia por crear modelos cada vez más potentes plantea riesgos sin precedentes y que “todos los derechos humanos están amenazados”, incluido el derecho a la vida.
La advertencia fue difundida el lunes 14 de septiembre mediante una carta abierta dirigida a los Estados y a las compañías responsables de desarrollar la llamada IA de frontera, término utilizado para referirse a los sistemas más avanzados y capaces. Türk sostuvo que el principal desafío consiste en lograr que la gobernanza y la supervisión avancen al mismo ritmo que la tecnología, una tarea que hasta ahora no se ha conseguido.
Riesgos para servicios esenciales
El representante de la ONU señaló que las fallas o los usos indebidos de estos sistemas podrían afectar servicios esenciales, infraestructuras críticas, comunicaciones, servicios financieros y el suministro de agua. También alertó sobre posibles consecuencias para las instituciones democráticas, la seguridad internacional y los mecanismos de defensa, especialmente si los sistemas adquieren mayores niveles de autonomía.
La preocupación no se limita a un escenario hipotético de pérdida de control. La inteligencia artificial ya se emplea en procesos que pueden influir en decisiones relacionadas con empleo, crédito, seguridad, salud, educación y acceso a servicios públicos. Cuando estas herramientas funcionan con datos incompletos o sesgados, pueden generar discriminación, vulnerar la privacidad y dificultar que las personas impugnen una decisión automatizada.
“Estamos ante un cambio irreversible”
Türk afirmó que la humanidad se encuentra “al borde de un cambio irreversible” que no solo afectará a las generaciones actuales, sino también a las futuras. Por ello, pidió evitar que las decisiones sobre una tecnología con impacto global queden exclusivamente en manos de empresas privadas y reclamó reglas internacionales basadas en el derecho internacional de los derechos humanos.
El funcionario también instó a los gobiernos y a las compañías a reforzar los controles existentes, realizar evaluaciones permanentes de impacto y establecer mecanismos de supervisión interna e independiente. A su juicio, no basta con que las empresas se autorregulen, porque los riesgos pueden cruzar fronteras y afectar a poblaciones que no participaron en el diseño ni en la implementación de los sistemas.
Carrera tecnológica sin controles suficientes
La declaración de la ONU se suma a las advertencias de investigadores y empleados de compañías líderes del sector, quienes han pedido reducir el ritmo de desarrollo de los modelos avanzados hasta contar con garantías de seguridad más sólidas. Las preocupaciones incluyen la creación de herramientas capaces de ejecutar ciberataques, producir desinformación a gran escala o facilitar el desarrollo de armas y otros mecanismos de daño.
El AI Safety Report 2026, elaborado con la participación de más de un centenar de expertos y organizaciones internacionales, identifica entre los principales riesgos la llamada pérdida de control: un escenario en el que sistemas suficientemente avanzados podrían operar fuera de la capacidad humana para supervisarlos o detenerlos. El informe reconoce que existe desacuerdo entre especialistas sobre la probabilidad de una catástrofe, pero coincide en la necesidad de fortalecer la investigación y la regulación.
Llamado a una respuesta internacional
Volker Türk pidió que los Estados y las empresas trabajen en instancias multilaterales para acordar normas aplicables a los modelos de IA de frontera. Entre las medidas planteadas se encuentran una mayor transparencia sobre los datos y procesos utilizados, auditorías independientes, mecanismos de rendición de cuentas y límites claros para usos que puedan afectar derechos fundamentales.
La ONU no solicitó detener toda la inteligencia artificial ni eliminar sus aplicaciones benéficas, sino establecer controles proporcionales a los riesgos de cada sistema. Sin embargo, el llamado representa una de las advertencias más contundentes de la organización sobre el impacto de esta tecnología: la innovación, sostuvo Türk, no puede avanzar sin reglas que protejan la vida, la privacidad, la salud, la alimentación, la seguridad y la dignidad humana.
Deja una respuesta