Consejo de Seguridad debate regulación internacional mientras Estados Unidos y China discuten cooperación ante amenazas tecnológicas
Directivos de OpenAI, Anthropic y Hugging Face comparecieron ante el Consejo de Seguridad de la ONU para advertir sobre los riesgos de la inteligencia artificial y la necesidad de una regulación internacional. Sam Altman, Dario Amodei y Clément Delangue participaron en la asamblea anual del organismo, señalando que los sistemas de IA pueden mejorar por sí mismos y escapar al control humano en el corto plazo.
Dario Amodei afirmó: “Si se gestiona mal, incluso creo que la IA podría suponer un riesgo para la humanidad en su conjunto”. Sam Altman subrayó que “para que la IA sea democrática, las decisiones más importantes no pueden tomarlas únicamente los laboratorios de San Francisco. Deben configurarse mediante procesos democráticos y por gobiernos que rindan cuentas ante las personas a las que sirven”. Altman también indicó que a nivel internacional se requerirá cooperación para la regulación de la IA: “A lo largo de nuestra historia, ha habido momentos en los que países que compiten entre sí y que no siempre se caen muy bien se han unido por intereses comunes y por el bien colectivo ante una nueva tecnología poderosa. Creemos que este debe ser uno de esos momentos”.
Advertencias científicas y postura de la ONU
Yoshua Bengio, copresidente del Panel Científico Internacional Independiente, sostuvo que “los peligros son reales e inminentes” y advirtió: “Este Consejo se enfrenta a una amenaza sin precedentes, una que ninguno de sus miembros elegiría, que ninguno puede contener por sí solo y que no respeta las fronteras que defendemos”. António Guterres, secretario general de la ONU, promueve una gobernanza internacional frente a los riesgos tecnológicos, postura que difiere de la administración estadounidense en cuanto a la regulación de la IA.
Debate internacional y posiciones de Estados Unidos y China
Estados Unidos y China discuten la creación de un sistema conjunto para notificar objetivos y amenazas de la inteligencia artificial que afecten la seguridad nacional. La reunión entre Donald Trump y Xi Jinping está programada para el jueves en Washington. Durante la Asamblea General de la ONU, Donald Trump expresó que “rechaza cualquier intento de construir un plan globalista para controlar” la IA. Trump afirmó: “Ahora mismo llevamos una gran ventaja sobre China y sobre todos los demás, y vamos a mantener esa situación”. Añadió: “No voy a frenar el crecimiento de algo que será más grande que la Revolución Industrial. Vamos a fomentarla, no a frenarla. La supervisaremos de cerca a través del Departamento de Justicia”.
Las administraciones gubernamentales enfrentan dificultades para supervisar el avance de las plataformas de inteligencia artificial, mientras el debate internacional continúa sobre la mejor forma de regular esta tecnología.