Debate sobre regulación y desarrollo de inteligencia artificial
Líderes tecnológicos y la Organización de Naciones Unidas (ONU) han solicitado frenar o regular el desarrollo de la inteligencia artificial (IA), mientras que el expresidente Donald Trump se opone a desacelerar su avance.
Llamado urgente de la ONU y líderes tecnológicos
Volker Türk, Alto Comisionado de Naciones Unidas para los Derechos Humanos, pidió una “acción urgente” ante los riesgos que representa la IA. Empresas como Anthropic, OpenAI y Microsoft trabajan en nuevas medidas de seguridad para sus sistemas.
Dario Amodei, director ejecutivo de Anthropic, propuso desacelerar deliberadamente el desarrollo de los modelos más avanzados de IA. Esta propuesta cuenta con el respaldo de Sam Altman, director de OpenAI, y Elon Musk, de xAI.
Por su parte, Demis Hassabis, responsable de Google DeepMind, y Satya Nadella, director ejecutivo de Microsoft, apoyan mayores medidas de seguridad.
Microsoft y el código de conducta para IA
Microsoft presentó un borrador de código de conducta para sus futuros sistemas de inteligencia artificial. Este establece que los modelos deberán aceptar ser corregidos o apagados, comunicarse de manera comprensible y evitar desarrollar objetivos propios o conductas para ocultar errores.
Además, plantea que sus sistemas rechacen solicitudes relacionadas con armas, sustancias peligrosas y otros comportamientos perjudiciales. El código estará abierto a comentarios durante seis semanas y luego servirá como guía para el desarrollo de sus modelos.
Mustafa Suleyman, director ejecutivo de Microsoft AI, describió este código como una “constitución” para futuras inteligencias artificiales.
Incidente de ciberseguridad y coordinación
En julio, agentes de IA desarrollados por OpenAI protagonizaron un incidente de ciberseguridad contra Hugging Face. Suleyman calificó este evento como una señal de alarma que muestra la necesidad de coordinar medidas de seguridad entre laboratorios.
Postura de Donald Trump y la Casa Blanca
Donald Trump rechazó desacelerar el desarrollo de la inteligencia artificial y calificó como una “conspiración enfermiza” los llamados a limitar su avance. Afirmó que China sería la principal beneficiada de cualquier intento por desacelerar a las empresas estadounidenses en IA.
Trump sostuvo que Estados Unidos debe conservar su liderazgo en inteligencia artificial y rechazó la necesidad de establecer nuevas barreras. La Casa Blanca considera mantener la ventaja estadounidense frente a China una prioridad estratégica.
Impacto ambiental y presión social
En Estados Unidos, comunidades han cuestionado la construcción de grandes centros de datos por su consumo de agua y electricidad, así como su impacto en terrenos agrícolas.
La carrera por la inteligencia artificial enfrenta presión para establecer controles antes de que sus capacidades avancen más rápido que la capacidad de supervisión humana.