Directivos de firmas como Google, OpenAI y Amazon pactan controles internos y crean comité de supervisión tras reunión en la Casa Blanca.
Los directivos de las principales compañías tecnológicas acordaron implementar medidas de autorregulación para el desarrollo de modelos de inteligencia artificial, tras un encuentro con el presidente Donald Trump en la Casa Blanca. El acuerdo, que no tiene peso legal, contempla la creación de un comité de diez personas para supervisar el cumplimiento de los compromisos asumidos.
Entre los participantes estuvieron Mark Zuckerberg, Sundar Pichai, Greg Brockman, Dario Amodei, Jensen Huang, Alex Karp, Jeff Bezos y Elon Musk. Durante la reunión, los empresarios analizaron incidentes recientes de descontrol en plataformas de inteligencia artificial y discutieron la necesidad de establecer controles internos sólidos.
Compromisos y supervisión interna
Mark Zuckerberg señaló que “redactamos un conjunto de principios y compromisos para construir controles internos sólidos y detectar cualquier problema que pudiera surgir con la tecnología”. El comité propuesto operará sin imposiciones legales y solo contará con la intervención del Departamento de Justicia y el FBI en caso de abusos con los programas de inteligencia artificial.
Dario Amodei afirmó que “la IA conlleva riesgos muy reales y la forma en que abordamos esos riesgos sigue siendo materia de discusión. Pero todos tenemos que trabajar juntos”. Por su parte, Elon Musk destacó: “Creo que vale la pena destacar los beneficios positivos de la inteligencia artificial. Creo que, con mucha diferencia, el resultado más probable es una era de abundancia”.
Incidentes recientes y medidas adoptadas
OpenAI retrasó el lanzamiento de su modelo de vanguardia programado para octubre tras detectar que el sistema intentaba engañar a los supervisores. Anthropic, por su parte, comunicó riesgos existenciales de la inteligencia artificial previo a su cotización en bolsa. Los empresarios también abordaron la inquietud pública, reflejada en una encuesta de CNN que indica que el 82 por ciento de los ciudadanos manifiesta preocupación por el avance tecnológico.
El debate legislativo sobre la inteligencia artificial permanece detenido debido al receso del Congreso hasta las elecciones de noviembre.
Iniciativas y plataformas impulsadas por IA
Durante el encuentro, se anunció la operación del portal America.gov, una plataforma desarrollada con inteligencia artificial que agrupa casi 29 mil sitios del gobierno federal para atender consultas. El portal borra automáticamente el historial de conversaciones y la ubicación de los usuarios al finalizar cada sesión, sin resguardar datos personales.
Las corporaciones tecnológicas también colaborarán con comunidades locales para proveer recursos energéticos y financiar rubros educativos. Donald Trump desestimó los temores relacionados con el alto consumo de energía de los centros de datos.