El Consejo de Supervisión determinó que los videos infringían normas de incitación al odio y acoso, y recomendó fortalecer las políticas de Meta.
Meta retiró dos videos generados mediante inteligencia artificial luego de que el Consejo de Supervisión ordenara su eliminación por infringir las normas de la plataforma. Ambos videos, publicados en Facebook, mostraban de manera manipulada a una política británica y a una activista musulmana.
Uno de los videos presentaba a una concejala del Partido Laborista en Escocia con comentarios incendiarios sobre refugiados, manipulados mediante IA. El Consejo de Supervisión detectó una falta de sincronización entre el audio y los movimientos de los labios en este material, y concluyó que el contenido infringía las normas de Meta sobre conductas que incitan al odio.
El segundo video ridiculizaba a una joven musulmana activista en campañas sobre educación en salud menstrual, manipulando su imagen para mostrarla consumiendo comida ultraprocesada y realizando ejercicios absurdos. El Consejo determinó que este video violaba las normas de acoso y hostigamiento de Meta. Videos e imágenes manipulados de la activista habían acumulado decenas de millones de reproducciones en distintas plataformas.
Cuestionamientos y recomendaciones a las políticas de Meta
El Consejo de Supervisión consideró que las políticas actuales de Meta para enfrentar deepfakes y contenidos manipulados son insuficientes. Entre sus recomendaciones, sugirió ampliar el uso de etiquetas de “IA de alto riesgo” y establecer sanciones mayores para cuentas que compartan reiteradamente contenido manipulado.
El Consejo también recomendó mejorar la transparencia sobre la aplicación de etiquetas y ampliar las políticas contra imágenes manipuladas usadas para acosar a personas no públicas. Si bien Meta debe cumplir las decisiones específicas de retiro emitidas por el Consejo, las recomendaciones generales sobre políticas no tienen carácter vinculante.