Meta ha tomado medidas para retirar videos generados por inteligencia artificial que difamaban a dos mujeres, incluyendo a una figura política británica, tras las críticas del Consejo de Supervisión de la compañía. Este órgano independiente determinó que las salvaguardas implementadas por Meta eran inadecuadas para afrontar el contenido manipulado, enfatizando que estos videos vulneran las normas de la empresa en materia de desinformación, acoso e incitación al odio.
Uno de los videos en cuestión involucró a una concejala del Partido Laborista en Escocia, a quien se le atribuyeron comentarios incendiarios sobre refugiados que no tienen respaldo en registros públicos. El video presentaba indicios de manipulación, destacando la desincronización labial. En otro caso, un video tuvo como objetivo desacreditar a una activista musulmana, mostrando comportamientos contradictorios en relación a su trabajo como educadora en salud.
El Consejo de Supervisión subrayó que las políticas de Meta son “sistemática y fundamentalmente insuficientes” para gestionar la creciente producción de contenido generado por IA en plataformas como Facebook e Instagram. Esta situación se enmarca en un contexto más amplio, donde mujeres que abordan temas sociales son blanco de ataques desproporcionados, según la copresidenta del consejo, Pamela San Martin.
Meta indicó que acatará la decisión del Consejo en un plazo de siete días, aunque no está obligada a seguir sus recomendaciones. San Martin advirtió sobre la necesidad de establecer normas más rigurosas para combatir la proliferación de deepfakes en redes sociales, proponiendo medidas como un etiquetado más claro de contenido engañoso, sanciones severas para reincidentes y la eliminación de deepfakes destinados a hostigar.
Además, el Consejo de Supervisión sugirió que Meta no reemplace su servicio profesional de verificación de datos por un sistema participativo similar al desarrollado por X, la plataforma de Elon Musk. Esta recomendación se formuló tras el anuncio de Meta de que comenzaría a probar estas notas de la comunidad en dieciséis países hispanohablantes en América Latina.
Paralelamente, la Agencia France-Presse (AFP) continúa colaborando con Meta en su programa global de verificación de datos, que abarca veintiséis idiomas en diversas regiones, incluida América Latina.