YouTube extiende su escudo contra deepfakes a políticos y periodistas

YouTube está ampliando su tecnología de detección de parecidos generados por IA —pensada para identificar deepfakes— a un grupo piloto de cargos públicos, candidatos políticos y periodistas. Hasta ahora, esta herramienta solo estaba disponible para unos 4 millones de creadores del Programa de socios de YouTube.

El sistema funciona de forma similar a Content ID, que detecta contenidos con copyright: analiza los vídeos subidos a la plataforma en busca de rostros simulados mediante IA que imitan a personas reales, como políticos o funcionarios, y que pueden usarse para difundir desinformación o manipular el debate público.

Los participantes del piloto deberán verificar su identidad con un selfie y un documento oficial. Después podrán crear un perfil, ver qué vídeos usan su imagen y solicitar su retirada si consideran que vulneran las normas de YouTube. La empresa revisará cada caso según su política de privacidad para diferenciar entre contenidos dañinos y expresiones protegidas como la sátira, la parodia o la crítica política.

YouTube afirma que el objetivo es proteger la integridad de la conversación pública y reconoce que los riesgos de suplantación con IA son especialmente altos en el ámbito cívico. La compañía también respalda a nivel federal el proyecto de ley NO FAKES Act, que busca regular el uso de IA para recrear sin permiso la voz y la imagen de las personas.

Por ahora, YouTube no revela qué políticos u otros líderes forman parte del grupo inicial, pero asegura que la intención es extender la tecnología a más usuarios y ámbitos, incluyendo el reconocimiento de voces y de otros tipos de propiedad intelectual. La empresa señala que el número de peticiones de retirada de deepfakes por parte de creadores ha sido hasta ahora muy bajo y que la mayoría de esos contenidos resultan ser inofensivos o incluso beneficiosos para su visibilidad.

Los vídeos identificados como generados por IA serán etiquetados, aunque la posición del aviso variará: en algunos casos aparecerá en la descripción y, cuando se trate de temas sensibles, también se mostrará de forma destacada al inicio del vídeo.