TikTok desarrolla en secreto la función de deepfake

ByteDance, propietario de TikTok, ha estado creando en secreto una función de fake profundo que permite a sus usuarios insertar sus caras en videos protagonizados por otras personas. La compañía ha desarrollado una herramienta única que utiliza tecnología realista de deepfakes, a la que el código de la aplicación se refiere como Face Swap.

El código en TikTok y Douyin, prácticamente aplicaciones hermanas, les pide a los usuarios que escaneen biométricamente varios ángulos de su cara y luego elijan una selección de videos a los que desean agregar y compartir su imagen.

Esto puede parecer preocupante, especialmente cuando se considera cómo los videos manipulados pueden ser mal utilizados para difundir información errónea. Además, TikTok también ha sido objeto de mucha discusión últimamente, con acusaciones de recopilación de datos sobre niños, prohibiciones militares y preocupaciones de seguridad nacional.

Reproducido

El código fue descubierto por una startup israelí llamada Watchful.ai. Sus hallazgos indican que ByteDance es consciente de que una característica de fake profundo puede no ser muy bien recibida. Por lo tanto, la compañía aparentemente decidió crear algunas salvaguardas.

Por ejemplo, los usuarios deben escanear sus caras desde múltiples ángulos, una medida que también funciona como un control de edad y evita que cualquier persona use una sola foto para crear videos manipulados sin consentimiento. Los usuarios también pueden poner sus caras en un número limitado de videos (cuyos derechos ByteDance afirma poseer). Finalmente, al momento de compartir, los videos generados presentan marcas de agua para indicar que el contenido no es real.

Watchful.ai también encontró actualizaciones no publicadas de los términos del servicio de la aplicación con respecto a la función deepfake. Reiteran que se requiere "verificación de identidad" y que las fotos no se pueden usar. Otro punto mencionó que los menores no podrán acceder a la herramienta.

Reproducido

Sin embargo, ni TikTok ni Douyin admiten la existencia de tal característica. Los portavoces de ambas aplicaciones negaron los hallazgos de la startup. TikTok negó específicamente que esto fuera una característica futura, pero también reconoció inadvertidamente la existencia del código, afirmando que "se están eliminando fragmentos de código inactivos para eliminar cualquier confusión".

Esta desconexión entre las dos aplicaciones parece reforzar las noticias recientes de que ByteDance está haciendo todo lo posible para aislar a TikTok del resto de sus operaciones chinas y así evitar más preocupaciones de espionaje.

Es difícil saber si se lanzará deepfake en los EE. UU. Puede ser nuevo solo para China, o hasta que ByteDance piense que no compensa la posibilidad de un derrame negativo.

En cualquier caso, esta no es la única aplicación de redes sociales que está interesada en manipular videos a través de filtros o cambiar caras. Esto es algo que Snapchat, por ejemplo, ha estado haciendo durante años. El problema es que cuanto más sofisticadas se vuelven estas herramientas, es más probable que se vuelvan malas, difundiendo noticias falsas y posibles abusos. Todavía no se sabe si otras aplicaciones intentarán incorporar esta herramienta en sus plataformas.

Vía: Gizmodo

Sé el primero en comentar

Dejar una contestacion

Tu dirección de correo electrónico no será publicada.


*