La plataforma afirma que esta práctica constituye una forma de engañar a los usuarios mediante los contenidos generados.
TikTok ha anunciado recientemente restricciones adicionales en cuanto a la publicación de contenido que altere rostros de personas con el fin de engañar a los usuarios y crear contenido falso. Esta medida ha sido objeto de revisión conjunta con las autoridades de Estados Unidos, la Unión Europea y otros países.
Este tipo de videos son producidos mediante inteligencia artificial y permiten a una persona modificar su rostro hasta el punto de parecer otra, incluso una celebridad, lo que puede utilizarse para difundir comentarios falsos y llenos de odio, como los de naturaleza homofóbica, transfóbica, racista y otros similares.
Los videos en los que se modifica el rostro de una persona se conocen como deepfakes y han generado preocupación en los últimos tiempos debido a la calidad y credibilidad que han alcanzado gracias a los detallados filtros y herramientas de inteligencia artificial disponibles.
Hasta ahora, TikTok tenía una sola regla en relación a este tipo de contenido, prohibiendo aquellos videos que pudieran “distorsionar la verdad de los eventos o causar un daño significativo a la persona en el video”.
Para combatir la proliferación de nuevos videos falsos, los usuarios están obligados a etiquetar cualquier contenido generado con inteligencia artificial como tal. De esta forma, otros usuarios verán una etiqueta en la descripción del video, similar a la de los filtros o la música, que indica que la tecnología de manipulación de rostros está siendo utilizada, lo que ayudará a identificar potenciales suplantaciones.
Además, para reforzar esta regla, TikTok no permitirá ningún contenido que se parezca a una figura privada real, con el fin de evitar que alguien se haga pasar por una celebridad, político o líder de opinión y promueva información falsa.
Finalmente, todos estos videos alterados con inteligencia artificial serán etiquetados por TikTok como “sintéticos y manipulados” y se sumarán a otras prohibiciones en la plataforma, como el contenido sexual, la violencia gráfica y los discursos de odio.
Estas regulaciones llegan en un momento en que la aplicación se enfrenta a posibles prohibiciones en Estados Unidos, que limitarían su acceso en teléfonos del gobierno, militares y algunas universidades. Situación que también se está presentando en la Unión Europea, Reino Unido, Canadá y Nueva Zelanda.
Además, la empresa dueña de TikTok, ByteDance, se ha enfrentado a acusaciones de espionaje, lo que ha llevado a la empresa a considerar la posibilidad de una venta. Este es el último recurso al que la compañía recurriría y se llevaría a cabo solo si no consigue aprobar la actual propuesta planteada a las autoridades de seguridad nacional.
