Dublín – TikTok ha presentado nuevas
herramientas para detectar, etiquetar y comprender el contenido generado por
inteligencia artificial (IA), una tecnología que está transformando cómo se
protege la seguridad en esa red social, que ha adoptado prácticas mejoradas
para eliminar las cuentas que difunden el odio y la violencia.
TikTok
anunció en su Foro Europeo de Seguridad, celebrado en Dublín, novedades sobre
cómo la plataforma aprovecha la tecnología para garantizar la seguridad, con
especial foco en la IA, además de la creación de un nuevo espacio en la
aplicación llamado Tiempo y Bienestar, para ayudar a crear hábitos conscientes
del uso digital.
Durante la
sesión, el director global de divulgación y colaboración de TikTok, Valiant
Richey, destacó que la base de la plataforma, con unos mil millones de
usuarios, de ellos doscientos millones es Europa, es la seguridad, que «no es
negociable».
Ente las
novedades, TikTok empezará a añadir, “en las próximas semanas, una marca de
agua invisible para etiquetar el contenido generado por IA en la propia
plataforma, indicó la directora de Seguridad, Privacidad y Protección de Datos,
Políticas Públicas en Europa, Jade Nester.
Esa marca
suponen un capa adicional de protección, pues solo puede leerla TikTok y eso
hace más difícil que pueda ser eliminada. Esta ayudarán a etiquetar el
contenido de manera más fiable y proporcionará a la plataforma más contexto
sobre los cambios realizados en el contenido.
La
plataforma empezó a etiquetar el contenido generado por IA en 2003, unos
esfuerzos que siguen adelante, señaló Nester, pues si bien la IA puede para
potenciar la creatividad, debe usarse de forma responsable y transparente, para
no contribuir a la desinformación.
Hasta
ahora, se han etiquetado 1,300 millones de videos. TikTok exige a los creadores
que marquen el contenido realista generado por IA en la plataforma para lo que
ofrece herramientas.
En las
próximas semanas, se empezará además a probar un nuevo control para el
contenido creado por IA, con el que los usuarios podrán determinar qué cantidad
de este tipo de creaciones quieren ver en el feed «Para ti».
Además, se
lanzará un fondo de dos millones de dólares para que expertos creen contenido
dirigido al feed «Para ti», centrado en la alfabetización y
seguridad de los usuarios en materia de IA.
Acciones
contra contenidos de odio
El foro
también trató sobre el refuerzo de prácticas mejoradas en TikTok para detectar
redes de cuentas que difunden el odio y la violencia.
En lo que
va de año, la plataforma eliminó 17 redes de este tipo, compuestas por más de
920 cuentas dedicadas a difundir el odio con ideologías extremistas.
En los seis
primeros meses acabó con 6.5 millones de vídeos por infringir esas normas, lo
que suponer algo menos del 2 % de todo el contenido infractor, dijo el jefe de
desarrollo de políticas para la confianza y la seguridad de TikTok, Zachary
Hecht.
Se trata de
grupos que adaptan su estrategia para evitar ser detectados, usando cuentas de
apariencia inocua, otras que intentan dirigir fuera de la plataforma para
compartir materiales, o con el uso de lenguaje cifrado, por ejemplo con emojis,
para hacer referencia a discursos de odio.
Moderación
de contenidos e IA
Detectar
ese tipo de discursos de odio es uno de los objetivos de la moderación del
contenido que cada día se suben a TikTok para que cumplan con las normas. Una
tarea que realiza tanto la IA como equipos humanos.
Aunque el
uso de la IA no es nuevo, los recientes avances están transformando la forma en
que se hace la moderación, en un momento en que se acelera la creación de
contenido, indicó Brie Pegum, y destacó la importancia de que haya un equilibro
entre la moderación de la IA y la de las personas, pues los equipos humanos
siguen teniendo un papel central.
Los datos
de TikTok indican un descenso del 76 % del contenido gráfico moderado por el
equipo humano el año pasado. Pegum destacó además la moderación de comentarios,
en la que el uso de la IA permite identificar el doble de no permitidos.
Bienestar
digital
Otras de
las novedades es la puesta en macha de nuevas funcionalidades de bienestar para
promover hábitos digitales saludables.
El nuevo
espacio de «Tiempo y Bienestar» ofrece entre otras funciones sonidos
relajantes, ejercicios de respiración consciente o un «diario de afirmaciones,
para establecer una intención o propósito para la jornada.
Además, se
incorporan cuatro nuevas Misiones Bienestar, dirigidas especialmente a
adolescentes, aunque útiles para ayudar a todos a desarrollar hábitos digitales
equilibrados. Entre ellas: Horas de Sueño, para no usar la plataforma por la
noche durante ocho semanas o la misión semanal de Tiempo de Pantallas, para
ayudar a ser conscientes del tiempo que se pasa en la plataforma. EFE
No hay comentarios.:
Publicar un comentario