Saltar al contenido

Ha aparecido una red neuronal en las comunidades de VKontakte para combatir la hostilidad en los comentarios.

Ha aparecido una red neuronal en las comunidades de VKontakte para combatir la hostilidad en los comentarios.

VKontakte anunció que está lanzando una nueva opción para las comunidades: un filtro para combatir el discurso de odio basado en una red neuronal. Los propios administradores públicos tienen derecho a decidir si lo habilitan o no; está deshabilitado de forma predeterminada. Por el momento, la nueva opción ya pasó las pruebas preliminares, pero actualmente solo está disponible para la mitad de las comunidades. En un futuro cercano, funcionará para todos.

En la implementación actual, el filtro es capaz de identificar amenazas directas en forma de deseos de muerte, promesas de daño a la salud o amenazas de represalias. En el futuro, la red neuronal aprenderá a identificar otros signos de intolerancia, incluidos los basados ​​en la afiliación nacional o religiosa. A los administradores de la comunidad se les muestran los comentarios que el filtro ha eliminado. Si lo desea, se pueden restablecer, pero como parte de una prueba, los líderes públicos solo han restablecido el 1% de los mensajes; aparentemente, la red neuronal está funcionando muy bien.

Inicialmente, VKontakte comenzó a probar el nuevo filtro abiertamente en noviembre de 2020: desde entonces, 13 millones de páginas públicas lo han usado, lo que representa más del 10% de las comunidades de redes sociales. Después de activar la función, solo el 1.8% la abandonó. Según los desarrolladores, la red neuronal se entrenó específicamente para comprender el habla conversacional: se entrenó con subtítulos para películas y videos. Dado que el filtro identifica amenazas en función de la importancia de las palabras y sus combinaciones, ahora detecta correctamente la hostilidad en el 80% de los casos.

Materiales relacionados: