Esto es lo que hará Google para enfrentarse al terrorismo online

Por Kevin Morán

Publicado el 19 de junio del 2017

Enfrentar la amenaza que representa el terrorismo es un desafío crítico para Google y YouTube. Ambas plataformas, de acuerdo con un comunicado, están comprometidas a formar parte de la solución.

“Estamos trabajando con el Gobierno, la Policía y los grupos de la sociedad civil para abordar el problema del extremismo violento en línea. No debe haber lugar para contenido terrorista en nuestros servicios”, se señaló en una nota compartida en el blog de Google.

En el texto se indica que la firma ha trabajado durante años para identificar y eliminar contenido que viola sus políticas, pero se reconoce que hay mucho más trabajo.

No obstante, la firma se ha comprometido en dar cuatro pasos adicionales en su lucha. Estos son:

– Estamos aumentando nuestro uso de la tecnología para ayudar a identificar videos extremistas y relacionados con el terrorismo. Esto puede ser desafiante: un video de un ataque terrorista puede ser un reportaje informativo si es transmitido por la BBC, o una glorificación de la violencia si se carga en un contexto diferente por un usuario diferente. Hemos utilizado modelos de análisis de video para encontrar y evaluar más del 50% del contenido relacionado con el terrorismo que hemos eliminado en los últimos seis meses. Ahora dedicaremos más recursos de ingeniería para aplicar nuestra más avanzada investigación de aprendizaje de máquinas para formar nuevos “clasificadores de contenido”, para ayudarnos a identificar y eliminar con más rapidez el contenido extremista y relacionado con el terrorismo.

– Debido a que la tecnología por sí sola no es una gran ventaja, aumentaremos en gran medida el número de expertos independientes en el programa Trusted Flagger de YouTube. Las máquinas pueden ayudar a identificar videos problemáticos, pero los expertos humanos todavía juegan un papel en decisiones matizadas sobre la línea entre la propaganda violenta y el discurso religioso o de interés periodístico. Mientras que muchas banderas de usuarios pueden ser inexactas, los reportes de Trusted Flagger son precisos más del 90% del tiempo y nos ayudan a escalar en nuestros esfuerzos e identificar las áreas emergentes críticas. Ampliaremos este programa agregando 50 ONG expertas a las 63 organizaciones que ya forman parte del programa, y las apoyaremos con subvenciones operacionales. Esto nos permite beneficiarnos de la experiencia de organizaciones especializadas que trabajan en temas como el discurso del odio, el auto-daño y el terrorismo. También ampliaremos nuestro trabajo con grupos contra-extremistas para ayudar a identificar el contenido que puede ser utilizado para radicalizar y reclutar a extremistas.

– Vamos a tomar una postura más dura en los videos que no violan claramente nuestras políticas. Por ejemplo, videos que contienen contenido religioso o supremacista. En el futuro aparecerán detrás de una advertencia y no serán monetizados, recomendados o elegibles para tener comentarios o anotaciones de usuarios. Eso significa que estos videos tendrán menos compromiso y serán más difíciles de encontrar. Creemos que este equilibrio es perfecto entre la libre expresión y el acceso a la información sin promover puntos de vista extremadamente ofensivos.

– YouTube ampliará su papel en los esfuerzos contra la radicalización. Partiendo de nuestro exitoso programa de Creators for Change que promueve las voces de YouTube contra el odio y la radicalización, estamos trabajando con Jigsaw para implementar el “Redirect Method”, más ampliamente en toda Europa. Este acercamiento prometedor aprovecha el poder de la publicidad en línea apuntada para alcanzar a reclutas potenciales de Isis, y los redirige hacia videos anti-terrorista que pueden cambiar sus mentes. En los despliegues anteriores de este sistema, los reclutas potenciales han hecho clic en los anuncios a una tasa inusualmente alta, y ha visto más de medio millón de minutos de contenido de video que desmiente los mensajes de reclutamiento de terroristas.

Google también informó que se ha comprometido con colegas de la industria -incluidos Facebook, Microsoft y Twitter- para establecer un foro internacional compartir y acelerar sus esfuerzos conjuntos para combatir el terrorismo en línea.

Vía Google.