Filtrado de contenido explícito si Discord, YouTube o Spotify no lo hacen

Desde el sector de la música, el contenido explícito ha evolucionado y hoy en día se puede encontrar en todo tipo de contenidos multimedia. En este artículo hablamos de cómo funcionan los filtros de contenido explícito, cómo el filtrado de contenido explícito se ha convertido en una función integrada en varias aplicaciones y plataformas (Google, YouTube, Spotify, Discord, etc.) y cómo el filtro de contenido de Internet de FlashStart puede ayudarte a lidiar con las carencias de dichos filtros de contenido explícito.

Contenido explícito: una introducción

El término “Contenido Explícito” nació en la década de 1980 en Estados Unidos. En febrero de 1985, Elizabeth Gore (también conocida como Tipper), esposa del senador Al Gore, compró un CD para su hija, “Purple Rain” de Prince. El CD incluía la canción “Darling Nikki”, que hablaba sobre la masturbación.

Tipper lo consideró escandaloso y, junto con otros padres preocupados, fundó el P.M.R.C., el Parents Music Resource Center, una asociación cuyo objetivo era emitir un juicio moral sobre las canciones. La asociación presionó luego al Senado para que aprobara una ley que exigiera la aplicación de una etiqueta de “Contenido Explícito” en todas las canciones que hablaran abiertamente de sexo, drogas, masturbación y violencia.

Mientras su audiencia con el Senado seguía en curso, la RIAA (Recording Industry Association of America) decidió de forma autónoma aplicar esta etiqueta de advertencia parental, aunque con características distintas a las que solicitaba la PMRC. Ante todo, fue la propia RIAA la que decidió qué canciones incluían contenido explícito.

¿Qué es un filtro de contenido multimedia explícito?

Desde sus orígenes en la industria musical, el término Contenido Explícito ha evolucionado con los años y ahora se utiliza para referirse a todo tipo de contenidos multimedia que hacen referencia explícita a:

• Todo lo relacionado con sexo y pornografía: esta suele considerarse la categoría más grande de contenido explícito, con una preocupación creciente por los usuarios más jóvenes de Internet y el impacto que no solo las imágenes y los videos, sino también los nuevos contactos y “amigos”, pueden tener en ellos.
• Otros tipos de contenidos para adultos, como drogas, violencia de todo tipo, juegos de azar, etc. También en este caso, los medios de distribución han cambiado, evolucionando de solo canciones a fotos, videos y, más recientemente, al uso de plataformas de streaming y videos tipo anuncio que atraen a los usuarios mostrando lo “bueno” que estas cosas pueden ser potencialmente para ellos y cómo pueden hacer que se vuelvan virales.

Todos estos contenidos ahora se conocen como contenidos “inapropiados”, “no deseados” o “no solicitados”. Los padres, los administradores de red y los proveedores de servicios de Internet pueden optar por intentar filtrarlos de las búsquedas en Internet de sus hijos o usuarios de red y de las aplicaciones que utilizan. Para hacerlo, necesitarán un filtro de contenido de Internet o un filtro de contenido explícito.

¿Cómo filtro el contenido explícito?

Un filtro de contenido explícito hace exactamente esto: te ayuda a filtrar contenidos que se consideran inapropiados para los usuarios de Internet. Los filtros de contenido explícito tienen la capacidad de reconocer contenidos basándose en ciertas palabras clave que suelen asociarse con contenido explícito. Hacen lo mismo con las imágenes: calculan, por ejemplo, la cantidad de color de “piel” que se puede encontrar en una imagen y la señalan como explícita.

Algunos motores de búsqueda y aplicaciones ofrecen la opción de filtro de contenido explícito como una función integrada. Por ejemplo, si activas SafeSearch en el motor de búsqueda de Google, intentará eliminar de los resultados de búsqueda lo que percibe como contenido explícito. Por supuesto, esto solo funciona con las búsquedas de Google y la opción SafeSearch no puede eliminar contenidos explícitos que provengan, por ejemplo, de enlaces abiertos a través de correos electrónicos o chats.

Filtro de contenido explícito en plataformas existentes

Google SafeSearch no es el único ejemplo de filtro de contenido explícito. Otras plataformas también cuentan con su propia opción integrada que, si se activa, puede ayudar a los padres a controlar lo que sus hijos ven en línea. Entre las más conocidas están:

• Modo Restringido de YouTube: si se activa, esta función permite bloquear la reproducción de videos que incluyen contenido para adultos. Ahora bien, con la cantidad de videos que se suben diariamente a YouTube, la plataforma no puede revisar realmente cada video en busca de posible contenido explícito. Por eso, utiliza inteligencia artificial para escanear el título del video, la descripción, los metadatos y las reseñas con el fin de identificar cualquier contenido inapropiado.
• Filtro de contenido explícito de Spotify: volviendo a la industria musical, el gigante de la transmisión de música Spotify marca todas las canciones que incluyen contenidos explícitos con una etiqueta E o etiqueta Explicit, que puedes ver en forma de una E a la izquierda de la lista de reproducción de las canciones que estás escuchando.
  Spotify te permite establecer bloqueos automáticos en todas las canciones con etiqueta E disponibles en la plataforma y ofrece versiones alternativas de ellas, libres de contenido explícito.
• Filtro de contenido explícito de Discord: dado cuánto ha crecido Discord desde su fundación en 2015, lo analizaremos en profundidad en la siguiente sección de este artículo.

¿Qué es el filtro de contenido explícito en Discord?

Entonces, en primer lugar, ¿qué es Discord? Discord es una plataforma que nació con el objetivo de permitir que los jugadores en línea se comuniquen mientras juegan en sus plataformas de juego favoritas. La comunicación puede tomar la forma de chat, pero también de llamadas y videollamadas, y se pueden intercambiar varios tipos de contenidos en la plataforma.

Con los años, Discord ha evolucionado mucho y ahora es una de las aplicaciones de comunicación preferidas por muchos adolescentes. Como se indica en su sitio web, Discord es ahora un lugar dedicado “a hablar y pasar el rato con tus amigos, familia y comunidades”. No es una red social, no tiene un feed de noticias ni un conteo de “me gusta”, pero aun así es muy apreciada por las generaciones más jóvenes, especialmente en Estados Unidos.

En Discord, los usuarios pueden decidir con quién chatear y si formar parte de grupos de hasta diez usuarios que se comunican entre sí. Por supuesto, el creciente uso de Discord ha venido acompañado de un aumento de usuarios “malos” o “peligrosos”, que han creado chats con usuarios más jóvenes, a menudo inexpertos, y han intentado compartir contenido explícito para provocar reacciones deseadas, además de obtener imágenes y videos explícitos de ellos. Como resultado, Discord se has convertido en una auténtica pesadilla para algunos padres y familias.

Para intentar solucionar la situación, Discord se ha vuelto más consciente de los peligros relacionados con su plataforma y ha implementado una especie de filtro de contenido explícito para ayudar a los padres a supervisar lo que sus hijos ven en la plataforma.

¿Cómo puedo supervisar a mi hijo en Discord?

Los padres ahora pueden optar por activar tres opciones de seguridad en la configuración de Discord:

• Bloquear solicitudes de amistad y mensajes no deseados, que permite bloquear solicitudes de este tipo provenientes de miembros del servidor que no conoces.
• Bloquear contenido inapropiado: si activas la opción Keep Me Safe, Discord intentará bloquear y eliminar todas las imágenes y contenidos que parezcan inapropiados.
• Detectar filtro de enlaces sospechosos (Spoopy Link Filter): si habilitas esta opción, se te mostrará una advertencia sobre los peligros de Internet cada vez que intentes abrir un enlace recibido a través de Discord.

El filtro de contenido de Internet de FlashStart: cuando bloquear contenido explícito no es suficiente

¿Por qué no basta con un filtro de contenido explícito?

Como se muestra arriba, un filtro de contenido explícito puede no ser suficiente para bloquear los contenidos a los que deseamos que los usuarios de Internet, especialmente los más jóvenes, no estén expuestos. De hecho, todos los servicios analizados presentan algunas carencias, y las principales son:

• Las plataformas no tienen la capacidad de escanear en profundidad todo el contenido que transita por ellas.
• Las funciones de seguridad de cada plataforma son válidas únicamente para esa plataforma individual y solo para la cuenta de usuario en la que se configuran, no automáticamente para todos los dispositivos conectados al router doméstico.
• Google SafeSearch y Discord no son capaces de verificar el contenido de los enlaces: esto es un problema en el caso de Google porque muchos usuarios de Internet tienen a Google como el motor de búsqueda automático que utilizan para abrir enlaces en correos electrónicos y chats, mientras que Discord es una de esas plataformas de chat y comunicación, utilizada también para enviar enlaces.

¿Qué puede ofrecer FlashStart?

FlashStart le ofrece la posibilidad de resolver los problemas mencionados anteriormente:

• En primer lugar, FlashStart utiliza una combinación de inteligencia humana e inteligencia artificial para escanear continuamente Internet en busca de nuevas amenazas y contenidos inapropiados. De esta manera, la protección que ofrece se actualiza constantemente.
• En segundo lugar, puede activar FlashStart tanto como aplicación de punto final, es decir, directamente en los dispositivos de sus hijos, como a nivel del router: de esta manera, se asegurará de que todos los dispositivos conectados a la red puedan disfrutar de la protección que otorga el filtro de contenido de Internet de FlashStart.
  Además, la protección de FlashStart solo puede desactivarse mediante un código específico, que se proporciona únicamente al administrador de la red para brindarle una capa adicional de protección.
• Finalmente, el filtro de contenido web de FlashStart revisa todo el tráfico entrante y, especialmente, el saliente, controlando todos los DNS a los que el usuario intenta acceder. Esto incluye también los enlaces presentes en correos electrónicos y chats que podrían llevar a contenidos inapropiados o que podrían ser intentos de phishing bien diseñados utilizados por los hackers para acceder a su dispositivo o red doméstica.