Tras un mes de pruebas en Reino Unido, el nuevo chatbot de PornHub ha sido todo un éxito, que busca alertar a los usuarios que se adentran en contenido ilegal, ha identificado 173.000 intervenciones y ha conseguido eliminar una gran cantidad de páginas relacionadas con el abuso sexual infantil.
En Internet existen miles de fotografías y vídeos de abuso sexual infantil que se encuentran alojados en redes sociales, foros de la dark web y páginas de pornografía, con esta novedosa de herramienta, además de identificar las páginas se busca prevenir este tipo de conducta.
El chatbot aparece cuando alguien busca en PornHub cualquiera de los 28.000 términos que hacen referencia a la pornografía infantil. Esta ventana emergente, diseñada por LucyFaithfull Foundation junto a Internet Watch Foundation, hace una serie de preguntas y explica a las personas que dichas búsquedas pueden ser ilegales.
Para evitar que más usuarios consuman este tipo de contenido, PornHub ha implementado esta herramienta para interrumpir dichas búsquedas. Se trata de un chatbot que frena el intento de búsqueda y pregunta a los usuarios si necesitan ayuda por el tipo de comportamiento que muestran. Además, durante los primeros 30 días de prueba, el chatbot se activó 173.904 veces.
La web de porno más famosa a nivel mundial está haciendo uso de la inteligencia artificial para evitar que la gente vea contenidos de abuso sexual infantil y mejorar la seguridad de quienes más lo necesitan. El objetivo de esta herramienta consiste en interrumpir a alguien que esté buscando material de abuso sexual infantil, desde su aparición, más de 170.000 veces en marzo, lo que representa que 159 personas hicieron clic en el sitio web de la línea de ayuda.
Pornhub tiene una reputación accidentada por la moderación de videos en su sitio web, sin embargo, se ofreció como voluntario para participar, ya que el sistema se ejecutará en el sitio web de Reino Unido al año que viene.
El funcionamiento del chatbot es sencillo: cuando alguien busque este tipo de material, un chatbot aparecerá en su pantalla y les dirá que están intentando encontrar algo que no deberían buscar.
«Queremos que los resultados sean que la gente no busque abusos sexuales a menores. Que se detengan y revisen su propio comportamiento«, afirma la directora ejecutiva de la Internet Watch Foundation (IWF), una de las asociaciones que está colaborando con PornHub. También afirma, que la escala del problema es tan extenso que todos debemos tratar en enfocarnos en la prevención de que ocurra.
Tras el éxito obtenido, ahora PornHub quiere desplegar la función en todo el mundo, una medida que ha sido calificada de realmente innovadora en la prensa británica. El miedo quizá reside en que si en tan solo un mes en un país ha habido tal número de búsquedas, qué puede ocurrir si se hace a nivel mundial.
El chatbot ha estado en desarrollo durante más de 18 meses e involucró a varios grupos diferentes a medida que se diseñó, y conscientes que debía ser un viaje de usuario lo más simple posible. El objetivo es «desviar» o «interrumpir» a alguien que pueda estar buscando material de abuso sexual infantil y hacerlo con unos pocos clics.
La clave del éxito del sistema está en el corazón de su premisa: ¿Este tipo de empujón conductual evita que las personas busquen MAS? Los resultados pueden ser difíciles de medir, dicen los involucrados en el proyecto de chatbot. Si alguien cierra su navegador después de ver el chatbot, eso podría considerarse un éxito, por ejemplo, pero es imposible saber qué hizo a continuación.
La otra asociación involucrada, LucyFaithfull Foundation e Internet Watch Foundation enfatizan que no lo ven como la única forma de evitar que las personas encuentren material de abuso sexual infantil en línea» porque hay otros lugares en los que buscarán dicho contenido.
Aparte de esta novedad, PornHub por su lado, en colaboración con la anterior asociación y otros, retira mensualmente sitios web con contenido relacionado con menores de edad.
En el 2021, se lograron eliminar de Internet un cuarto de millón de páginas web que contenían material de abuso sexual infantil, lo que supuso un aumento del 64% respecto a 2020, justo en el periodo de la crisis sanitaria.
Entre estas webs porno se incluía al menos una de la propia PornHub, que rápidamente la retiró, por lo que increíblemente es de las webs más seguras de Internet en este aspecto. A esto hay que sumarle que, en 2020, fue obligada a eliminar millones de vídeos y cambió su política en relación a ser más estricta sobre el contenido que se puede publicar en el sitio web.
A pesar de los términos de búsqueda, si el sistema tiene éxito, la herramienta se podría implementar en otros sitios web o servicios en línea.