Es detectado un fallo en el algoritmo de Facebook que identifica imágenes sexualmente explícita

¿Buscas aplicar una campaña publicitaria a través de Facebook? Si este es el caso debes tener cuidado con las fotos que selecciones para ellos, pues se ha detectado un fallo en el algoritmo de la red social que catalogó una sencilla imagen de cebollas como sexualmente explicita, y no es la primera vez que pasa algo similar.

La empresa canadiense The Seed Company, dedicada al sector agrícola, hace ya unos días inicio una campaña publicitaria en la conocida res social Facebook con el objetivo de promocionar semillas de una popular variedad francesa de cebolla conocida como Walla Walla.

Sin embargo la iniciativa no salió como se esperaba, para sorpresa de su gerente Jackson McLean, la red social le notificó que el anuncio no había superado el habitual proceso de comprobación, ya que estaba prohibido posicionar productos o servicios de una manera sexualmente sugerente.

El inconveniente ocurre cuando observamos el material multimedia que la compañía utilizo para dicha campaña, la foto que acompañaba al anuncio se componía únicamente de varias cebollas Walla Walla en una cesta de mimbre y una de ellas se mostraba cortada por la mitad.

Aparentemente se trata de un anuncio simple sin nada extraño, entonces ¿qué ha ocurrido? La culpa no es de ningún moderador de contenido de Facebook fetichista, sino de los sistemas automatizados de moderación, basados en inteligencia artificial.

Jackson McLean, supone que, a ojos del algoritmo, “las dos formas redondas de la imagen han podido ser malinterpretadas como senos o algo así”. Aún así, le sorprende que Facebook hable de contenido ‘sexualmente explícito”, “como si fuese imposible no ver algo sexual ahí”.

Es detectado un fallo en el algoritmo de Facebook que identifica imágenes sexualmente explícita

La compañía asimiló el fallo con tranquilidad y argumentó que “creemos que esto fue lo que vio el algoritmo de Facebook“. McLean se mostró confiado en que “algún humano real pueda echar un vistazo a la foto para concluir que en realidad no tiene nada de sexual: sólo son cebollas”.

Efectivamente, poco después Facebook aprobó el anuncio y envió un comunicado de disculpa a The Seed Comapny. Meg Sinclair, jefa de comunicaciones de Facebook Canadá, confirmó que el problema radicaba en la inteligencia artificial.

“Usamos tecnología automatizada para mantener la desnudez fuera de nuestras aplicaciones, pero a veces no distingue una cebolla de, bueno, ya sabes…”.

 

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *