Supervisar todas las imágenes que se publican en una red no solo plantea delicados conflictos de privacidad, sino que además supone un desafío casi imposible de afrontar. Por eso, las redes sociales y entornos similares han terminado dependiendo de algoritmos capaces de reconocer contenido restringido, como los desnudos. IsItNude es un nuevo algoritmo orientado a la detección de desnudos que sirve como demostración de la plataforma de su compañía desarrolladora, Algorithmia.
La censura automatizada de Facebook
En noviembre de 2012, Facebook censuró la imagen de una mujer que se encontraba en una bañera (léase bañadera o tina). Los moderadores de la red social, probablemente asistidos por un algoritmo, bloquearon la fotografía porque confundieron el codo izquierdo de la mujer con un pezón expuesto. La imagen fue restaurada rápidamente y la red social se disculpó, pero es un excelente ejemplo de lo que pueden causar los falsos positivos en un sistema de moderación. El mundo de la informática tiene un gran interés en limitar la exposición de contenido para adultos, incluidos los desnudos. En algunos casos se citan políticas internas, pero en otros no es más que una cuestión de tiempo y lugar.
Si tenemos en cuenta los falsos positivos, ¿es buena idea dejar que un algoritmo haga el trabajo pesado de detectar desnudos? La gente de Algorithmia, responsable del sitio IsItNude, cree que sí. El funcionamiento de IsItNude es muy sencillo: pega la dirección URL de la imagen que deseas analizar y recibirás el resultado en cuestión de segundos. De más está decirlo, tu juicio sobre la imagen será mucho más rápido y preciso que el de IsItNude, pero lo realmente interesante aquí es cómo trabaja el algoritmo (detección de rostros, reconocimiento de narices, cambios de tono en la piel y análisis de polígonos), y el hecho de que cualquier desarrollador interesado puede integrar esta función en sus proyectos a través del API de Algorithmia.
Ahora, llegamos a «la» pregunta: ¿Qué tan bueno es IsItNude? De acuerdo a mis pruebas, digamos en este momento no le confiaría la seguridad de ninguna plataforma. He notado problemas con desnudos parciales e ilustraciones, y es incompatible con imágenes en blanco y negro, por lo tanto, sus responsables tienen bastante trabajo en sus manos. Claro que, un mal resultado no es suficiente para descartar su potencial. La compañía ha recibido más de dos millones de dólares en inversiones, lo que representa una gran apuesta en el crecimiento de esta tecnología.
