¿Puede un algoritmo censurar una obra de arte por inmoral?

No hay mes que no aparezcan noticias sobre la censura que ejercen las redes sociales, especialmente Facebook, sobre algunas imágenes que considera inapropiadas por su contenido erótico o sexual. La polémica alcanzó su punto álgido cuando la red social de Mark Zuckerberg llegó a censurar hasta la célebre Venus de Willendorf, una escultura del paleolítico. ¿Es ético que un algoritmo pueda decidir si una obra es inmoral? ¿Una nueva corriente puritana nos está conduciendo peligrosamente a un modelo de sociedad donde las máquinas se convertirán en las responsables de establecer los límites de la moral?

Lo cierto es que, como advierte su texto legal – sí, ese que no leemos ninguno – Facebook no permite la publicación de imágenes de desnudos, pero su algoritmo no hace distinciones entre una obra de Picasso, una madre amamantando a su bebé o una escena sadomasoquista.

* La oficina de Turismo de Flandes ridiculiza con esta campaña las políticas de Facebook con respecto a los desnudos femeninos, que han llegado a censurar obras de maestros como Rubens.

Para que se cumpla fielmente esa normativa, el algoritmo de Facebook rastrea concienzudamente la red a la caza y captura de pezones y otras intimidades que sus usuarios más atrevidos hayan podido subir a su perfil. Según el propio Mark Zuckerberg el equipo de “moderadores” de Facebook crecerá en 2018 hasta alcanzar los 7.500 efectivos. Aunque es difícil creer que la labor de este equipo sirva para mucho, dado que la comunidad de Facebook cuenta con más de 2.000 millones de usuarios, lo que significa más o menos la cuarta parte de la humanidad, sí, la cuarta parte de la humanidad. Tal y como publicó “The Guardian” recientemente, los empleados de Facebook confiesan estar desbordados y reconocen contar sólo con unos diez segundos para analizar cada imagen. De todas maneras, sería ingenuo pensar que detrás de esa labor de control siempre hay un ojo humano.

Esta obsesión por las imágenes de contenido sexual contrasta, por ejemplo, con la manga ancha que se demuestra en general por la red a la hora de exhibir armas, tal como señala Javier Gomá, escritor, ensayista y director de la Fundación Juan March, que llega a afirmar en este artículo publicado en ABC que “no hay limitaciones de edad para ver una ametralladora, un tanque o un arma”.

Los criterios de Facebook para censurar imágenes

Según publica la web Tecnoexplora, todo se reduce a un algoritmo. Los avances desarrollados ya desde hace años en el reconocimiento facial se han empezado a aplicar a otras partes del cuerpo, como los pezones femeninos y los genitales masculinos y femeninos. Esto explica que cuando el algoritmo de Facebook detecta un pezón femenino, inmediatamente elimina esa imagen, se trate de una obra de Rubens o de una fotografía de Helmut Newton. Facebook no hace distinciones.

Esta desproporción es la base de toda la polémica y al menos de momento nos lleva a un punto de difícil retorno. Por otro lado, es probable que los desarrolladores de Facebook ya estén trabajando para optimizar su algoritmo y que pronto nos sorprendan siendo capaces de detectar si la imagen analizada se trata de una pintura barroca, una escultura rupestre o una fotografía pornográfica.

Seguramente más de uno os estáis preguntando ¿Y por qué sólo los pezones femeninos y no los masculinos? Quizás aquí la razón haya que buscarla fuera de Facebook y trasladarla al conjunto de la sociedad. A diario la televisión, el cine o la publicidad se encargan de mostrarnos cuerpos femeninos en actitudes insinuantes. Es evidente que vivimos en una sociedad donde la mujer está cosificada y que el desnudo femenino es un reclamo irresistible. Aquí, seamos sinceros, Facebook no tiene más responsabilidad que cualquier cadena de TV o cualquier productora de cine.

La sociedad no necesita censores, necesita ejemplos

En el artículo publicado en ABC, el escritor y filósofo Javier Gomá afirma que “la ética y el decoro han de instalarse desde el ejemplo y no a través de la censura o la prohibición. Lo que ocurre es que como vivimos en una época postideológica, en la que hay pocas ideas, cuando alguien tiene pocas ideas tiende a ponerse moralizante y vulgar”. Esta interesante conclusión aporta una esclarecedora pista para comprender la auténtica envergadura de la situación. La sociedad no necesita censores, sean algoritmos o seres humanos, necesita ejemplos que muestren conductas dignas de reconocimiento y admiración. ¿Pero quiénes de todos nosotros están legitimados para personificar esas conductas ejemplares? ¿Y quienes además contarán con la difusión necesaria para ser vistos y reconocidos por la sociedad? Mientras encontramos respuestas, nos tememos que el algoritmo de Facebook seguirá censurando pezones y genitales como si le fuera la vida en ello.