Algoritmos Morales

.

POR Karim Ganem Maloof

Enero 27 2021

 

El pasado domingo 25 de septiembre, Facebook nos notificó que había retirado un contenido de nuestra página, y amablemente nos invitó a evitar la suspensión de nuestra cuenta eliminando todas las otras publicaciones que pudieran violar sus políticas. La foto en cuestión (con los retoques necesarios) es la que ven abajo, y hace parte de la colección de estampas etnoeróticas que Lenhert y Landrock se dedicaron a tomar en el norte de África a principios del siglo XX.
Los usuarios de la red están en su derecho de sentirse ofendidos y de mirar para otro lado, pero quienes tienen en sus manos la posibilidad de censurar la información en un medio de comunicación de alcance global deberían tener algo de criterio. Y es precisamente lo del criterio aquello que Facebook (negando rotundamente ser un medio de comunicación) trata de inculcarles a sus bots, programas que manejan algoritmos para identificar y eliminar contenido prohibido, a través de la vieja táctica de ensayo y error.
Hace poco, la Warner Bros fue objeto de burlas porque uno de estos bots (creado por una empresa que monitorea la red en busca de contenidos que infrinjan leyes de derechos de autor) expidió n solicitudes para bloquear sitios que ofrecían la reproducción y descarga de "Batman: el caballero de la noche", incluyendo algunos sitios de la misma Warner Bros, Amazon e eBay. Paul Sieminski, abogado de Word Press, hizo una publicación en Facebook sobre el asunto y aprovechó para burlarse sobre la idiotez de los bots, uno de los cuales procedió a bloquear su publicación de forma errónea. 
Veamos otro caso. Hace tres semanas, Facebook eliminó el post de un periodista noruego que colgó la famosa foto de la niña del napalm. La imagen solo pudo ser colgada de nuevo tras el barullo de periodistas de todo el mundo y del mismo Estado noruego. Pero vayamos más atrás. Hace un par de años, los usuarios se burlaban, algunos con sevicia, otros creyéndolo falso, de un video que mostraba la muy real decapitación de una mujer por parte de un par de miembros de los Zetas, una banda de narcos mexicanos. Por primera vez denuncié un contenido, pensando que violaba la dignidad de la implicada, de su familia, de cualquiera. La intención del contenido es fundamental: la foto de la niña vietnamita se convierte en registro histórico y condena. El video de los Zetas en cambio es una herramienta de intimidación que además insensibiliza. Pero no fue retirado de la red social, por haber sido entendido como un tierno intento de cine gore por bots con la inteligencia artificial de un gringo de provincia.
En el caso de nuestra postal erótica, bastante inofensiva, no queda claro si fue un humano quien revisó el contenido o si fue un bot el que registró la queja y ejecutó la sentencia (pero no pedimos, por ahora, que nuestro gobierno se ponga en los trances que pasó el rey noruego). Somos objeto de ese experimento en el que la informática trata de calcular los infinitos matices de la expresión humana, y aunque las matemáticas son igual de infinitas, lo limitado es nuestra capacidad para ajustarlas.

ACERCA DEL AUTOR


Karim Ganem Maloof

Fue editor en jefe de El Malpensante. Sus textos han aparecido en medios de Colombia, España y Estados Unidos. En 2020 recibió el Premio Nacional de Periodismo Simón Bolívar en la categoría de humor por “El cordero crudo de El Vegano Arrepentido”, publicado en esta revista. Tiene una columna mensual en El Espectador, llamada “Calor residual”, dedicada a asuntos del paladar.