Por primera vez, un país ha resuelto acusaciones vinculadas a prohibiciones de contenido en una red social. Así es, se trata de Tumblr, que deberá reformular sus procesos de apelación de los usuarios de la comunidad LGBTIQ y el contenido de pornografía que aún se publica en la red.
Según publica The Verge, la Comisión de Derechos Humanos de Nueva York y Tumblr, acordaron que la red social revise sus procedimientos para la apelación de los usuarios y que se capacite a los moderadores en temáticas relacionadas con la diversidad y la inclusión de grupos.
A la vez, está obligada a analizar centenares de miles de casos antiguos que había dejado de repasar y a contratar a expertos para buscar potenciales sesgos en sus algoritmos de moderación.
Aunque el proceso no ha involucrado una denuncia en la Justicia, el acuerdo, que fue rubricado en enero, es el primero de relevancia en el un organismo regulador ordena hacer modificaciones en las políticas de una red social debido a sesgos en los algoritmos.
Este caso en particular se inició en 2018 luego de que Tumblr decidiera prohibir contenidos sexuales explícitos y escenas de desnudez con un sistema de borrado automático que, de acuerdo con los usuarios, tenía numerosos errores y borraba contenido que no encajaba en esas condiciones.
El caso Tumblr
Según la Comisión de Derechos Humanos de Nueva York, tomaron el caso luego de analizar que el algoritmo estaba afectado a los usuarios LGBTIQ.
¿Por qué actuaron? El organismo respondió: “Si alguien hace negocios en la ciudad de NY, tenemos toda la autoridad para hacer investigaciones para saber si su accionar afecta a las personas”.
Las acciones de la Comisión de Derechos Humanos de Nueva York se basan en la Ley de Derechos Humanos de NY, que otorga amplias protecciones frente a prejuicios basados en categorías como las identidades de género y las orientaciones sexuales.
Según lo firmado, Tumblr tiene seis meses para contratar a expertos en temas de orientación sexual e identidad de género para que brinden capacitaciones a los moderadores humanos.
También Tumblr está obligada a contratar a gente con experiencia en estas áreas y en clasificaciones de imágenes, quienes revisarán el algoritmo de moderación de Tumblr.
Por otra parte, Tumblr tiene que volver a analizar con detenimiento tres mil casos antiguos en los que los usuarios hayan apelado una eliminación.
La compañía dueña de WordPress.com, Automattic, que le compró Tumblr a Verizon en 2019, ayudó a la Comisión de Derechos Humanos de Nueva York en el caso.
Según los analistas expertos en tecnologías, este caso podría marcar el comienzo de una tendencia regulatoria en Estados Unidos y otros países, en el que las empresas de redes sociales estén sometidas a mayores regulaciones gubernamentales.
Hay que recordar que entre las eliminaciones de Tumblr se cuentan a “Tony the tiger” (mascota de Kellogg’s), “Mary Jane” (de Spider Man) y el actor Eugene Levy (padre de Jim en American Pie).
Lee más:
Marketing digital más relaciones públicas puede ser un boom
Mercado Libre aplicará algoritmos contra precios falsos en El Buen Fin
Redes sociales y el mundo post-pandemia: ¿Tu marca sabe dominar los algoritmos?
