Facebook tomó una publicación que contiene pasajes de la Declaración de Independencia. Diciendo que eran discursos de odio. Desde entonces, se ha disculpado. Aunque el algoritmo puede haberse justificado al marcar el material.
Un periódico de Texas llamado Liberty County Vindicator decidió celebrar el 4 de julio. Al publicar extractos de la Declaración de Independencia. La décima publicación de esta serie, con los párrafos 27-31, fue eliminada de la lista de programación de Facebook del periódico. Y se notificó al periódico que había violado los estándares del discurso de odio.
Facebook finalmente restauró la publicación, que el editor de Vindicator Casey Stinnet reconoció en un artículo en el sitio web del periódico.
Facebook publicó una publicación en el blog de Hard Questions sobre sus Normas de la Comunidad. En la que abordaba las complejidades del discurso de odio. En él, Richard Allan, vicepresidente de política pública. Dijo que la compañía estaba tratando de tener en cuenta el contexto y la intención detrás del discurso. Pero reconoció que no siempre fue exitoso al hacerlo. También dijo, » estamos muy lejos de poder confiar en el aprendizaje automático y la inteligencia artificial para manejar la complejidad involucrada en la evaluación del discurso de odio».
Más recientemente, Facebook dio números duros sobre la cantidad de publicaciones problemáticas detectadas por su algoritmo antes de que fueran reportadas por los usuarios. Y el discurso de odio fue el más bajo, con una tasa de éxito de solo 38 por ciento. El VP de Facebook de gestión de productos, Guy Rosen, atribuyó la dificultad a la hora de determinar el contexto.
En el caso de este documento histórico, el editor Stinnet señaló legítimamente que contiene la frase «los despiadados indios salvajes», que… sí. Si esa es la frase que activó las alarmas de Facebook. Es comprensible por qué consideraría ese discurso de odio.
Pero esto apunta a un agujero en el aprendizaje de la IA. A saber, muestra que el algoritmo de odio de Facebook tiene poca comprensión del contexto histórico y la disonancia cultural detrás de esas palabras. Y como mínimo, debe incluir el texto de un documento importante como este para saber qué evitar en el futuro.
