Dejar a los voluntarios a contenido moderado empodera a los racistas

3.8 (77%) 40 votes

YO.

Recientemente, el presidente hizo una mala contribución y mucha gente se enojó. Twitter ocultó la publicación detrás de una advertencia. Snap dijo que ya no promovería la cuenta del presidente. Facebook dijo que la publicación era mala, pero que se mantendría al día y eso volvió loca a muchas personas en Facebook: empleados actuales, contratistas, ex empleados e incluso empleados de la Iniciativa Chan Zuckerberg que no trabajan para Facebook pero que son financiados indirectamente por él.

El cargo de presidente ha provocado muchos debates sobre lo que constituye una violencia incitante, si podría arrojar a un jefe de estado fuera de su plataforma y si las plataformas son jugadas por fascistas. Todas estas son buenas discusiones, aunque en su mayoría parecen evitar un punto importante, a saber, que ahora se lleva a cabo una enorme cantidad de discurso político en una plataforma que es utilizada por 1,73 mil millones de personas al día y cuyas reglas sobre el lenguaje se deciden y se hacen cumplir en última instancia. son propiedad de una sola persona: Mark Zuckerberg, CEO de Facebook, quien controla la mayoría de las acciones de la compañía.

Más adelante este año, podría retroceder si Facebook toma una decisión relacionada con el idioma que no cumple con sus expectativas. Pero no tiene ningún recurso ahora, y esa es una razón por la cual las personas que se enojan en Facebook tienden a hacerlo. De Verdad enojado en Facebook. Saben lo que dicen sobre la relación entre la justicia y la paz: no se puede tener uno sin el otro, y aunque moderar el contenido de Facebook es bueno en muchos sentidos, es difícil exponerlo. sólo.

Una cosa que podría hacer si desea difundir el poder del lenguaje más ampliamente es confiar parte de él a sus usuarios. Una empresa que ha hecho esto con cierto éxito es Reddit, que establece un «piso» para las reglas de idioma (¡no spam!), Pero permite que foros individuales (llamados subreddits) eleven el «piso». Por ejemplo, un subreddit religioso podría prohibir las palabrotas. O un foro relacionado con pensamientos en la ducha podría prohibir la publicación de pensamientos fuera de la ducha. Hablar es mucho más fácil de moderar si las personas en la sala tienen un contexto común con valores e intereses. Por lo tanto, «Quiero leer qué pensamientos tiene la gente en la ducha» es una discusión que se supervisa de manera más efectiva que «Veamos qué tienen que hacer 1,73 mil millones de personas sobre asuntos de actualidad. »

II

La moderación basada en la comunidad también conduce a la injusticia. Por ejemplo, hace seis años, la actitud de laissez-faire de Reddit hacia la moderación resultó en que muchas personas publicaran fotos de desnudos robados en el sitio web sin la aprobación del sujeto de prueba. Reddit ya no permite eso, pero ha permitido muchos discursos abiertamente racistas, incluidos algunos que la compañía incluso reconoce que están destinados a incitar a la violencia. Un gran culpable de todo esto es un foro dedicado al presidente, que ha estado «en cuarentena» detrás de una pantalla de advertencia durante un año.

A medida que las protestas contra el asesinato de George Floyd por la policía se extendieron por todo el mundo, muchas compañías han emitido declaraciones que confirman un nuevo compromiso con la comunidad negra y sus aliados. Reddit hizo tal declaración la semana pasada. La compañía dijo que respondería a la solicitud del cofundador saliente Alexis Ohanian de reemplazarlo en el tablero con una persona negra. Y se reconoció que históricamente fue un refugio para la difusión de la ideología racista. Aquí está el CEO Steve Huffman:

Aunque hemos tratado con muchas comunidades nosotros mismos, todavía no lo hemos dejado claro, y esto se ha demostrado tanto en nuestra aplicación como en la confusión sobre dónde estamos parados. En 2018, dije confusamente que el racismo no está en contra de las reglas, pero tampoco es bienvenido en Reddit. Esta brecha entre nuestras políticas de contenido y nuestros valores ha socavado nuestra eficacia en la lucha contra el odio y el racismo en Reddit. Asumo toda la responsabilidad por ello. […]

Si bien hemos logrado un progreso significativo a lo largo de los años, debemos reflexionar y estar preparados para hacer el trabajo duro para garantizar que cumplamos con nuestros valores en nuestros productos y políticas. Este es un momento importante. Tenemos una opción: volver al status quo o aprovechar esta oportunidad para cambiar. En Reddit elegimos este último y haremos todo lo posible para ser parte del progreso.

La respuesta fue Huffman. llamado por la ex CEO de Reddit, Ellen Pao por no tomar medidas contra subreddits racistas antes. Varios subreddits grandes se han unido para protestar contra el sitio web, ya sea para prohibir temporalmente nuevas publicaciones o para volverse privado para evitar que se unan nuevos usuarios.

La emoción se ha calmado desde entonces, pero las preguntas más difíciles siguen sin respuesta. ¿Cómo puede atraer, entrenar y retener a un ejército de voluntarios para moderar discursos racistas en todos los foros de Reddit? ¿Cuánta responsabilidad deberían tener los moderadores individuales y cuánto debería poseer Reddit? ¿Cuánto de la delegación de Reddit fue realmente solo un incumplimiento del deber?

«Mucho de lo que está sucediendo ahora está a tus pies», dijo Pao dijo Huffman. «No se puede decir a BLM si Reddit promueve y monetiza la supremacía blanca y el odio todo el día».

III.

La moderación descentralizada como Reddit, por supuesto, no es una idea nueva para Facebook. De hecho, la empresa adopta un enfoque similar en los grupos de Facebook, donde la empresa administra foros más pequeños. Zuckerberg dijo que los grupos son las principales prioridades de la empresa, por lo que parece un buen momento para conocer el estado de la moderación allí.

Al igual que con Reddit, los moderadores de grupos de Facebook pueden aumentar el límite de moderación para dar forma a la discusión y prohibir ciertos tipos de publicaciones. en el El bordeAshley Carman tiene una historia importante sobre cómo los grupos de Facebook han lidiado con el reciente aumento en el contenido relacionado con Black Lives Matter. Los moderadores más conservadores adoptaron un enfoque obstinado para eliminar tales publicaciones: No hay pensamientos sin ducha en el foro de pensamientos de ducha! Pero eso ha indignado a los usuarios, quienes ven las continuas protestas y las injusticias que están planteando como cuestiones fundamentales de derechos humanos que vale la pena discutir en cualquier contexto que el orador considere relevante.

Carman escribe:

Boss-Moms es uno de los muchos grupos de Facebook que tratan con pautas de moderación insuficientes cuando los miembros intentan discutir Black Lives Matter. Los grupos, que se centran en los videojuegos, la música y las comunidades locales, son moderados por otros miembros del grupo. Los moderadores no tienen capacitación formal de Facebook o fuentes externas y toman sus propias decisiones sobre qué contenido está permitido y cuál no. La mayoría de los grupos no tienen ningún punto de referencia sobre cómo dar voz a todos. Esto llevó a luchas entre los miembros, las personas que se iban, los grupos temporalmente cerrados y las facciones separatistas.

Muchos grupos no tienen personas de color como moderadores, lo que agrava el problema de moderación. Roop Mangat pertenece a dos grupos locales de Facebook de la comunidad: uno en el que ninguna persona de color o mujer es moderadora, y otro en el que un moderador blanco solo apoya a hombres blancos. Mangat envió el mismo mensaje a ambos grupos e instó a las personas a tomar en serio el racismo en la comunidad. Uno de ellos lo eliminó. «Piensan que todo lo» político «no es apropiado», me dice en Twitter DM. «Sin embargo, permiten la distribución de publicaciones que contienen chismes e información incorrecta». El grupo amenazó con prohibirlos si publicaban nuevamente.

Después de que Carman publicó su publicación, Facebook publicó nuevas recomendaciones para los moderadores para organizar debates en sus foros. Por ejemplo, en lugar de prohibir todas las discusiones «políticas», se pide a los moderadores que quieran evitar la política que prohíban las «discusiones sobre leyes, candidatos políticos o ciertas campañas». También se sugiere que los foros funcionen de manera más integradora y recluten un grupo más amplio de moderadores. La lista completa de sugerencias es considerada y vale la pena leerla. Después de leerlo y ver un video incrustado sobre los peligros del agotamiento de los moderadores voluntarios, me imagino que algunos moderadores simplemente dicen lo mejor y encuentran un nuevo pasatiempo. (Aviv Ovadya hizo;; Tiene una buena lista de problemas que enfrentó como administrador de grupo aquí).

Una dinámica similar está teniendo lugar en la red social NextDoor en el vecindario, donde muchos usuarios negros temen por su seguridad debido a un enfoque de moderación que permite a los usuarios hacerlo. Makena Kelly habló con algunas de estas personas. El bordey descubrió cómo la aceptación demasiado cómoda de la compañía de la moderación de la comunidad condujo a puntos ciegos considerables.

Este enfoque sin manos hace que Nextdoor sea tan grande como es. Al externalizar la moderación a voluntarios no capacitados y no remunerados, la compañía pudo expandirse a más de 200,000 vecindarios en todo el país. También ha permitido a los miembros de la comunidad eliminar publicaciones que personalmente no les gustan. En todo el país, las protestas públicas de los mensajes de al lado de los moderadores de la comunidad han sido sofocadas, mientras que los mensajes racistas e inflamatorios, algunos de los cuales exigen violencia directa contra los negros y los manifestantes, permanecen.

Los clientes potenciales no pasan por el entrenamiento formal de Nextdoor antes de que se les permita atacar puestos. Las pautas enumeradas en el sitio web son lo suficientemente vagas como para que los clientes potenciales las interpreten de diferentes maneras. Tampoco hay reglas para promover la diversidad en la gestión de la moderación. En un foro privado, conocido como National Leads Forum, según lo informado por primera vez por Noticias de BuzzFeed – Algunos moderadores de la comunidad estaban enojados por la decisión de Nextdoor de apoyar el movimiento Black Lives Matter. Aproximadamente al mismo tiempo que la compañía lanzó su declaración pública la semana pasada, se publicó el mismo idioma en las fuentes de al lado, lo que enfureció a algunos moderadores activos en el foro privado.

«Me gustaría ver a Nextdoor lanzar un» White Lives Matter «. [post]»Escribió un moderador de Orlando, Florida.» ¡A veces tenemos que recordar que toda la vida es importante! «

IV.

Para resumir de nuevo: un enfoque para moderar el contenido es confiar todo el lenguaje humano a una sola persona y exponer a la base de usuarios a sus decisiones sin un recurso práctico. Otra opción es confiar la moderación a un grupo de voluntarios no remunerados sin tener en cuenta la diversidad, la capacitación o los valores de ese grupo, y esperar que no lo avergüencen demasiado en el camino.

Quizás pueda ayudar a mejorar el sistema anterior estableciendo un grupo independiente de expertos para dar opiniones vinculantes sobre temas controvertidos. Y tal vez pueda mejorar esto último ofreciendo a los voluntarios más capacitación, más recursos de salud mental y dinero real para su trabajo.

Sin embargo, dado que las discusiones sobre racismo e injusticia conducen a foros en Internet, está claro que los mecanismos que las compañías han desarrollado hasta ahora a menudo no respaldan esta conversación. Como resultado, las injusticias fuera de línea se repiten en el idioma en línea. Si bien Silicon Valley está considerando cómo las empresas pueden apoyar a las personas negras, sus aliados y otras minorías, la moderación debería ser una prioridad.

La relación

⬆️ Tendencia ascendente:: :: Tinder dijo que dejaría de prohibir a los usuarios publicar eventos para recaudar fondos para Black Lives Matter en sus perfiles. Las políticas de la empresa generalmente prohíben a los usuarios usar sus cuentas con fines publicitarios. (Julia Reinstein / BuzzFeed)

⬆️ Tendencia ascendente: Las compañías tecnológicas escriben grandes cheques a grupos que luchan contra la injusticia racial. ¿Continuarán las acciones más allá del momento actual? (Sofie Kodner / protocolo)

⬆️ Tendencia ascendente:: :: Instacart El producto ha sido optimizado para evitar el «cebo de puntas». Las personas contrataron compradores de Instacart con la promesa de grandes propinas y cancelaron las propinas después de que les entregaran sus compras. (Nick en su lugar / El borde)

⬇️ Tendencia a la baja: Tres empleados de Amazon demandan a la empresa por no seguir adecuadamente y evitar la propagación de COVID-19 en sus campamentos. (Annie Palmer / CNBC)

⬇️ Tendencia a la baja: Al menos dos trabajadores por contrato para Facebook dicen que fueron despedidos de su empleador directo, WiPro, después de sindicalizar actividades. (Caroline O’Donovan / BuzzFeed)

Gobernar

Facebook y Gorjeo eliminó un video homenaje a George Floyd después de una queja de derechos de autor. La eliminación desencadenó una nueva ronda de tuits indignados del presidente. Vlad Savov y Melissa Cheok informan:

La cuenta de @ TeamTrump había tuiteado un collage de videos y fotos que mostraban protestas pacíficas, momentos de duelo y policías que abrazaban a civiles bajo custodia policial después del asesinato de un afroamericano, George Floyd. Acompañado por una banda sonora de piano suave y el discurso del presidente Donald Trump sobre «curación en lugar de odio», instó a los estadounidenses a unirse.

El video, que todavía está en el canal de YouTube del presidente, parece haber reunido la mayor parte de su contenido de las publicaciones en las redes sociales, y al menos un propietario de derechos de autor se ha quejado a Twitter por usar su foto, dijo un portavoz de la compañía La colina.

Medidas contra Trump por Gorjeo y Chasquido han llevado a la compañía a adoptar una postura similar hacia otros políticos de todo el mundo. Las ONG dicen que las compañías estadounidenses están prestando atención similar a situaciones similares en lugares como India, Brasil y Myanmar. (Pranav Dixit y Megha Rajagopalan / BuzzFeed)

Gorjeo Los sitios de fanáticos se han rediseñado para participar en protestas contra Black Lives Matter. Los personajes de K-Pop nunca han usado mejor su compromiso masivo. (Kaitlyn Tiffany / El Atlántico)

Los rumores se están extendiendo. Facebook La pequeña ciudad de Estados Unidos teme que los autobuses llenos de súper soldados de Antifa lleguen a sus ciudades y causen el caos. (Russell Brandom / El borde)

Facebook hace que sea más difícil encontrar grupos relacionados con «Boogaloo», una idea alentada por los supremacistas blancos de que Estados Unidos está al borde de una segunda guerra civil. Los grupos ya no se muestran en las recomendaciones. Me gustaría saber cuántas personas se han unido a estos grupos después de haber sido recomendados hasta ahora. (Joseph Menn / Reuters)

Facebook eliminó dos redes de cuentas no auténticas en mayo. Las redes con sede en Túnez e Irak parecen haber sido utilizadas para difundir propaganda e influir en las elecciones.

Las grandes compañías tecnológicas reaccionan mucho más agresivamente a la muerte de George Floyd que a la muerte de Michael Brown y otras víctimas negras de la brutalidad policial. (Jay Peters / El borde)

Trump gastó un récord de $ 1.48 millones Google Publicidad, la mayor cantidad de dinero que su campaña ha gastado en una semana hasta ahora. (Eric Newcomer y Mark Bergen / Bloomberg)

Mientras tanto, Joe Biden gastó $ 5 millones Facebook Publicidad en los últimos días. (Shane Goldmacher / New York Times)

Las autoridades antimonopolio de Estados Unidos contra Google están investigando su producto de búsqueda. Pato Pato a ganar dijo que habló con los reguladores sobre cómo Google usa su posición de búsqueda dominante para perjudicar a sus rivales. (Gerrit De Vynck / Bloomberg)

Amazonas utiliza un espacio publicitario importante para promocionar sus propias marcas durante la pandemia, que puede desempeñar un papel en la regulación antimonopolio. (Renee Dudley / ProPublica)

Los trolls en línea usaron «golpes», la táctica de provocar una respuesta de emergencia fuertemente armada a la casa de otra persona, debido a la alta probabilidad de que la policía intensifique el conflicto. «La brutalidad policial es un servicio a pedido en los Estados Unidos», escribe TC Sottek. (El borde)

ByteDance dijo que restringiría el acceso de los ingenieros chinos Garrapata y otros productos en el extranjero. La medida se produce a medida que ByteDance se está analizando cada vez más en los Estados Unidos, ya que el gobierno chino puede acceder a los datos de los usuarios estadounidenses. (Chen Du / PingWest)

Francia Creación de un fondo para evitar que los compradores extranjeros compren empresas nacionales de tecnología. (Helene Fouquet / Bloomberg)

Industria

Instagram Ahora los usuarios deben obtener el permiso del fotógrafo antes de incrustar imágenes en la web. Si no lo hace, puede estar sujeto a una demanda por derechos de autor. Esto parece ser un desastre. Aquí está Timothy B. Lee en Ars Technica:: ::

Es probable que los fotógrafos profesionales acojan con beneplácito la decisión, ya que fortalecerá su mano en las negociaciones con los editores. Pero también podría cambiar significativamente la cultura de la web. Hasta ahora, las personas generalmente han sido libres de insertar publicaciones de Instagram en sus propios sitios web sin preocuparse por los problemas de derechos de autor. Esto podría cambiar pronto.

Es Documentos de Google ¿»Las redes sociales de resistencia»? “Durante la semana pasada, Google Docs surgió como una forma de compartir todo, desde listas de libros sobre racismo hasta plantillas para cartas a familiares y representantes, a listas de fondos y recursos que aceptan donaciones. Los Google Docs compartidos que cualquiera puede ver y editar de forma anónima se han convertido en una herramienta valiosa para la organización de base, tanto durante la pandemia de coronavirus como durante las protestas contra la brutalidad policial en los Estados Unidos. «(Tanya Basu / MIT Tech Review)

Por otro lado: el gobierno solicitará Documentos de Google ¿Los datos ponen en peligro a los manifestantes? (Chris Stokel-Walker / protocolo)

Amazonas El departamento de recursos humanos altamente automatizado está luchando con el peso de las solicitudes de baja por enfermedad durante la pandemia. Los trabajadores estaban frustrados porque no podían obtener ayuda de la gente. (Matt Day / Bloomberg)

Podría haber sido la semana pasada GorjeoLa mejor semana de mi vida. Las compañías de medición de terceros dijeron que tenían descargas récord ante las protestas de brutalidad policial global y las noticias de pandemia. (Sarah Perez / TechCrunch)

Enfocar Hay una buena razón para no ofrecer a nadie con una dirección de correo electrónico cifrado gratuito de extremo a extremo. Los servicios de video en vivo se han utilizado para coordinar el abuso infantil. (Dan Goodin / Ars Technica)

Se estima que uno de cada cinco niños no tiene la tecnología que necesitan para el aprendizaje a distancia. E incluso aquellos que no parecen aprender tanto parecen estar buscando citas tempranas. (Tawnell D. Hobbs y Lee Hawkins / Wall Street Journal)

ByteDance apagar TopBuzz, una aplicación de agregación de noticias occidental. Por esta razón, le recomendamos que reciba todos sus mensajes de La interfaz. (Yingzhi Yang y Brenda Goh / Reuters)

telegrama Se agregaron nuevas herramientas de edición de video y stickers animados. ¡Algo para darle vida a tus chats de criptomonedas! (Taylor Lyles / El borde)

Cosas para hacer

Busque empresas de propiedad negra Aullido. Y luego apoyarlos!

Doomscroll! O al menos familiarícese con el término, que probablemente sea uno de los neologismos del año.

Estos buenos tweets

Háblanos

Envíenos consejos, comentarios, preguntas y publicaciones de Karen de Nextdoor: casey@theverge.com y zoe@theverge.com.

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *