Publicado originalmente en themarkup.org

A diferencia de otros gigantes tecnológicos, Amazon no dirá cuántos trabajadores revisan las publicaciones

Un temporizador comenzó en el momento en que inició sesión en su escritorio. Escanearía una publicación de un producto marcado por alguien como falsificado, buscaría hechos y decidiría si el artículo debe retirarse del mercado de Amazon. Dijo que dio toda la investigación unos tres minutos, y luego el temporizador se reinició.

"Puedes olerlo en el piso cuando llegas allí: la tensión y el estrés de todos en este sistema métrico y en este reloj", dijo el ex investigador de Amazon en el equipo de abuso de mercado de la compañía. Se fue en 2018 y pidió no ser identificado, por temor a hablar en público obstaculizaría su empleo en la industria.

Él y otro ex empleado de Amazon, Rachel Johnson Greer, que dejó la compañía en 2017, dijeron que la compañía les exigía realizar unas 20 tareas de revisión por hora.

"Vas más rápido que 19 por hora, así que tienes descansos", dijo Greer, quien revisó los pedidos de los clientes por posibles fraudes después de unirse a Amazon en 2007. No cumple con su cuota, dijo Greer, y "te ponen en un plan de mejora del rendimiento … y te manejas ".

El aluvión de casos sospechosos que estos ex empleados revisaron rápidamente son indicativos de un problema mayor: los malos actores están llegando a la plataforma, y ​​no está claro que Amazon tenga una estrategia viable para poner fin al abuso.

El mes pasado, una investigación by The Markup descubrió que Amazon no pudo detener las publicaciones de productos prohibidos por sus propias reglas. Llenamos un carrito de compras con “bongs de marihuana,‘kits de dab"Solía ​​inhalar concentrados de cannabis," galletas "que se pueden usar para drogarse con óxido nitroso, y los compuestos que según las revisiones se usaron como drogas inyectables". Le proporcionamos a Amazon Enlaces a cada uno de nuestros hallazgos, y la mayoría fueron eliminados.

Amazon es el minorista más grande del planeta y un objetivo atractivo para fraude y revisión falsa esquemas y vendedores de terceros, según los informes, hawking bebé peligroso asientos de carro, comida vencida o falsos cargadores de manzana etiquetado como la cosa real. Su librería, la más grande del mundo, y su negocio de autoedición también han sido criticados por distribuir información errónea y contenido nacionalista blanco.

YouTube, Facebook y Twitter están contando públicamente con llamadas para mejorar la moderación de contenido y se han comprometido a expandir sus ejércitos de profesionales de revisión y ser más transparentes sobre cuánto eliminan y por qué. Amazon, por el contrario, se ha mantenido relativamente silencioso y opaco.

"Las plataformas sociales han pasado los últimos cuatro años pensando en cómo manejar la información errónea", dijo Renée DiResta, gerente de investigación técnica en el Observatorio de Internet de Stanford, "donde no parece que Amazon lo haya hecho".

Facebook ahora tiene alrededor de 30,000 moderadores de contenido, y Twitter, una compañía más pequeña, duplicó su fuerza laboral de moderación de contenido a 1,500 en los últimos años, según The Washington Post. En 2017, Susan Wojcicki, CEO de YouTube, anunció en una publicación de blog que Google, en respuesta a la protesta pública sobre contenido ofensivo y violento en YouTube, expandiría su fuerza laboral responsable de revisar el contenido a más de 10,000 personas.

En una declaración escrita a The Markup, el portavoz de Amazon, Patrick Graham, se negó a decir específicamente cuántas personas revisan el contenido o si Amazon ha aumentado esa fuerza laboral en los últimos años.

Graham dijo que en 2019, Amazon invirtió más de $ 500 millones y más de 8,000 empleados en "proteger nuestra tienda del fraude y el abuso". Ese número podría incluir ejecutivos, programadores, abogados u otros empleados. En una pregunta de seguimiento, Graham declinó especificar cuántos empleados moderan específicamente el contenido.

Cuando se le preguntó sobre la cuota por hora, Graham dijo que la compañía prioriza la precisión y mide la productividad junto con "una variedad de dimensiones para evaluar el desempeño laboral general de un empleado".

Graham también declinó comentar si la compañía apoyó Principios de Santa Clara, un conjunto de prácticas voluntarias de moderación de contenido que incluyen publicar el número de eliminaciones de publicaciones y suspensiones de cuentas, notificar y proporcionar explicaciones a los usuarios afectados e implementar un sistema de apelación.

El año pasado, el Fundación Electronic Frontier informó que Facebook, LinkedIn, Medium, Snap, Tumblr y YouTube apoyan la iniciativa.

Adicionalmente, Facebook, Gorjeoy Youtube sin embargo, todos emiten informes de transparencia, como señaló el grupo de defensa New America en su evaluación de esos informes el año pasado, las compañías no dieron una imagen completa de las cifras de desmontaje.

Amazon proporciona incluso menos datos al público que sus pares. en un informar al Congreso a principios de este año, la compañía declaró que bloqueó la publicación de más de seis mil millones de "supuestos listados malos". Pero se negó a proporcionar información a The Markup sobre el número de publicaciones marcadas, el número de cuentas suspendidas, las reglas que se violaron o cómo se marcaron; la información mínima que recomiendan los Principios de Santa Clara se hará pública.

Lo que sí sabemos es que Amazon, como otras plataformas importantes, depende en parte de herramientas automatizadas para vigilar sus páginas. La empresa dice Sus herramientas son capaces de revisar cientos de millones de productos en cuestión de minutos.

Aún así, los informes de The Markup muestran que el sistema de Amazon no es perfecto.

Algunos vendedores parecían tratar de evadir las herramientas automatizadas de Amazon con simples trucos: evitaban o escribían mal las palabras o clasificaban incorrectamente la lista. En un caso, encontramos bongs de marihuana listados como "jarrones" en la decoración del hogar. Muchos fueron Todavía arriba al momento de escribir esto.

En un correo electrónico a The Markup en ese momento, el portavoz de Amazon, Patrick Graham, dijo que la compañía tiene "medidas proactivas para prevenir la inclusión de productos sospechosos o prohibidos", y que los vendedores son responsables de seguir las reglas y elegir la categoría correcta.

"Si se encuentran productos que están en contra de nuestras políticas en nuestro sitio, eliminamos de inmediato la lista, tomamos medidas contra el mal actor y mejoramos aún más nuestros sistemas", dijo Graham.

Sin embargo, dicen los expertos, el enfoque de Amazon en el crecimiento hace que el abuso sea difícil de eliminar por completo.

"Su propio modelo de negocios es defectuoso … permitir que cualquiera con muy poca investigación pueda vender casi cualquier cosa, ese es el problema fundamental", dijo Natasha Tusikov, profesora asistente de la Universidad de York en Toronto y autora de "Chokepoints: Global Private Regulation of Internet". . "

"Es imposible eliminar a todas las personas que están tratando de evadir las regulaciones gubernamentales o defraudar a las personas, porque se requiere muy poco de ellas cuando se registran", dijo.

Graham no estuvo de acuerdo con esta afirmación, afirmando que "los procesos de verificación de vendedores de Amazon están diseñados para facilitar que los vendedores honestos creen una cuenta rápidamente mientras frustran los intentos de los estafadores". Agregó que la compañía recopila datos sobre nuevos vendedores y busca validarlos, en parte, en máquinas exhaustivas.

Las preocupaciones sobre qué tan bien Amazon supervisa su contenido se extienden a la librería masiva de la compañía y al brazo editorial.

A principios de este año, ProPublica y The Atlantic descubrieron 200 recomendaciones de libros curadas por y para nacionalistas blancos en una sala de lectura fueron publicados por Amazon.

"Amazon, que en los Estados Unidos controla alrededor de la mitad del mercado de todos los libros, y cerca del 90% de los libros electrónicos, se ha convertido en una puerta de entrada para que los supremacistas blancos lleguen al público lector estadounidense", afirmó la investigación.

El artículo informaba que varios títulos mencionados fueron eliminados de Kindle Direct Publishing.

"Como librero, creemos que es importante proporcionar acceso a la palabra escrita", dijo Graham en un correo electrónico a The Markup, repitiendo la respuesta de la compañía en el artículo. "Invertimos mucho tiempo y recursos para garantizar que se sigan nuestras pautas y eliminemos los productos que no cumplan con nuestras pautas".

DiResta, de Stanford, descubrió que el algoritmo de Amazon enumeraba la literatura antivacunación como el "Mejor vendedor # 1" en las categorías como Pediatría de emergencia e Historia de la medicina. No fue hasta el duodécimo lugar en la lista que apareció un libro que contrarresta el punto de vista antivacunación, dijo.

"Los algoritmos de curación son en gran medida amorales", escribió DiResta en una pieza de 2019 para Wired sobre sus hallazgos. "Están diseñados para mostrarnos cosas que estadísticamente es probable que queramos ver, contenido que personas similares a nosotros han encontrado interesante, incluso si es algo que no es confiable o potencialmente dañino".

Buscar vacunas infantiles en la librería de Amazon, y los títulos contra la vacunación todavía se encuentran entre los mejores resultados.

Adelin Cai, anteriormente de Pinterest y Twitter, dijo que tanto la revisión humana como la detección de máquinas son críticas para hacer que las plataformas sean lo mejor posible. Estas herramientas, señaló, pueden escanear imágenes potencialmente dañinas "sin someter (al personal) a una gran exposición al contenido inadecuado".

Pero Cai no cree que la automatización reemplace completamente el juicio humano, incluso a medida que la industria madura y la IA avanza.

"Nada reemplaza la capacidad de la mente humana para ser ágil y comprender el contexto", dijo Cai.

El mes pasado, Cai y Clara Tsao, ex compañera y jefe de tecnología de Mozilla de un grupo de trabajo interinstitucional contra el extremismo del gobierno de los Estados Unidos, lanzaron la primera organización profesional basada en la membresía para el campo de la confianza y la seguridad Asociación profesional de confianza y seguridad. (También lanzaron una fundación correspondiente dedicada a la educación, estudios de caso y la investigación.)

Google, AirBnB, Slack y Facebook son solo algunos de la lista repleta de estrellas de fondos inaugurales del grupo.

Amazon no está entre ellos.

Este articulo fue publicado originalmente en The Markup por Annie Gilbertson, y se volvió a publicar bajo el Creative Commons Reconocimiento-No Comercial-Sin Derivados licencia.

Publicado originalmente en themarkup.org

Leer a continuación:

Con Ashampoo 3D CAD 7, no hay proyecto de diseño o construcción que no pueda hacer realidad

Pssst, ¡hola!

¿Desea recibir el boletín técnico diario más atrevido todos los días, en su bandeja de entrada, GRATIS? Por supuesto que sí: regístrate en Big Spam aquí.

Deja un comentario