Los empleados que se quejaron por la falta de moderación dicen que fueron marginados
A principios de este año, cuando Twitter se apresuró a implementar Spaces, su nueva función de chat de audio en vivo, algunos empleados preguntaron cómo planeaba la compañía asegurarse de que el servicio no se convirtiera en una plataforma para el discurso de odio, el acoso y las llamadas a la violencia.
De hecho, no había ningún plan. En una presentación a sus colegas poco antes de su lanzamiento público en mayo , un alto ejecutivo de Twitter, Kayvon Beykpour, reconoció que es probable que las personas rompan las reglas de Twitter en los chats de audio, según un asistente que habló bajo condición de anonimato para describir asuntos internos. . Pero él y otros ejecutivos de Twitter, convencidos de que Spaces ayudaría a revivir a la lenta empresa, se negaron a frenar.
Avanzamos seis meses y esos problemas se han convertido en realidad. Los partidarios de los talibanes, los nacionalistas blancos y los activistas contra las vacunas que sembraron información errónea sobre el coronavirus han presentado transmisiones de audio en vivo en Spaces que cientos de personas han sintonizado, según investigadores, usuarios y capturas de pantalla vistas por The Washington Post. Las conversaciones de otros espacios han menospreciado a las personas transgénero y los afroamericanos . Estos chats no están controlados ni moderados por Twitter, reconoce la compañía, porque no cuenta con moderadores humanos ni tecnología que pueda escanear audio en tiempo real.
“Estimado @TwitterSafety, los reclutadores de ISIS están activos en Twitter Spaces. Están incitando abiertamente al genocidio de los chiítas ”, escribió un usuario de Twitter a finales de noviembre, que incluyó un breve clip grabado de un chat de Spaces en el que un usuario hacía comentarios despectivos sobre los musulmanes chiítas. Dos personas que participaron en la conversación de una hora, incluido un periodista afgano, dijeron a The Washington Post que el anfitrión declaró su apoyo al grupo terrorista Estado Islámico y dijo que los musulmanes chiítas merecían morir.
El lanzamiento fallido de Spaces es una señal de cómo la agitación en curso en Twitter está haciendo que pase por alto el odio, la polarización y el extremismo, y que repita los errores que han plagado durante mucho tiempo a las empresas de Silicon Valley. Twitter en particular ha tenido problemas bajo el liderazgo ausente en los últimos años. La semana pasada, el CEO Jack Dorsey renunció inesperadamente en medio de una campaña de inversores para innovar más rápidamente.
Esa presión de los inversores llevó a la compañía a "enviar rápido y aprender en público", lanzando productos antes de que se prueben para su seguridad, dijeron empleados actuales y anteriores que hablaron bajo condición de anonimato para discutir asuntos delicados. Es un espíritu que a menudo ha fracasado en las plataformas sociales, incluso tan recientemente como en octubre, cuando un denunciante de Facebook presentó documentos que mostraban que el gigante de las redes sociales era consciente de los daños sociales que causaban sus productos. En muchos casos, siguió adelante con ellos de todos modos.
Ahora, a medida que las empresas de redes sociales se lanzan a nuevos escenarios, desde el audio hasta la realidad virtual y las criptomonedas, corren el riesgo de no implementar las lecciones del pasado. Incluso antes de que se lanzara Spaces a los más de 200 millones de usuarios diarios de Twitter, los empleados comenzaron a generar alarmas sobre el potencial de las transmisiones de audio en vivo para sembrar el odio y el extremismo. Pero aquellos que pidieron que Twitter se desacelere han sido marginados por los gerentes, según cuatro empleados actuales y anteriores que hablaron bajo condición de anonimato para discutir asuntos delicados.
El nuevo director ejecutivo de Twitter, Parag Agrawal , no perdió tiempo en anunciar una importante reorganización de la empresa la semana pasada. Echó por la borda a dos ejecutivos, incluido uno que había sido contratado para "desintoxicar" la plataforma , mientras consolidaba el poder sobre los productos principales de la compañía bajo el duro Beykpour. Ninguno de esos productos es más central para la estrategia de crecimiento de la compañía que Spaces, según los empleados, donde Twitter cree que tiene la oportunidad de convertirse en un líder en el nuevo medio de audio en vivo.
"Garantizar la seguridad de las personas y fomentar conversaciones saludables, mientras ayuda a los anfitriones y oyentes a controlar su experiencia, han sido prioridades clave desde el comienzo del desarrollo [de Spaces]", dijo la portavoz Viviana Wiewall, quien reconoció la falta de moderación en tiempo real para el audio. . "Estamos explorando vías en este sentido, pero no es algo que tengamos disponible en este momento".
Wiewall señaló que la tecnología que podía escanear audio en tiempo real no existía actualmente o estaba en etapas incipientes. Pero dijo que existen algunas defensas contra el contenido de audio dañino. Eso incluye el uso de software existente que detecta palabras clave problemáticas, como insultos racistas, para escanear los títulos de los chats de Spaces, así como también depender de los usuarios para informar sobre el contenido potencial que infringe las reglas.
Pero este sistema de seguridad ya no ha podido detectar varios Espacios dañinos y que infringen las reglas, incluido uno alojado por los usuarios en noviembre titulado "Seamos honestos, las tr @ nsmujeres nacen deshonestas, fraudulentas, mentirosas y engañosas" y otro llamado "Pregunte un nacionalista blanco cualquier cosa ".
Un tercero, titulado en parte "Blck PPL merece NUFFIN", al que asistieron 400 oyentes en noviembre, probablemente evitó la detección de palabras clave porque otra parte del título escribió mal la palabra n.
Peor aún, el software de Twitter ayudó por error a que algunas de estas conversaciones se volvieran virales. El software de la compañía identificó los chats como populares porque muchos oyentes los estaban sintonizando y, como resultado, los promovió a más usuarios. Wiewall reconoció el problema y lo culpó a un "error" de software que, según ella, se había solucionado.
“El incendio de un contenedor de basura ni siquiera describe” la forma en que se manejó Spaces, dijo un ex miembro de ese equipo. Agregaron que el liderazgo caótico y arrogante conducía a los problemas. "Cuando trabajas en algo durante meses y nadie está reuniendo hallazgos sobre lo mal que la gente podría usar esto, entonces no es sorprendente que meses después tengas talibanes o racistas usando la plataforma".
Los empleados actuales y anteriores dijeron que otros productos también se han lanzado demasiado apresuradamente en medio de la renovada presión de Wall Street para crecer: un servicio llamado Tip Jar, que permite a los usuarios de Twitter dar pagos a otros usuarios que publican contenido como actuaciones o comedia. rutinas, terminó invadiendo la privacidad de las personas cuando inadvertidamente expuso las direcciones de las personas poco después de su lanzamiento en mayo. Twitter dijo que el problema fue culpa de PayPal, pero posteriormente agregó una etiqueta de advertencia que le permite a las personas saber que su información personal podría estar expuesta.
A medida que los gigantes tecnológicos incursionan en nuevos territorios, los expertos y los legisladores dicen que no han resuelto sus problemas actuales y podrían amplificarlos aún más con tecnologías más nuevas y menos moderadas.
“Twitter pasó seis años creando un sólido conjunto de procedimientos para eliminar contenido peligroso de su plataforma. Y luego creó una plataforma completamente nueva en la que esos procedimientos no funcionan ”, dijo Emerson Brooking, investigador senior residente del Laboratorio Forense Digital del Atlantic Council que estudia cómo los extremistas usan las redes sociales. "Spaces está totalmente desgobernado".
La carrera por el audio
Twitter se apresuró a desarrollar su herramienta de audio el año pasado en medio de una intensa competencia de un competidor advenedizo de chat de audio llamado Clubhouse. El rival habilitó un panel de locutores en una “sala” virtual para mantener una conversación en vivo. Los anfitriones pueden invitar a los miembros del público "al escenario".
Lanzado en marzo de 2020, Clubhouse aumentó a 10 millones de usuarios activos cuando las celebridades y otros recurrieron al audio para el tipo de conversaciones íntimas y espontáneas y eventos interactivos en vivo que ya no eran posibles durante la pandemia.
Casi al mismo tiempo, los inversores activistas del fondo de cobertura Elliott Management obtuvieron una gran participación en Twitter y un puesto en el directorio de la empresa. Elliott hizo campaña para expulsar a Dorsey y había emitido una lista de demandas para que Twitter acelerara el ritmo del desarrollo de productos, que se había estancado en los últimos años.
Pronto, Spaces, un experimento incipiente en ese momento, se movió al puesto número 1 en la hoja de ruta prioritaria de la compañía. A principios de 2021, Beykpour había reasignado a más de 100 personas para trabajar en Spaces, en comparación con aproximadamente una docena en 2020. Había recurrido a un amigo y ex colega de la puesta en marcha de transmisión de video en vivo Periscope, Alex Khoshnevissan, para dirigir Spaces.
Pero los conflictos surgieron desde el principio. En los primeros meses de 2021, el producto estaba en modo "beta", ya que Twitter lo probó con una pequeña cantidad de usuarios avanzados. Las personas involucradas en Spaces dicen que Khoshnevissan era un gerente desorganizado y voluble que estaba más enfocado en crear una visión que en el trabajo diario de construir la herramienta de audio. Dicen que se mostraba reacio a compartir información y que soltaba diatribas abstractas. En un documento obtenido por The Post, el asunto de un correo electrónico suyo sobre el proyecto era un "murmullo de estorninos".
Mientras la compañía se preparaba para lanzar Spaces a los usuarios de Twitter con más de 600 seguidores en mayo, los empleados comenzaron a preguntarse si Spaces implementaría herramientas tecnológicas para escanear el audio en busca de violaciones a las reglas.
Twitter, como Facebook y YouTube, ha creado amplias herramientas en los últimos años para detectar insultos, falsificaciones profundas, bots y redes de desinformación. Las empresas también emplean moderadores externos (Twitter tiene más de 2000 de ellos en la actualidad) para leer publicaciones y hacer cumplir las reglas.
Sin embargo, se les dijo a los empleados que la tecnología para hacerlo para Spaces no existía y la pequeña cantidad de moderadores humanos era incapaz de escuchar decenas de miles de conversaciones en varios idiomas en tiempo real. Las personas que sugirieron que la empresa debería reducir la velocidad para construir una mejor tecnología de seguridad fueron despedidas o excluidas de las reuniones, según tres de los empleados. Uno de ellos recordó al menos cinco reuniones diferentes en las que la falta de moderación se planteó como un problema para Khoshnevissan y otros gerentes.
Cuando finalmente se lanzó Spaces, Khoshnevissan envió otro memorando describiendo una serie de problemas. Lamentó que "@TwitterSpace ha perdido su comunicación intrépida, abierta y transparente". También dijo que estaba decepcionado y que la gente necesitaba mejorar. "Definitivamente podemos hacer esto. Considere esto como una llamada de ayuda y colaboración".
Pero meses después del lanzamiento público, la cantidad de personas que escuchaban Spaces tenía una tendencia a la baja, cayendo a menos de un millón en julio desde más de 1,5 millones en mayo, según un gráfico interno obtenido por The Post.
Khoshnevissan exigió que el equipo quintuplicara el número de oyentes antes de fin de año después de ver esos números. “Necesitamos movernos con extrema urgencia - la urgencia existencial, como Spaces depende de ello, porque así es”, escribió en otra nota obtenida por The Post. “A este ritmo, los espacios no existirán en seis meses, y no solo como una forma de hablar”.
Wiewall de Twitter dijo que no tenía comentarios sobre la dinámica interna o sobre Khoshnevissan. Se negó a comentar.
En una declaración después de la publicación de esta historia, Wiewall dijo que el plan de moderación para Spaces también incluía priorizar los informes de conversaciones de audio problemáticas para su revisión, y que la compañía había creado un equipo separado para moderar el audio después de recibir los informes. Dice que está trabajando en la creación de herramientas tecnológicas para hacer cumplir sus reglas de manera proactiva.
El salvaje oeste
En agosto, cuando Estados Unidos se retiró de Afganistán, la insurgencia islamista militante, los talibanes, se hizo cargo del gobierno del país. Las empresas de redes sociales tuvieron que decidir si prohibir al grupo, que ha realizado decapitaciones públicas de sus enemigos y se ha involucrado en actos de violencia contra las mujeres.
Facebook continuó prohibiendo a los talibanes, pero Twitter permitió a la organización mantener una presencia oficial como gobierno de facto. La compañía dijo que continuaría haciendo cumplir sus reglas contra cualquier contenido violatorio publicado por los talibanes o sus partidarios.
Poco después de la toma de posesión, los partidarios de los talibanes en todo el mundo comenzaron a crear espacios, albergando decenas de conversaciones en inglés y pashto para obtener apoyo para el grupo militante, dijo Brooking del Atlantic Council. En algunas conversaciones que escuchó, dijo, la gente discutía teorías de conspiración sobre los ataques terroristas del 11 de septiembre, mientras que otras eran abiertamente antisemitas. A veces, los entusiastas de las criptomonedas se unían a las conversaciones para alentar a los talibanes a usar las criptomonedas para eludir el sistema financiero global. En otros casos, los nacionalistas blancos se subían a los espacios pro-talibanes para hacer comentarios negativos sobre Israel y los judíos.
Brooking dijo que estaba sorprendido porque Twitter parecía estar aplicando sus políticas contra los tweets pro talibanes, políticas con las que estuvo de acuerdo, pero ignorando docenas de conversaciones de audio en las que se rompían las reglas y se difundían ideas que se sabía que radicalizaban a las personas. Twitter tampoco permitió que se grabaran los espacios, lo que hacía casi imposible que los investigadores rastrearan lo que se decía. (Desde entonces, Twitter ha permitido la grabación y dice que también guarda audio en sus propios servidores hasta por 90 días).
Para el otoño, otros extremistas, incluidos los nacionalistas blancos y los teóricos de la conspiración, estaban comenzando a albergar y promover Spaces, dijo Rita Katz, directora ejecutiva de SITE Intelligence Group.
Algunos usuarios que informaron problemas contactados por The Post dijeron que la compañía fue demasiado lenta para responder.
El mes pasado, un usuario de Twitter tomó una captura de pantalla y publicó ocho foros pro-talibanes diferentes en un intento por llamar la atención de la compañía. "Como los miembros del Talibán siempre están usando los" espacios "de Twitter para celebrar reuniones, solo voy a hacer capturas de pantalla todos los días hasta que alguien haga algo al respecto", tuiteó el usuario. La persona, que dijo que se llamaba Alex Gomez y que era un estudiante de posgrado en bioestadística en la Universidad Internacional de Florida, dijo que Twitter no eliminó de inmediato muchas de las cuentas que había marcado, lo que permitió a las mismas personas crear nuevas conversaciones de audio todos los días.
En este punto, se estaba llevando a cabo un debate en toda regla en Twitter, con los empleados en las reuniones del equipo marcando los espacios pro-talibanes debido al riesgo de permitir que un grupo extremista conocido usara los espacios sin moderación.
Se sabe que los extremistas, incluida la extrema derecha en Estados Unidos, son los primeros en adoptar tecnologías emergentes, dijeron los expertos. La casa club estaba plagada de problemas similares . "Esto está sacado directamente de su libro de jugadas", dijo Colin P. Clarke, director de investigación del Grupo Soufan, que estudia a los terroristas. "Van a extraer todo el reclutamiento y la propaganda antes de que se lo quiten".
Los espacios también estaban siendo utilizados por activistas a favor de la democracia y disidentes tanto en Hong Kong como en Irán, señalaron los expertos.
Sarah T. Roberts, profesora del Center for Critical Internet Inquiry de UCLA, dijo que los problemas de Spaces le recordaron un patrón de errores similares cometidos por empresas de tecnología. Facebook corrió, en 2015, para lanzar la transmisión de video en vivo, dijo. Pronto, la gente se estaba filmando a sí misma suicidándose y los asesinatos y tiroteos masivos se publicaron en vivo.
"El audio es el salvaje oeste", dijo.
[Fuente]: washingtonpost.com
Getty Images.( 10 de Diciembre de 2021).El cofundador de Twitter, Jack Dorsey, quien renunció como director ejecutivo de la red el 29 de noviembre de 2021. [Fotografía]. Modificado por Carlos Zambrado Recuperado de washingtonpost.com