Facebook dice que los grupos privados son su futuro. Algunos son centros...

Facebook dice que los grupos privados son su futuro. Algunos son centros de desinformación y odio.

COMPARTIR

Durante más de dos años, el presidente ejecutivo de Facebook, Mark Zuckerberg, ha promocionado la membresía en comunidades privadas y “significativas” como centrales para el futuro de la red social.

Pero esa estrategia de impulsar interacciones cerradas dentro de los grupos se está compenetrando cada vez más con la capacidad de la compañía para monitorear a aquellos que infringen las reglas de la red social contra el discurso de odio, el hostigamiento y otros males, dicen grupos de derechos civiles y otros defensores. Advierten que el movimiento de la compañía hacia más comunicaciones privadas está en curso de colisión con el objetivo declarado de Facebook de limpiar su plataforma antes de las elecciones presidenciales de 2020 en Estados Unidos.

La falla de Facebook para monitorear los grupos problemáticos surgió nuevamente esta semana después de que una investigación realizada por ProPublica reveló que un grupo secreto, solo para miembros, de agentes de la Patrulla Fronteriza actuales y anteriores bromeó cruelmente sobre las muertes de migrantes y utilizó una ilustración vulgar de la Representante Alexandria Ocasio-Cortez (DN.Y.) ser forzado a participar en un acto sexual por el presidente Trump. La compañía dijo el viernes que también eliminó varias publicaciones problemáticas de otro grupo de la Patrulla Fronteriza.

El patrón de no vigilar a los grupos privados, que Facebook dice que están sujetos a las mismas reglas que otras partes de la red social, se ha convertido en una preocupación mayor a medida que la compañía impulsa esos canales como una pieza clave de cómo quiere que la gente use su sitio.

“Los grandes grupos privados siguen siendo cajas negras no moderadas donde los usuarios pueden amenazar libremente a las poblaciones vulnerables”, dijo Jonathan Greenblatt, director ejecutivo de la Liga Anti-Difamación. “Sin ningún AI o moderadores humanos, es fácil organizar campañas de hostigamiento; como mínimo, este entorno contribuye a la normalización del fanatismo y la discriminación. A medida que Facebook pasa a una comunicación cada vez más privada, nos preocupa esta delincuencia “.

Zuckerberg ha estado impulsando un plan para transformar Facebook en una plataforma orientada al grupo que pasaría de una “plaza de la ciudad” de noticias públicas a más de una “sala de estar” diseñada en torno a las interacciones personales con familiares y amigos. En los últimos dos años, ha publicado dos largos manifiestos: el primero en 2017 sobre una transición hacia grupos significativos y el segundo este año sobre la privacidad. Recientemente rediseñó la aplicación de escritorio de Facebook para sugerir ideas para nuevos grupos que la gente podría formar a través del sitio, así como facilitar su creación. Los algoritmos de Facebook ya sugieren activamente nuevos grupos potenciales a los que los usuarios de Facebook pueden unirse, lo que lleva a las personas a grupos cargados de información errónea.

Cerca de 1.400 millones de personas inician sesión en un grupo de Facebook mensualmente, dijo la compañía. Cerca de 400 millones de personas ahora se consideran parte de los grupos que dicen que son “significativos”, cuatro veces el número de hace dos años, según estimaciones de la compañía.

A diferencia de las publicaciones públicas de las páginas de Facebook, que han sido examinadas extensamente por expertos externos, los investigadores tienen más problemas para monitorear grupos cerrados porque un administrador debe dar permiso para convertirse en miembro. Las reglas de Facebook también permiten a los administradores designar a un grupo como secreto, lo que significa que no se muestra cuando las personas lo buscan y los miembros deben ser invitados. Eso es cierto en el grupo privado de la Patrulla Fronteriza, llamado “Tengo 10-15”. refiriéndose al código de la agencia para “extranjeros bajo custodia”.

No es el primer encuentro de Facebook con grupos privados lo que viola sus políticas. Facebook prohibió el año pasado a la estrella de los medios de teoría de la conspiración Alex Jones, pero grupos privados con miles de miembros continuaron promoviendo su trabajo. Grupos dedicados a la teoría de la conspiración pro-Trump QAnon prosperan en Facebook, al igual que las comunidades que se oponen a la vacunación. En 2017, los militares iniciaron una investigación de un grupo secreto de Facebook compuesto por infantes de marina que habían compartido fotos desnudas de sus compañeras de servicio. Los grupos privados y públicos también jugaron un papel importante en ayudar a los supremacistas blancos a organizar su marcha en Charlottesville en 2017.

Facebook se negó a responder preguntas sobre el grupo 10-15, citando su cooperación en una investigación federal en curso. La compañía también dijo que eliminó las publicaciones de otro grupo identificado primero por CNN como “The Real CBP Nation” por violar sus políticas, incluida la intimidación y la explotación sexual de adultos, pero está permitiendo que el grupo se mantenga al día.

“Queremos que todos los que usan Facebook se sientan seguros. Nuestras Normas de la Comunidad se aplican en Facebook, incluso en Grupos secretos. Estamos cooperando con las autoridades federales en su investigación “, dijo la portavoz Jen Ridings en un comunicado. Se negó a responder preguntas sobre si la información del grupo aún estaba disponible o la naturaleza de la cooperación de Facebook con la policía.

Añadió que la compañía utiliza una combinación de tecnología y revisión humana para eliminar el contenido que rompe las reglas, incluso en grupos secretos.

“Todavía hay más cosas que podemos hacer y seguimos mejorando nuestra tecnología para detectar la violación de contenido”, agregó Ridings.

La controversia sobre el grupo de la Patrulla Fronteriza está causando alarma entre algunos miembros del Congreso, donde la compañía ya está bajo escrutinio. El martes, el presidente del Comité de Supervisión de la Cámara de Representantes, Elijah E. Cummings (D-Md.), Dijo que su comité llevaría a cabo su propia investigación del grupo 10-15, y señaló que las publicaciones parecían violar las pautas de Facebook. Ridings declinó decir si Facebook cooperaría con la investigación de la Cámara.

El Servicio de Aduanas y Protección Fronteriza de los EE. UU. Investigó el grupo de Facebook 10-15 en 2016 y tomó algunas medidas disciplinarias, dijo un funcionario, quien habló sobre la condición de anonimato para discutir una investigación de personal. El funcionario se negó a decir qué medidas se tomaron. En general, el funcionario dijo que no monitorea el discurso de los empleados y, por lo tanto, no vio el monitoreo del grupo como parte del alcance de sus responsabilidades.

En respuesta a la crisis de la interferencia rusa en su plataforma, Facebook ha dedicado importantes recursos a detectar información errónea, discursos de odio y otras violaciones de sus normas. La compañía emplea a 30,000 trabajadores en seguridad y protección, incluidos 15,000 moderadores de contenido, y sus ingenieros han mejorado el software de la compañía que detecta contenido problemático. La compañía también está en el proceso de someterse a una auditoría importante por parte de grupos de derechos civiles y ha solicitado ayuda a investigadores de desinformación y organizaciones de verificación de hechos.

A pesar de los recursos que Facebook ha invertido en la limpieza de su servicio, los grupos privados y secretos continúan frustrando las capacidades de detección de la compañía. Si bien la inteligencia artificial desempeña un papel importante en la detección de ciertos tipos de contenido, como el terrorismo y la desnudez, muchas publicaciones con discursos de odio y desinformación política aún llegan a los moderadores de contenido de Facebook principalmente a través de informes de usuarios, según las entrevistas del Washington Post con más de una docena de contenido de Facebook. los moderadores Facebook dice que del discurso de odio que capta, el 65 por ciento es detectado por software, en comparación con más del 95 por ciento de terrorismo y desnudos.

Los expertos en información errónea han señalado repetidamente que las personas en grupos de ideas similares tienen menos probabilidades de marcar el contenido de otros como problemático, lo que reduce la información de dichos grupos.

Como parte de su impulso a la privacidad, la red social también planea cifrar las características que los usuarios ven como privadas, como la mensajería, lo que significa que los datos se mezclarán de manera que los extraños, incluidos los agentes de la ley e incluso los propios ingenieros de Facebook, no puedan leerlos.

Cuando los defensores y los legisladores se quejaron de que esta medida podría dificultar la limpieza de la desinformación y el odio, Zuckerberg reconoció las concesiones. Pero dijo que valía la pena hacerlo a largo plazo porque los usuarios muestran una preferencia por las interacciones privadas.

“Todavía tenemos la responsabilidad de asegurarnos de hacer mucho para mantener a las personas seguras”, dijo Zuckerberg al Washington Post en una entrevista en abril. “Pero creo que cuando nos enfrentamos a un desafío en torno a una compensación entre el cifrado y la seguridad, creo que la gente querría que nos equivoquemos un poco más en el lado del cifrado. Ahí es donde yo personalmente salgo en eso “.

Reis Thebault y Nick Miroff contribuyeron a este informe.

NO COMMENTS