un dia despues El diario de Wall Street publicó una historia de gran éxito sobre los sombríos hallazgos de Meta sobre la salud mental de las adolescentes en Instagram, el director ejecutivo Mark Zuckerberg se preguntó si Meta debería cambiar la forma en que estudia los daños potenciales de su plataforma.
«Los acontecimientos recientes me han hecho considerar si necesitamos cambiar nuestro enfoque de investigación y análisis en torno a cuestiones sociales», escribió Zuckerberg en un correo electrónico del 15 de septiembre de 2021 a los altos ejecutivos, incluida la entonces directora de operaciones Sheryl Sandberg y el jefe de asuntos globales Nick Clegg. El día anterior, el Diario publicó una historia basada en documentos obtenidos de una denunciante, que luego se reveló como Frances Haugen, que mostraba que la propia investigación de la compañía había encontrado que «el 32 por ciento de las adolescentes dijeron que cuando se sentían mal con sus cuerpos, Instagram las hacía sentir peor». El asunto del correo electrónico de Zuckerberg decía: «Investigación y análisis de cuestiones sociales: privilegiado y confidencial».
El correo electrónico de 2021 se publicó el jueves después de ser recopilado por el Fiscal General de Nuevo México, Raúl Torrez, como parte de una demanda que alegaba que Meta tergiversó sus productos como seguros para los adolescentes cuando estaban al tanto de elecciones de diseño dañinas que, según el estado, creaban niños adictos y permitían que prosperaran los depredadores infantiles. En la denuncia, la oficina del fiscal general argumentó que la divulgación de los daños identificados por Meta en sus plataformas «habría remediado la naturaleza engañosa y engañosa de sus declaraciones públicas proclamando que sus plataformas son ‘seguras'». dijo el portavoz de Meta, Andy Stone. el borde en una declaración que la compañía «está orgullosa de nuestro compromiso continuo con la investigación transparente y líder en la industria. Como lo hemos hecho durante años, continuamos utilizando estos conocimientos para realizar mejoras significativas, como la introducción de cuentas para adolescentes con protección integrada y brindar a los padres herramientas para administrar las experiencias de sus hijos adolescentes».
El correo electrónico es sólo un ejemplo del tipo de conversaciones internas que se espera que surjan durante esta demanda y en varios casos con reclamos similares en California. Se espera que las declaraciones iniciales en el caso de Nuevo México comiencen la próxima semana.
En el correo electrónico, Zuckerberg escribió que parecía que los pares de Meta lograron eludir las críticas públicas sobre cuestiones sociales haciendo una investigación mucho menos proactiva sobre los daños de sus plataformas. «Apple, por ejemplo, no parece estar estudiando nada de esto», escribió. «Hasta donde tengo entendido, no tienen a nadie reportando o moderando contenido, y ni siquiera tienen un flujo de reportes en iMessage. Han adoptado el enfoque de que es responsabilidad de las personas lo que hacen en la plataforma, y como Apple no asume esa responsabilidad, no han creado un personal ni un montón de investigaciones que investiguen las ventajas y desventajas de su enfoque. Esto les ha funcionado sorprendentemente bien».
«(Donde) cuando Apple intentó hacer algo con respecto al CSAM, fueron duramente criticados por ello»
Si bien Apple parecía estar evitando las críticas, en opinión de Zuckerberg, Meta «enfrentó más críticas» porque informa más material de abuso sexual infantil (CSAM), lo que «hace que parezca que hay más de ese comportamiento en nuestras plataformas». Por otro lado, señaló, «cuando Apple intentó hacer algo con respecto al CSAM, fueron fuertemente criticados por ello, lo que puede alentarlos a redoblar su enfoque original». Zuckerberg podría haberse estado refiriendo al anuncio de Apple a principios de ese año de nuevas funciones destinadas a proteger a los niños, incluido el escaneo de fotos de iCloud de los usuarios en busca de CSAM. Pero a los defensores de la privacidad les preocupaba que la medida creara una enorme puerta trasera para monitorear las cuentas de los usuarios. Apple luego dio marcha atrás en las propuestas. Apple no respondió de inmediato a una solicitud de comentarios sobre el correo electrónico.
Apple y Meta han discutido durante mucho tiempo en público y en privado sobre sus diferentes enfoques en cuestiones de políticas como la privacidad y la verificación de edad. Pero Zuckerberg también hizo observaciones similares sobre los otros compañeros de Meta. «YouTube, Twitter y Snap adoptan un enfoque similar, en menor medida», escribió. «YouTube parece estar enterrando intencionalmente sus cabezas en la arena para permanecer fuera del radar y no ser el centro de atención. Es posible que Twitter y Snap simplemente no tengan los recursos para hacer este tipo de investigación». Muchas de las plataformas han compartido públicamente investigaciones e iniciativas a lo largo de los años que han estudiado la seguridad en sus plataformas, incluido el Comité Asesor de Jóvenes y Familias de YouTube, que está formado por expertos independientes para guiar el bienestar de los adolescentes en la plataforma, así como el Índice de Bienestar Digital de Snap (lanzado en 2022).
«Creo que debemos ser elogiados por el trabajo que hacemos para estudiar, comprender y mejorar los problemas sociales en nuestras plataformas».
Zuckerberg parecía pensar que la reacción del público a su investigación interna era injusta. «Creo que debemos ser elogiados por el trabajo que hacemos para estudiar, comprender y mejorar los problemas sociales en nuestras plataformas», escribió. «Desafortunadamente, es más probable que los medios utilicen investigaciones o recomendaciones producidas para decir que no estamos haciendo todo lo que podemos (implica un propósito cobarde), en lugar de que estamos tomando estos problemas más en serio que cualquier otra persona en nuestra industria estudiándolos y buscando soluciones, no todas las cuales son razonables de implementar porque todo tiene sus ventajas y desventajas».
En respuesta al correo electrónico, al menos algunos altos ejecutivos continuaron apoyando algún nivel de investigación sobre temas sociales, incluso a pesar del riesgo de percepción pública. «Las filtraciones apestan y seguirán ocurriendo a menos que encontremos una manera de erradicarlas», escribió el entonces vicepresidente de productos principales, Javier Olivan. «Teniendo en cuenta eso, ¿todavía vale la pena intentar comprender estos problemas? Creo que es lo más responsable. Me encantaría que siguiéramos intentando comprender cómo podemos mejorar nuestros productos para todos, pero tal vez deberíamos limitar la superficie a las áreas donde vemos al menos un grado claro de conexión entre el uso de nuestros productos y el problema específico». El entonces vicepresidente de Producto, Elecciones y Competencia, David Ginsberg, dijo que «después de luchar mucho con esto incluso en los últimos días», estaba en gran medida de acuerdo con Olivan. «Creo que el trabajo interno es importante para ofrecer un buen producto y una buena experiencia de usuario, al margen de cualquier problema social».
Unos días después, Guy Rosen, gerente de producto que lidera los esfuerzos de integridad, compartió varias opciones potenciales sobre cómo cambiar la organización de la empresa en torno a la investigación interna y externa, incluidos los pros y los contras de cada una. Rosen escribió que esto era sólo un «ejercicio preliminar/discrecional» para comprender el «espectro de posibilidades». Estas iban desde centralizar equipos que investigaban temas altamente sensibles en un intento de controlar mejor el acceso a los materiales, hasta la opción más extrema de disolver equipos que investigaban temas sensibles y subcontratar operaciones cuando fuera necesario. En última instancia, los ejecutivos recomendaron la opción menos extrema de centralizar los equipos de investigación y planearon anunciarla poco después del próximo testimonio ante el Congreso del director ejecutivo de Instagram, Adam Mosseri. Mosseri, agregado recientemente al hilo del correo electrónico, dijo que «Anunciar esto después de mi testimonio (sic) es peor que antes y hablamos (sobre) esto. Se filtrará y hará que parezca que escondí algo». Meta terminó anunciando los cambios antes del testimonio de Mosseri y ha dicho que continúa estudiando temas delicados como el bienestar de los adolescentes.
En el correo electrónico inicial, Zuckerberg lamentó que las filtraciones de documentos internos dificultan ese trabajo. «Esto puede ser parte del motivo por el cual el resto de la industria ha adoptado un enfoque diferente ante estos temas».
Corrección, 5 de febrero: Una versión anterior tenía un error ortográfico como Frances Haugen.
