Dezenas de estados norte-americanos processaram a Meta em 24 de outubro, alegando que a empresa prejudica conscientemente os jovens usuários. O caso é bastante importante e quase certamente terá um impacto abrangente no debate do país sobre segurança infantil online — um tópico que os leitores regulares sabem que já abordei bastante. Potencialmente, ele pode levar a mudanças nas políticas e nas plataformas. O caso também está pronto para testar a lei de privacidade existente que protege os dados de menores.
Algumas das principais alegações no processo são que a Meta engana os jovens usuários sobre os recursos de segurança e a disseminação de conteúdo nocivo nas plataformas, e que ela coleta seus dados e viola as leis federais sobre privacidade infantil e proteção ao consumidor. O caso surgiu de uma investigação desencadeada, em grande parte pela denúncia de Frances Haugen em 2021, que revelou provas contundentes de que a Meta sabia que o Instagram tinha efeitos prejudiciais sobre a saúde mental de meninas.
É interessante notar que o depoimento de Haugen revelou algumas das melhores evidências concretas que temos sobre como as crianças foram especificamente prejudicadas pelas mídias sociais. Na verdade, as evidências (ou a falta delas) do impacto das mídias sociais sobre as crianças podem se tornar um ponto de conflito no debate sobre a segurança online e é possível que esse processo judicial traga à tona novas descobertas importantes. Mas teremos que esperar para ver; o processo foi bastante censurado.
(Se você quiser saber mais, foram publicados muitos textos de qualidade sobre o caso nos últimos dias. Eu recomendaria a leitura da newsletter de Casey Newton para entender as evidências que temos e porque esse caso é importante).
Isso me leva ao que quero enfocar: alegações de danos criados por filtros visuais no Instagram. Como você provavelmente sabe, um aspecto importante da plataforma são os filtros que podem ser facilmente adicionados às fotos. Os recursos variam de ferramentas básicas de edição a sofisticadas visões computadorizadas de realidade virtual em tempo real. Já escrevi sobre o impacto dos filtros de beleza no passado e, certa vez, até perguntei a uma IA se eu era bonita. Como descobri na época, seu impacto sobre as crianças não foi bem estabelecido por meio de pesquisas causais, mas temos muitos dados anedóticos e correlativos, como uma pesquisa com 200 adolescentes em que 61% dos entrevistados disseram que os filtros de beleza faziam com que se sentissem pior em relação a si mesmos.
O processo contra a Meta aponta especificamente as ferramentas visuais “conhecidas por promoverem a dismorfia corporal” como um dos “recursos psicologicamente manipuladores da plataforma criados para maximizar o tempo que os jovens usuários passam em suas plataformas de mídia social”. Diz também que “a Meta estava ciente de que os cérebros em desenvolvimento dos jovens usuários são particularmente vulneráveis a certas formas de manipulação e optou por explorar essas vulnerabilidades por meio de recursos direcionados”, como filtros.
Para entender melhor o que está acontecendo aqui e o que esperar do caso, liguei para alguém que considero uma verdadeira especialista: Jessica DeFino, repórter e crítica cultural que se concentra em como a cultura da beleza, online ou não, afeta os indivíduos. Ela também escreve um boletim informativo do Substack, chamado The Unpublishable. Aqui estão alguns trechos de nossa conversa, que foi editada para maior extensão e clareza.
O caso afirma que há provas, muitas das quais parecem estar redigidas, que mostram que a Meta e os produtos da Meta exploram usuários jovens e que a empresa está ciente do efeito de seus produtos sobre a saúde mental deles, especificamente meninas adolescentes. O que você sabe sobre essas evidências?
Do ponto de vista da saúde psicológica, há definitivamente estudos e pesquisas que mostram que as adolescentes, especificamente, mas também as mulheres em todo o espectro etário, estão experimentando instâncias mais altas de ansiedade relacionada à aparência, depressão, dismorfia corporal, dismorfia facial, comportamentos obsessivos de beleza, alimentação desordenada, automutilação e até mesmo suicídio. E muitas coisas podem ser atribuídas, de uma forma ou de outra, a esse mundo virtual cada vez mais visual em que vivemos.
No lado mais material das coisas, há muita coisa acontecendo no setor de beleza que foi especificamente inspirada pelo Instagram. Acho que um ótimo exemplo disso é o fenômeno do rosto do Instagram, que é basicamente um termo que foi criado para descrever a maneira como os filtros do Instagram inspiraram procedimentos e cirurgias no mundo real.
Ao longo dos anos, entrevistei muitos cirurgiões plásticos e injetores de cosméticos que me disseram que os pacientes usam os filtros e as ferramentas de edição de fotos que são muito populares no Instagram, mas que talvez não sejam de propriedade da Meta ou do Instagram, para alterar suas próprias imagens e levá-las para uma consulta com um cirurgião plástico ou injetor e dizer: “É assim que eu quero ficar.”
Conto essa história o tempo todo porque ela foi muito chocante para mim e um exemplo muito forte do que está acontecendo no mundo da medicina em resposta aos filtros do Instagram: Eu estava entrevistando essa injetora de cosméticos, uma médica e dermatologista chamada Anna Guanche, em um evento organizado pela Allergan, a fabricante do Botox Cosmetic, com um pequeno grupo de jornalistas.
Ela disse: “Uma das principais coisas que digo aos meus pacientes é: ‘você quer se parecer mais com suas fotos filtradas – o que podemos fazer para que você se pareça mais com elas, para que as pessoas não vejam você na vida real e pensem: ‘O quê?
Portanto, essa é uma opinião médica que está sendo dada por um médico real aos clientes. E, é claro, todos esses comportamentos e as cirurgias que estão sendo realizadas em resposta aos filtros do Instagram vêm com uma enorme quantidade de efeitos colaterais e riscos potenciais, inclusive mortes.
Uma coisa que foi especificamente mencionada no caso é que a Meta promove recursos da plataforma, como filtros visuais conhecidos por promover distúrbios alimentares e dismorfia corporal em jovens. Sabemos se isso é verdade?
Sabemos que isso é verdade, eu diria, e é verdade porque essas plataformas são projetadas por pessoas, e o fato de que esses preconceitos existem nas pessoas está muito bem documentado. Há casos muito bem documentados desses preconceitos aparecendo em algumas das tecnologias de filtro.
Por exemplo, os filtros que são literalmente chamados de “filtros de beleza” darão automaticamente a alguém um nariz menor, clarearão e iluminarão ligeiramente sua pele e ampliarão seus olhos. Todas essas são preferências de beleza transmitidas pelos sistemas de patriarcado, supremacia branca, colonialismo e capitalismo que acabam em nossas vidas, em nossos sistemas, em nossas corporações, em nossos engenheiros e nos filtros que eles criam.
Essas questões costumam ser discutidas no contexto da insegurança de mulheres e meninas adolescentes em relação a seus corpos, em vez de serem enquadradas como tecnologia de realidade aumentada sofisticada, não testada, implantada em massa e voltada para o consumidor. Você já viu essa dinâmica se desenrolar?
As questões [que afetam] as meninas adolescentes têm sido culturalmente, historicamente, varridas para debaixo do tapete e descartadas. Coisas como beleza são vistas como interesses frívolos. E se forem descartados, acabamos não obtendo estudos suficientes, dados suficientes sobre os danos da cultura da beleza, quando na realidade há implicações culturais enormes e prejudiciais.
Recentemente, descobriu-se que os produtos para menstruação nunca foram testados cientificamente com sangue, e a menstruação existe desde o início dos tempos. Se a menstruação, que afeta meninas e mulheres adolescentes há literalmente milênios, é pouco estudada, não me surpreende que esse fenômeno relativamente novo de filtros de beleza e padrões de beleza que afetam a saúde mental de meninas adolescentes ainda não tenha um conjunto robusto de dados.
Que grupos lucram com a desconexão entre o ideal de beleza e a vida real?
É um ideal muito capitalista. Quanto mais distante o padrão estiver do corpo humano, mais produtos, procedimentos e cirurgias precisarão ser comprados para atender a esse ideal. Assim, as empresas se beneficiam e o setor de tecnologia se beneficia.
Um exemplo concreto é como o rosto do Instagram beneficiou financeiramente o Instagram. O fenômeno do rosto do Instagram surgiu em uma versão anterior do Instagram, quando ele era basicamente uma plataforma de mídia social. Alguns anos depois, o Instagram passou a ser uma plataforma social de compras. Eles deram grande ênfase às compras; havia uma guia de compras. Naquele momento, não só estava distorcendo a percepção de beleza dos usuários, mas também vendendo tudo o que eles precisavam para distorcer seus corpos e ficar com uma parte de todas essas vendas.
O que, em particular, você vai observar enquanto esse processo se desenvolve?
Eu adoraria ver mais dados concretos sobre os padrões de beleza e a cultura da beleza e como as tecnologias sociais de edição de fotos estão contribuindo para isso e seu impacto psicológico.
Mas, no momento, estou mais interessada no aspecto do comportamento humano. À medida que as evidências desse processo forem surgindo e começarmos a ver que essas tecnologias com as quais nos tornamos obcecados de forma doentia são, na verdade, prejudiciais à nossa vida e ao nosso bem-estar de várias maneiras. Eu estou interessada em ver se as pessoas vão querer optar por não usá-las e se vão poder optar por isso. Estou interessada em ver se o fato de essa ação judicial ser mais divulgada inspirará mais pessoas a considerar uma vida sem mídias sociais.
Com relação a outras possíveis regulamentações, houve um estudo realizado no Reino Unido [que analisou] se as isenções de responsabilidade em imagens com Photoshop tinham um efeito positivo sobre as pessoas que estavam vendo esses anúncios. [Nota do editor: rótulos semelhantes foram sugeridos como uma resposta regulatória aos danos causados pela mídia social]. E o que se constatou foi que, em muitos casos, a isenção de responsabilidade de que uma imagem havia sido photoshopada na verdade fez com que as pessoas se sentissem pior, pois saber que uma imagem foi adulterada e que não é fisicamente possível não diminui a pressão que a sociedade exerce sobre as mulheres jovens para que tenham a aparência mais perfeita possível. Portanto, sou muito cética em relação a qualquer regulamentação em potencial que exija a divulgação de filtros, Photoshop ou qualquer tipo de edição de fotos.
O que mais estou lendo
- A Califórnia suspendeu a operação dos robotáxis Cruise no estado. Os órgãos reguladores do estado citaram preocupações de segurança com a tecnologia de carros sem motorista após uma série de incidentes nas últimas semanas, incluindo um acidente que prendeu um pedestre (que foi atropelado por outro carro) embaixo do robotáxi e as supostas tentativas da empresa de ocultar imagens de acidentes.
- Ainda há muitas reuniões sobre IA acontecendo entre os legisladores, incluindo o segundo AI Insight Forum do Congresso dos EUA, em 24 de outubro, e a AI Safety Summit do Reino Unido, que começa em 1º de novembro. Estou animado para ver se essas reuniões levarão a resultados tangíveis. Também estarei atento a uma futura ordem executiva sobre IA do Presidente Biden.
- A propósito de nada: fiquei absorto com esta história de Chiara Dello Joio no Atlantic sobre humanos que clonaram seus animais de estimação e como o relacionamento deles com o animal clonado difere do relacionamento com o original.
O que aprendi recentemente
Uma nova ferramenta chamada Nightshade pode “envenenar” os dados de treinamento para modelos de IA geradores de imagens e ajudar os artistas a combater as violações de direitos autorais, informou minha colega Melissa Heikkilä. “Uma nova ferramenta permite que os artistas adicionem alterações invisíveis aos pixels de sua arte antes de carregá-la online, de modo que, se ela for inserida em um conjunto de treinamento de IA, o modelo resultante poderá ser interrompido de forma caótica e imprevisível”, escreveu ela. A história de Melissa vem de uma prévia exclusiva de uma pesquisa da Universidade de Chicago que foi enviada para revisão por pares.
MIT Technology Review
