Nos últimos meses, os Estados Unidos desmoronaram sob o peso de duas pandemias: coronavírus e a brutalidade policial. Ambos infligem violência física e psicológica. Ambos, desproporcionalmente, matam e debilitam pessoas negras e pardas. E ambos são inflados pela tecnologia que projetamos, adaptamos e implantamos – seja por rastreamento de contato, reconhecimento facial ou mídia social.
Frequentemente, recorremos à tecnologia para ajudar a resolver problemas. Mas quando a sociedade define, enquadra e representa as pessoas de cor como “o problema”, essas soluções, geralmente, fazem mais mal do que bem. Criamos tecnologias de reconhecimento facial que visam suspeitos de crimes com base na cor da pele. Treinamos sistemas automatizados de perfil de risco que identificam desproporcionalmente pessoas de origem latina como imigrantes ilegais. Desenvolvemos algoritmos de pontuação de crédito que identificam de forma irregular os negros como riscos e os impedem de comprar casas, obter empréstimos ou encontrar empregos.
Portanto, a questão que devemos enfrentar é se continuaremos projetando e desenvolvendo ferramentas que atendem aos interesses do racismo e da supremacia branca.
Lógico, de forma alguma esta não é uma questão nova.
Direitos não civis
Em 1960, os líderes do Partido Democrata enfrentaram seu próprio problema: como seu candidato à presidência, John F. Kennedy, poderia conseguir apoio de negros e outras minorias raciais?
Um cientista político empreendedor do MIT, Ithiel de Sola Pool, abordou-os com uma solução. Ele coletaria dados dos eleitores de eleições presidenciais anteriores, os alimentaria em uma nova máquina de processamento digital, desenvolveria um algoritmo para modelar o comportamento da votação, e faria previsões quanto a quais posições políticas levariam a resultados mais favoráveis e, em seguida, aconselharia a campanha de Kennedy a agir de acordo. Pool iniciou uma nova empresa, a Simulmatics Corporation, e executou seu plano. Ele conseguiu, Kennedy foi eleito e os resultados mostraram o poder desse novo método de modelagem preditiva.
A tensão racial aumentou durante os anos 60. Então veio o longo e quente verão de 1967. Cidades em todo os Estados Unidos queimaram: de Birmingham, Alabama, a Rochester, Nova York, a Minneapolis Minnesota e muito mais. Os negros americanos protestaram contra a opressão e discriminação que enfrentaram nas mãos do sistema de justiça criminal dos Estados Unidos. Mas o presidente Johnson chamou o ato de “desordem civil” e formou a Comissão Consultiva Nacional de Distúrbios Civis (mais conhecida como Comissão Kerner) para entender as causas dos “distúrbios no gueto”. A comissão apelou à Simulmatics.
Como parte de um projeto da Defense Advanced Research Projects Agency (DARPA) que visava mudar a maré da Guerra do Vietnã, a empresa de Pool trabalhou duro na preparação de uma massiva propaganda e campanha psicológica contra os Vietcongs. O presidente Johnson estava ansioso por implantar a tecnologia de influência comportamental da Simulmatics para conter a ameaça doméstica do país, e não apenas com seus inimigos estrangeiros. Sob o disfarce do que eles chamaram de “estudo da mídia”, a Simulmatics construiu uma equipe para o que equivalia a uma campanha de vigilância em larga escala nas “áreas afetadas por distúrbios” que capturaram a atenção da nação naquele verão de 1967.
Equipes de três membros entraram em áreas onde ocorreram tumultos naquele verão. Eles identificaram e entrevistaram pessoas negras estrategicamente importantes. Identificaram e entrevistaram outros residentes negros, em todos os locais, de barbearias a igrejas. Perguntaram aos moradores o que eles achavam da cobertura da mídia sobre os “distúrbios”. Mas também coletaram dados sobre muito mais: como as pessoas se mudaram para a cidade durante os distúrbios, com quem conversaram antes e durante e como se prepararam para as consequências. Coletaram dados sobre o uso de pedágio, vendas de postos de gasolina e rotas de ônibus. E entraram nessas comunidades sob o pretexto de tentar entender como a mídia supostamente inflamava as “revoltas”. Mas Johnson e os líderes políticos do país estavam tentando resolver um problema. Eles pretendiam usar as informações coletadas pela Simulmatics para rastrear o fluxo de informações durante os protestos para identificar influenciadores e decapitar a liderança dos protestos.
Eles não fizeram isso diretamente. Eles não mataram, não colocaram pessoas na cadeia ou secretamente “desapareceram” com elas.
Mas, no final da década de 1960, esse tipo de informação havia ajudado a criar o que ficou conhecido como “sistemas de informação da justiça criminal”. Estes sistemas se proliferaram ao longo das décadas, estabelecendo as bases para o perfil racial, o policiamento preditivo e a vigilância racial. Eles deixaram para trás um legado que inclui milhões de homens e mulheres negros e pardos encarcerados.
Reestruturando o problema
A pele escura e a população negra. Ambos persistem como problema de nossa nação – até mesmo em nível mundial, ouso dizer. Quando o rastreamento de contatos surgiu pela primeira vez no início da pandemia, era fácil vê-lo como uma ferramenta de vigilância da saúde necessária, mas benigna. O coronavírus era o nosso problema e começamos a projetar novas tecnologias de vigilância na forma de rastreamento de contatos, monitoramento de temperatura e aplicativos de mapeamento de ameaças para ajudar a lidar com ele.
Mas uma coisa ao mesmo tempo trágica e curiosa aconteceu. Descobrimos que negros, latinos e populações indígenas foram desproporcionalmente infectados e afetados. De repente, também nos tornamos um problema nacional; ameaçamos desproporcionalmente a propagação do vírus. Isso foi agravado quando o trágico assassinato de George Floyd por um policial branco ocasionou a ida de milhares de manifestantes para as ruas. Quando os saqueamentos e os tumultos começaram, nós – os negros – fomos novamente vistos como uma ameaça à lei e à ordem, uma ameaça a um sistema que perpetua o poder racial branco. Isso faz você se perguntar quanto tempo levará para a aplicação da lei implantar as tecnologias – que primeiro projetamos para combater à Covid-19 – para reprimir a ameaça que os negros supostamente representam para a segurança do país.
Se não queremos que nossa tecnologia seja usada para perpetuar o racismo, então não devemos juntar com negros e pardos problemas sociais como crime, violência ou doença. Quando fazemos isso, corremos o risco de transformar essas pessoas nos problemas que desenvolvemos nossa tecnologia para resolver, na ameaça que projetamos para erradicar.
—Charlton McIlwain é professor de mídia, cultura e comunicação na Universidade de Nova York e autor de Black Software: The Internet & Racial Justice (em tradução livre, Black Software: Internet & Justiça Racial), do AfroNet ao Black Lives Matter.
MIT Technology Review
