Em uma noite dessas, eu estava sentada em casa, navegando pelo meu feed do Twitter que está sempre repleto com as últimas notícias sobre tecnologia, já que sou uma filósofa que estuda Inteligência Artificial (IA) e dados. Depois de um tempo, notei uma pressão crescente no estômago, aquele sinal indicativo de que você não está se divertindo nem um pouco. Mas por quê? Eu não estava lendo notícias sobre política, crise climática ou pandemia, os causadores mais comuns do tedioso doomscrolling, no qual passamos uma quantidade excessiva de tempo absorvendo informações negativas em uma rede social. Parei e refleti por um momento. O que eu passei esse tempo todo vendo?
Eu mal esbocei uma reação ao ver a pobreza estética da apresentação mais recente do jogo Horizon Worlds VR da Meta, mostrando o avatar animado de Mark Zuckerberg com seus olhos sem expressão, em frente a um cenário de fundo que um engraçadinho no Twitter caridosamente comparou com “as paredes pintadas de uma creche abandonada”. Deixei escapar um breve suspiro com o anúncio de Ring Nation, um programa de TV produzido pela Amazon apresentando “conteúdo viral leve” capturado diretamente pelos aparelhos da empresa Ring e seu império de vigilância. Eu cerrei os dentes ao ver uma captura de tela do Stable Diffusion, o modelo de geração de imagem baseada em texto, oferecendo obras de arte de IA nos estilos de dezenas de artistas humanos, os quais não foram pagos, e cujos trabalhos foram despejados no conjunto de dados para treinamento do modelo, moídos por ele e cuspidos de volta.
Reconheci o sentimento e sabia seu nome: resignação. Aquela sensação de estar preso em um lugar no qual você não quer estar, mas não consegue sair. Fui surpreendida com a ironia de ter estudado tecnologia a vida inteira para evitar esse tipo de sentimento. A tecnologia costumava ser meu cantinho da felicidade.
Naturalmente, despejei minhas emoções em uma enxurrada de tweets:
Eu toquei em um ponto sensível. À medida que minhas notificações começaram a explodir em quantidade e milhares de respostas e retweets começaram a chegar, a recompensa inicial de dopamina por minha postagem ter viralizado deu lugar a uma tristeza mais profunda. Muitas pessoas estavam sentadas, experienciando a mesma sensação de pressão no estômago.
Ainda assim, senti a catarse ao ler tantas outras pessoas dando voz a este sentimento.
Está faltando algo em nossas vidas e em nossa tecnologia. Esta ausência está alimentando um crescente mal-estar manifestado por muitos que trabalham com tecnologia ou a estudam. É o que impulsiona a nova geração de pesquisadores de doutorado e pós-doutorado com quem trabalho na Universidade de Edimburgo (Escócia, Reino Unido), os quais estão reunindo os conhecimentos de artes técnicas, ciências exatas e humanas para tentar descobrir o que deu errado com nosso ecossistema de tecnologia, e como consertar esta questão. Para fazer isto, precisamos entender como e por que as prioridades deste ecossistema mudaram.
O objetivo do desenvolvimento de tecnologia para consumo costumava ser bem simples: projetar e construir algo de valor para as pessoas, dando a elas um motivo para comprar a novidade. Uma geladeira nova é reluzente, reduz minhas contas de luz, faz cubos de gelo em formatos legais. Então eu vou comprar. Pronto. Um Roomba promete aspirar o pelo de gato debaixo do meu sofá enquanto eu tiro uma soneca. Vendido! Mas essa visão da tecnologia está cada vez mais ultrapassada. Não basta uma geladeira manter os alimentos frios; a versão de hoje oferece câmeras e sensores que podem monitorar como e o que estou comendo, enquanto o Roomba em breve poderá enviar um mapa da minha casa para a Amazon.
A questão aqui vai muito além dos riscos óbvios de privacidade. É uma mudança radical em todo o modelo de inovação e nos incentivos que o impulsionam. Por que se contentar com uma única transação lucrativa para a empresa quando você pode projetar um produto que extrairá um fluxo de dados monetizáveis de cada comprador, gerando receita para a empresa por muitos anos? Depois de coletar esse rio de informações, você o protegerá, mesmo em detrimento do seu cliente. Afinal, se você comprar grande parte do respectivo mercado tecnológico, você conseguirá muito bem arcar com a raiva e a frustração de seus clientes. Basta perguntar ao Mark Zuckerberg.
Não foram apenas a tecnologia de consumo e redes sociais que fizeram parte dessa mudança. A grande marca de tecnologia agrícola John Deere, por exemplo, que antigamente era amada por seus clientes, está lutando contra um movimento pelo “direito de consertar” conduzido por fazendeiros furiosos por terem sido proibidos de consertar suas próprias máquinas. Esta proibição ocorre com o motivo de não atrapalhar o envio, feito pelo software patenteado, de dados de alto valor sobre as terras e colheitas dos agricultores de volta ao fabricante. Assim como observado por alguns usuários que comentaram no meu Twitter, hoje no mundo da tecnologia nós somos o produto, não o principal beneficiário. Os dispositivos mecânicos que costumavam ser o produto são cada vez mais apenas os intermediários.
Há também uma mudança em para quem as inovações tecnológicas de hoje em dia são pensadas. Várias respostas se opuseram ao meu comentário, chamando a atenção para o atual e vibrante mercado de novas tecnologias para “geeks” e “nerds”: Raspberry Pis, ferramentas de software de código aberto, robôs programáveis. No entanto, por mais excelentes que sejam para aqueles que disponibilizam de tempo, habilidades e interesse para usá-los, são ferramentas feitas para um público restrito. A emoção de ver reais inovações na tecnologia biomédica, como vacinas de mRNA, por exemplo, também arrefece quando vemos seus benefícios concentrados nos países mais ricos, aqueles que já são mais bem servidos pela tecnologia.
É claro que novas tecnologias continuam sendo uma fonte de alegria e empolgação em muitos lugares onde, historicamente, foi negada uma parcela equitativa dos confortos que elas trazem. Mas a inovação costumava nos prometer muito mais do que novos dispositivos e aplicativos. A engenharia e a invenção já foram profissões voltadas principalmente para a criação de uma infraestrutura mais habitável, ao invés de tralhas descartáveis.
A aparente perda de interesse dos tecnólogos por uma inovação humanizada está esgotando nossa fé coletiva em nossos próprios poderes de invenção.
Inovações essenciais como estradas, redes elétricas, esgotos e sistemas de trânsito costumavam ser uma parte central dos empreendimentos de engenharia nos EUA. Hoje em dia, nós as tratamos como fardos do contribuinte, e nossas melhores mentes e recursos estão canalizados para o desenvolvimento de dispositivos e aplicativos famintos por dados. Se os Estados Unidos servem como um indicador da trajetória do desenvolvimento tecnológico global, então temos grandes problemas à frente, porque claramente perdemos o rumo.
O fato é que o foco da cultura tecnológica parece não estar mais na expansão das fronteiras da inovação humanizada, ou seja, aquela que serve a todos nós. Até as viagens espaciais perderam sua visão humanista; o marco atual é o turismo espacial de luxo e bilionários vendendo ideias fantasiosas de fuga para Marte a investidores crédulos. Com 8 bilhões de pessoas à beira do precipício da destruição ambiental global, não podemos conceber um mundo onde a principal missão das novas tecnologias pareça ser “pegue o dinheiro e fuja”.
Se continuarmos a nos afastar de aplicações humanizadas da tecnologia, corremos o risco de incentivar um ciclo de retroalimentação descontrolado que drena nossa vontade comunitária de reinvestir em expansão. O perigo não é somente que a tecnologia atual não seja direcionada para nossas necessidades civilizacionais mais urgentes. Mas sim também de que a aparente perda de interesse dos tecnólogos por uma inovação humanizada esteja esgotando nossa fé coletiva em nossos próprios poderes de invenção.
Quando ela permanece fiel às suas raízes mais profundas, a tecnologia ainda é movida por um impulso moral: o de construir lugares, ferramentas e técnicas que possam ajudar os humanos não apenas a sobreviver, mas a prosperar juntos. Claro, esse impulso é facilmente unido a, ou afastado por, outros: os impulsos por dominar, exterminar, empobrecer, vigiar e controlar.
Mas estas motivações mais sombrias não estão no cerne de nossa capacidade tecnológica como espécie. E não podemos deixar que elas definam o ordenamento tecnológico moderno. Porque se a tecnologia perder sua relação com a alegria e o conforto comunitário, corremos o risco de nos alienarmos de uma das formas mais fundamentais de cuidar do mundo e uns dos outros.
Shannon Vallor é professora Baillie Gifford de ética de dados e Inteligência Artificial na Universidade de Edimburgo e diretora do Center for Technomoral Futures no Edinburgh Futures Institute.
MIT Technology Review
