O Twitter deve censurar as mentiras escritas pelo presidente dos EUA? O YouTube deve remover as notícias de desinformação em relação a Covid-19? O Facebook deve fazer mais contra o discurso de ódio? Essas questões, que surgem diariamente nos jornais, podem fazer parecer que o principal risco impulsionado pela tecnologia para as democracias é a curadoria de conteúdo por empresas de mídia social. No entanto, essas controvérsias são apenas sintomas de uma ameaça maior: a profundidade do poder privatizado sobre o mundo digital.
Todos os países democráticos do mundo enfrentam o mesmo desafio, mas nenhum pode neutralizá-lo sozinho. Precisamos de uma aliança democrática global para definir normas, regras e diretrizes para empresas de tecnologia e para chegar a um acordo sobre protocolos para atividades digitais internacionais, incluindo interferência eleitoral, guerra cibernética e comércio online. Os cidadãos são mais bem representados quando uma coalizão de seus governos – em vez de um punhado de executivos corporativos – define os termos de governança e quando mecanismos de controle, equilíbrio e supervisão estão em vigor.
Há uma longa lista de maneiras pelas quais as empresas de tecnologia governam nossas vidas sem muita regulamentação. Essas organizações tomam decisões baseadas em seus próprios interesses, estabelecendo normas e padrões que afetam bilhões de pessoas em áreas que vão desde a construção de infraestrutura crítica e sua defesa – ou mesmo a produção de ferramentas cibernéticas ofensivas – até o projeto de sistemas de inteligência artificial (IA) e bancos de dados governamentais.
Cada vez mais, as empresas assumem papéis do Estado ou desenvolvem produtos que afetam os direitos fundamentais. Por exemplo, sistemas de reconhecimento facial que nunca foram devidamente regulamentados antes de serem desenvolvidos e implantados são agora tão amplamente usados que roubam a privacidade das pessoas. Da mesma forma, as empresas coletam dados privados sistematicamente, muitas vezes sem consentimento – uma norma do setor que os reguladores demoraram a abordar.
Como as tecnologias evoluem mais rápido do que as leis, as discrepâncias entre a agência privada e a supervisão pública estão crescendo. Considere, por exemplo, as empresas de “cidade inteligente”, que prometem que os governos locais serão capazes de reduzir o congestionamento ao monitorarem os carros em tempo real e ajustarem o tempo dos semáforos. Ao contrário, digamos, de uma estrada construída por uma construtora, essa infraestrutura digital não é necessariamente de domínio público. As empresas que a constroem adquirem dados e geram um valor que podem não ser revertidos para a sociedade.
Essa disparidade entre os setores público e privado está saindo do controle. Há uma brecha de informação, de talento e de computação. Juntas, elas somam uma lacuna de poder e responsabilidade. Assim, existe toda uma camada de controle de nossas vidas diárias sem legitimidade democrática e com pouca supervisão.
Por que deveríamos nos importar? Porque as decisões que as empresas tomam sobre os sistemas digitais podem não aderir a princípios democráticos essenciais, como liberdade de escolha, concorrência justa, não discriminação, justiça e responsabilidade. Consequências não intencionais de processos tecnológicos, decisões erradas ou projetos voltados para os negócios podem criar sérios riscos para a segurança pública e nacional. E o poder que não está sujeito a verificações e equilíbrios sistemáticos está em desacordo com os princípios fundamentais da maioria das democracias.
Hoje, a regulamentação da tecnologia é muitas vezes caracterizada como uma competição de três vias entre os sistemas administrados pelo Estado na China e na Rússia, o sistema orientado pelo mercado nos Estados Unidos e uma visão baseada em valores na Europa. A realidade, entretanto, é que existem apenas dois sistemas dominantes de governança tecnológica: o privatizado, descrito acima, que se aplica a todo o mundo democrático, e um autoritário.
Para colocar as empresas de tecnologia de todo o mundo em ação, precisamos de algo novo: uma aliança global que coloque a democracia em primeiro lugar.
O enfoque laissez-faire dos governos democráticos e sua relutância em controlar as empresas privadas em casa também se manifestam no cenário internacional. Embora os governos democráticos tenham permitido que as empresas governassem, os governos autoritários começaram a moldar as normas por meio de fóruns internacionais. Essa infeliz mudança coincide com uma tendência de declínio democrático em todo o mundo, à medida que grandes democracias como Índia, Turquia e Brasil se tornaram mais autoritárias. Sem os esforços deliberados e imediatos dos governos democráticos para reconquistar sua capacidade de agir, os modelos de governança corporativa e autoritária irão corroer a democracia em todos os lugares.
Isso significa que os governos democráticos devem construir suas próprias plataformas de mídia social, centros de dados e telefones celulares? Não. Mas eles precisam recuperar com urgência seu papel na criação de regras e restrições que sustentem os princípios fundamentais da democracia na esfera da tecnologia. Até agora, esses governos começaram lentamente a fazer isso com leis em nível nacional ou, no caso da Europa, em nível regional. Mas, para colocar as empresas de tecnologia de todo o mundo às ordens, precisamos de algo novo: uma aliança global que coloque a democracia em primeiro lugar.
Unindo forças
Instituições globais nascidas após a Segunda Guerra Mundial, como as Nações Unidas, a Organização Mundial do Comércio (OMC) e a Organização do Tratado do Atlântico Norte, criaram uma ordem internacional baseada em normas. Mas eles falham em levar em consideração o mundo digital em sua totalidade quando se trata de seus mandatos e agendas, mesmo que muitos estejam finalmente começando a se concentrar na cooperação digital, e-commerce e segurança cibernética. E embora o comércio digital (que exige seus próprios regulamentos, como regras para e-commerce e critérios para a troca de dados) seja de importância crescente, os membros da OMC não concordaram com regras globais que cobrem serviços para manufatura inteligente, cadeias de suprimentos digitais e outras transações habilitadas digitalmente.
O que precisamos agora, portanto, é uma grande coalizão democrática que possa oferecer uma alternativa significativa aos dois modelos existentes de governança tecnológica, o privatizado e o autoritário. Deve ser uma coalizão global, acolhendo países que atendam aos critérios democráticos.
A Comunidade das Democracias, uma coalizão de estados criada em 2000 para promover a democracia, mas nunca teve muito impacto, poderia ser reformulada e atualizada para incluir um mandato ambicioso para a governança da tecnologia. Alternativamente, um “D7” ou “D20” poderia ser estabelecido – uma coalizão semelhante ao G7 ou G20, mas composta pelas maiores democracias do mundo.
Esse grupo concordaria com os regulamentos e padrões para a tecnologia, alinhados com os princípios democráticos fundamentais. Em seguida, cada país membro iria implementá-los à sua própria maneira, como os estados membros da União Europeia (UE) fazem hoje com as diretrizes da união.
Que problemas essa coalizão resolveria? A coalizão pode, por exemplo, adotar uma definição compartilhada de liberdade de expressão para as empresas de mídia social seguirem. Talvez essa definição seja semelhante à abordagem europeia amplamente compartilhada, em que a expressão é livre, mas há claras exceções para discurso de ódio e incitação à violência.
Ou a coalizão pode limitar a prática de microssegmentar (em inglês, microtargeting) anúncios políticos nas redes sociais: isso poderia, por exemplo, proibir as empresas de permitir que os anunciantes personalizem e direcionem os anúncios com base na religião, etnia, orientação sexual ou dados pessoais coletados de alguém. No mínimo, a coalizão poderia defender mais transparência sobre a microssegmentação para criar um debate mais informado sobre quais práticas de coleta de dados deveriam ser proibidas.
A coalizão democrática também poderia adotar padrões e métodos de supervisão para as operações digitais de eleições e campanhas. Isso pode significar concordar com os requisitos de segurança para as urnas eletrônicas, além de padrões de anonimato, testes de nível de estresse e métodos de verificação, como exigir uma cópia de backup em papel para cada votação. E toda a coalizão poderia concordar em impor sanções a qualquer país ou ator não estatal que interfira em uma eleição ou referendo em qualquer um dos estados membros.
Outra tarefa que a coalizão pode assumir é desenvolver regras de comércio para a economia digital. Por exemplo, os membros podem concordar em nunca exigir que as empresas entreguem o código-fonte do software às autoridades estaduais, como a China faz. Poderiam também concordar em adotar regras comuns de proteção de dados para transações transfronteiriças. Esses movimentos permitiriam que uma espécie de zona de livre comércio digital se desenvolvesse em nações com interesses semelhantes.
A China já tem algo semelhante na forma de eWTP, uma plataforma de comércio que permite o comércio livre de tarifas globais para transações abaixo de um milhão de dólares. Mas o eWTP, que foi iniciado pelo gigante do comércio eletrônico Alibaba, é administrado por empresas do setor privado com base na China. O governo chinês é conhecido por ter acesso aos dados por meio de empresas privadas. Sem uma alternativa pública baseada em regras, o eWTP poderia se tornar a plataforma global de fato para o comércio digital, sem mandato democrático ou supervisão.
Outra questão que essa coalizão poderia abordar seria a segurança das cadeias de suprimentos para dispositivos como telefones e laptops. Muitos países baniram smartphones e equipamentos de telecomunicações da Huawei por temor de que a tecnologia da empresa possa ter vulnerabilidades embutidas ou backdoors que o governo chinês poderia explorar. O desenvolvimento proativo de padrões conjuntos para proteger a integridade das cadeias de suprimentos e produtos criaria condições de igualdade entre os membros da coalizão e geraria confiança nas empresas que concordassem em cumpri-las.
A próxima área que pode ser digna de atenção da coalizão é a guerra cibernética e o conflito híbrido (onde a agressão digital e física são combinadas). Na última década, um número crescente de países identificou o conflito híbrido como uma ameaça à segurança nacional. Qualquer nação com operações cibernéticas altamente qualificadas pode causar estragos em países que não investem em defesas contra eles. Enquanto isso, os ciberataques de atores não estatais alteraram o equilíbrio de poder entre os Estados.
No momento, porém, não há critérios internacionais que definam quando um ataque cibernético conta como um ato de guerra. Isso incentiva os ciberdeliquentes a atacarem de forma comedida, mas efetiva. Além de seu efeito econômico ou (geo) político imediato, esses ataques corroem a confiança de que a justiça será feita.
Uma coalizão democrática poderia trabalhar para fechar essa lacuna de responsabilidade e iniciar um tribunal independente para investigar esses ataques, talvez semelhante ao Tribunal Permanente de Arbitragem de Haia, que lida com disputas internacionais. Os líderes da aliança democrática poderiam então decidir, com base nas decisões do tribunal, se deveriam ser aplicadas sanções econômicas e políticas.
Essas são apenas algumas das maneiras pelas quais uma coalizão democrática global poderia promover normas que faltam na esfera digital. Os padrões da coalizão podem efetivamente se tornar globais se seus membros representarem uma boa parte da população mundial. O Regulamento Geral de Proteção de Dados (RGPD) da União Europeia fornece um exemplo de como isso pode funcionar. Embora o RGPD se aplique apenas à Europa, as empresas globais de tecnologia devem seguir suas regras para seus usuários europeus, e isso torna a oposição mais difícil, já que outras jurisdições adotam leis semelhantes. Da mesma forma, os não membros da coalizão democrática podem acabar seguindo muitas de suas regras para usufruir dos benefícios.
Se os governos democráticos não assumirem mais poder na governança da tecnologia à medida que governos autoritários se tornarem mais poderosos, o mundo digital – que faz parte de nossa vida cotidiana – não será democrático. Sem um sistema de legitimidade clara para aqueles que governam – sem freios, contrapesos e mecanismos de supervisão independente – é impossível responsabilizar as empresas de tecnologia. Somente com a construção de uma coalizão global para a governança da tecnologia os governos democráticos mais uma vez podem colocar a democracia em primeiro lugar.
Marietje Schaake é diretora de política internacional do Centro de Políticas Cibernéticas da Universidade de Stanford e pesquisadora de política internacional do Instituto de Inteligência Artificial Centrada no Homem de Stanford, ambos nos Estados Unidos. Entre 2009 e 2019, Marietje serviu como membro do Parlamento Europeu para o partido liberal democrático holandês.
MIT Technology Review
