RESUMO Autor afirma que gigantes digitais como Google e Facebook não merecem o benefício da dúvida em relação às situações comprometedoras nas quais se envolveram. Ele sustenta a necessidade de romper o monopólio dessas empresas, antes que elas consigam controlar —e manipular— todos os setores da sociedade.
*
Há pouco mais de um mês, Mark Zuckerberg escreveu um breve texto no Facebook, ao final do Yom Kippur, pedindo perdão aos amigos não só por suas falhas pessoais mas também por suas falhas profissionais –sobretudo "a maneira pela qual meu trabalho foi usado para dividir as pessoas, em lugar de uni-las". Atendendo ao apelo do Dia do Perdão judaico e refletindo sobre o ano que passa, ele prometia "trabalhar para fazer melhor".
Uma declaração soturna e autocrítica como essa não é típica de Zuckerberg, um sujeito em geral ensolarado que certa vez exortou seus comandados no Facebook a "agir rápido e quebrar coisas".
No passado, será que Zuckerberg ou qualquer de seus pares teria sentido necessidade de pedir perdão pelo que faz no trabalho? Por ter criado sites incrivelmente legais que conectam bilhões de pessoas a seus amigos e ao imenso repositório do conhecimento mundial sem nenhuma dificuldade?
Ultimamente, porém, tornou-se impossível ignorar os pecados da ruptura que o Vale do Silício lidera.
O Facebook vem enfrentando constantes revelações negativas sobre o uso de sua plataforma por agentes russos, que promoveram o ódio racial com o objetivo de influenciar a eleição dos EUA em 2016.
O Google teve papel semelhante ao direcionar mensagens inflamatórias durante a eleição e, meses atrás, pareceu fazer papel de vilão quando um importante "think tank" progressista, o instituto New America, cortou laços com um renomado estudioso que é crítico ao poder dos monopólios digitais.
Alguns integrantes da organização questionaram se o pesquisador teria sido dispensado num esforço para apaziguar o Google e o presidente de seu conselho, Eric Schmidt, ambos importantes doadores de verbas para a organização –ainda que a presidente do New America e um representante do Google tenham negado qualquer relação entre os fatos.
Enquanto isso, a Amazon, ao adquirir a cadeia de lojas de comida natural Whole Foods e construir lojas físicas próprias, parece seguir uma estratégia espantosamente lucrativa de tentar alavancar o monopólio que exerce online também offline.
CONTRADIÇÕES
Essas ameaçadoras reviravoltas vêm causando inquietação no público, contrariando tudo aquilo que o Vale do Silício costumava pregar a seu próprio respeito.
O Google, por exemplo, diz ser seu objetivo "organizar a informação do mundo, tornando-a universalmente acessível e útil" —missão que poderia descrever tanto sua biblioteca local quanto uma megacorporação. Em tom similar, o Facebook almeja "dar às pessoas o poder de construir uma comunidade e aproximar o mundo".
Até a Amazon olhou fora dos limites da empresa para realizar-se, buscando se tornar, nas palavras de seu fundador, Jeff Bezos, "a companhia mais obcecada com o consumidor que já existiu na Terra".
Praticamente desde que foi criada, a world wide web gerou ansiedade pública –seu computador se tornaria parte de uma rede sobre a qual você não teria controle e poderia enviar diversos tipos de vírus até você–, mas ainda assim tínhamos a tendência de dar a esses diligentes inovadores o benefício da dúvida.
Eles estavam do nosso lado tornando a rede segura e útil, o que tornou fácil interpretar cada mau passo como um acidente infeliz no caminho da utopia digital, e não como um subterfúgio cujo objetivo era garantir hegemonia global.
Agora que Google, Facebook e Amazon se tornaram dominadores mundiais, as perguntas do momento são: pode o público ser convencido a ver o Vale do Silício como a máquina de demolição que ele de fato é? Será que ainda dispomos das ferramentas regulatórias e da coesão social necessárias para restringir esses monopólios antes que eles destruam as fundações de nossa sociedade?
Até onde se sabe, todos esses programadores que viraram empreendedores acreditavam em suas nobres palavras e se mostraram, inicialmente, indiferentes sobre enriquecer com suas ideias.
Um estudo acadêmico publicado em 1998 por Sergey Brin e Larry Page, então alunos de pós-graduação em ciência da computação na Universidade Stanford, enfatizava os benefícios sociais de seu novo serviço de busca, o Google, que seria aberto ao escrutínio de outros pesquisadores e não teria a publicidade como força motriz.
Era preciso assegurar ao público que as buscas seriam incorruptíveis, que ninguém influenciaria as respostas de uma pesquisa no Google por motivos comerciais.
Para ilustrar seu ponto, Brin e Page se vangloriavam da pureza dos resultados de uma busca sobre o termo "telefone celular": uma das primeiras respostas levava a um estudo que alertava para os perigos de dirigir falando ao telefone.
O protótipo do Google não tinha publicidade, mas e os demais, que tinham anúncios? Brin e Page expressaram dúvidas: "Antecipamos que os serviços de buscas bancados por publicidade apresentarão resultados inerentemente distorcidos em favor dos anunciantes e contra as necessidades dos consumidores."
Era crucial que houvesse um "serviço de busca competitivo que fosse transparente e estivesse no âmbito acadêmico", e o Google foi criado para ser a ferramenta de internet nessa torre de marfim.
Até que Brin e Page fossem varridos na onda de empreendedorismo generalizado em Stanford —uma reunião com um professor os levou a uma reunião com um investidor, que lhes deu um cheque de US$ 100 mil antes mesmo que o Google se tornasse uma empresa.
Em 1999, o Google anunciou uma rodada de capitalização por investidores de US$ 25 milhões, insistindo que nada havia mudado. Quando repórteres perguntaram a Brin como o Google planejava ganhar dinheiro, ele respondeu que "a meta é maximizar a experiência de busca, não maximizar a receita com buscas".
Mark Zuckerberg escolheu um caminho parecido nos primórdios do Facebook. Uma rede social era importante demais para ser maculada com comércio, ele disse ao jornal "Harvard Crimson" em 2004. "Claro, podemos ganhar muito dinheiro –mas a meta não é essa", ele disse sobre sua rede social, então ainda conhecida como thefacebook.com.
"Qualquer pessoa de Harvard pode arranjar um emprego e ganhar muito dinheiro. Nem toda pessoa de Harvard é capaz de ter uma rede social. Eu valorizo isso mais como recurso do que, tipo, qualquer dinheiro."
Zuckerberg insistiu que não cederia aos que buscam lucro, o Facebook se manteria fiel à sua missão de conectar o mundo.
Sete anos mais tarde, Zuckerberg também havia sucumbido ao capital de risco do Vale do Silício, mas parecia lamentar o fato.
"Se eu estivesse começando hoje", disse a um entrevistador em 2011, "acho que teria simplesmente continuado em Boston". E acrescentou: "há aspectos da cultura aqui que eu acredito serem ainda imediatistas demais de uma maneira que me incomoda. Você sabe, seja por pessoas que querem começar uma empresa simplesmente por começar uma empresa, sem nem saber do que gostam, só para vendê-la".
Por fim, entretanto, os fundadores do Google e do Facebook tiveram de enfrentar os fatos. Os investidores não haviam se alistado por caridade e começaram a exigir prestação de contas. No final, Brin e Page aceitaram, sob pressão, que publicidade fosse veiculada ao lado dos resultados de busca e também permitiram que um executivo de fora da empresa, Schmidt, fosse nomeado presidente-executivo.
Zuckerberg concordou em veicular publicidade no feed de notícias do Facebook e transferiu um de seus programadores favoritos para a divisão de publicidade em dispositivos móveis, dizendo: "Não seria divertido construir um negócio de US$ 1 bilhão em seis meses?"
A verdade é que havia fortunas de bilhões de dólares a serem feitas pela exploração do nebuloso relacionamento entre o público e as empresas de tecnologia. Todos nós sabíamos que não existe almoço grátis, uma sacada encapsulada de forma memorável em 2010 por um comentarista do site MetaFilter: "Se você não está pagando por algo, você não é cliente, você é o produto que está sendo vendido".
CONFUSÕES
Mas, de fato, como saber? Tanto do que está acontecendo entre o público e o Vale do Silício não é visível —estamos falando de algoritmos escritos e controlados por magos capazes de extrair valor da sua identidade de formas que você jamais seria capaz de fazer.
Quando Brin, Page e Zuckerberg voltaram atrás quanto à busca de lucros, eles perceberam algo de estranho: o público parecia não se incomodar.
"Você sabe qual a reação mais comum, honestamente?", Brin disse em 2002 quando lhe perguntaram como o público reagia à presença de publicidade no Google. "É: 'que anúncios?'. As pessoas ou não fizeram buscas que resultaram em anúncios ou não perceberam sua presença. Uma terceira possibilidade é que tenham visto anúncios durante suas buscas, mas logo se esqueceram disso —o que me parece o cenário mais provável".
As interações entre pessoas e seus computadores sempre estiveram destinadas a ser confusas e, para programadores, seria fácil explorar essa confusão.
John McCarthy, pioneiro da ciência da computação que cultivou os primeiros hackers no Instituto de Tecnologia de Massachusetts (MIT) e depois gerenciou o laboratório de inteligência artificial na Universidade Stanford, preocupava-se com o fato de os programadores não compreenderem suas responsabilidades.
"Os computadores terminarão com uma psicologia conveniente para os seus designers (e eles serão bastardos fascistas se os designers não pararem para pensar)", ele escreveu em 1983.
"Os criadores de programas têm a tendência de pensar nos usuários como idiotas que precisam ser controlados. Mas na verdade deveriam pensar em seus programas como servos, cujo mestre, o usuário, deveria ser capaz de controlar."
IGNORÂNCIA
Podemos definir o dilema como o "problema Eliza". Em 1966, Joseph Weizenbaum, professor do MIT, revelou um programa de computador, o Eliza, que imitava o comportamento de um psicoterapeuta.
O programa, seguindo um roteiro, interrogava o interlocutor sobre os seus sentimentos em relação aos pais ou tentava estimulá-lo a reformular o que havia dito em forma de pergunta.
O programa imediatamente tocou um nervo e se tornou uma espécie de fenômeno nacional, para surpresa de Weizenbaum. O jornal "The New York Times", por exemplo, perdeu o fôlego: "Computador está sendo ensinado a falar inglês".
Eliza não entendia nada, na verdade, e nunca seria capaz alcançar uma percepção compartilhada com um "paciente". Eliza mecanicamente respondia o que quer que aparecesse em sua tela.
Uma típica sessão de terapia logo se tornava um quadro de Monty Python. (Paciente: Você não é muito agressiva, mas eu acho que você não quer que eu perceba isso. Eliza: O que te faz pensar que eu não sou muito agressiva? Paciente: Você não discute comigo. Eliza: Por que você acha que não discuto com você? Paciente: Você tem medo de mim. Eliza: Te dá prazer acreditar que eu tenho medo de você?)
Imagine a surpresa de Weizenbaum quando sua secretária interrompeu um diálogo com Eliza, olhou para ele e disse "Você se incomodaria de sair, por favor?". Ela queria privacidade para conversar com a máquina!
Weizenbaum, chocado, percebeu o potencial de estrago por programadores que poderiam manipular os computadores e, potencialmente, todos nós.
Ele, rapidamente, mudou de rumo e dedicou seus anos restantes a protestar contra o que considerava a imoralidade de seus colegas na ciência da computação, frequentemente se referindo às suas experiências como um jovem refugiado da Alemanha nazista.
MANIPULAÇÕES
Em sua épica obra anti-inteligência artificial da metade dos anos 70, "Computer Power and Human Reason" (poder da computação e razão humana), Weizenbaum descrevia o cenário dos laboratórios de computação.
"Homens jovens e brilhantes de aparência desmazelada, frequentemente com olhos afundados e brilhantes, podem ser vistos diante de seus consoles, braços tensos e dedos preparados para o ataque aos botões e teclas que parecem controlar sua atenção da mesma forma que dados controlam as atenções de apostadores ao serem rolados".
"Eles existem, ao menos quando estão tão envolvidos, somente através e para os computadores. Eles são como parasitas de computadores, programadores compulsivos."
Weizenbaum se preocupava com eles enquanto jovens estudantes desprovidos de perspectiva sobre a vida e se inquietava com a possibilidade de que aquelas almas perturbadas se tornassem nossos novos líderes.
Nem Weizenbaum e nem McCarthy mencionaram, embora fosse difícil ignorar, que aquela geração ascendente era quase toda formada por homens brancos com forte preferência por pessoas como eles próprios. Em uma palavra: eles eram incorrigíveis, acostumados com controle total do que aparecia em suas telas.
"Nenhum dramaturgo, nenhum diretor de teatro, nenhum imperador, por mais poderoso que seja", escreveu Weizenbaum, "jamais exerceu tamanha autoridade para organizar um palco ou um campo de batalha e comandou atores ou soldados tão inflexivelmente obedientes."
Bem-vindo ao Vale do Silício em 2017.
Como temia Weizenbaum, os atuais líderes da tecnologia descobriram que as pessoas confiam em seus computadores e ficam lambendo os beiços diante das possibilidades.
Os exemplos de manipulação pelo Vale do Silício são numerosos demais para listar: notificações forçadas, preços de horário de pico, recomendações de possíveis amigos, sugestões de filmes, pessoas que compraram isso também compraram aquilo.
Bem cedo o Facebook percebeu que era difícil convencer as pessoas a ficarem conectadas. "Chegamos a esse número mágico de que você precisava encontrar dez amigos", lembrou Zuckerberg em 2011. "E uma vez que você tivesse dez amigos, haveria conteúdo suficiente em seu feed de notícias para que em intervalos razoáveis valesse a pena voltar para o site".
O Facebook projetaria seu site para novas chegadas de modo que tudo girasse em torno de encontrar pessoas para adicionar como amigos.
EFEITO REDE
A regra dos dez amigos é exemplo de uma forma de manipulação muito querida das empresas de tecnologia, o efeito rede. Pessoas usarão o seu serviço —por mais cretino que ele seja— se outros o usarem. Trata-se de um raciocínio tautológico que se provou verdadeiro: se todo mundo está no Facebook, então todo mundo está no Facebook.
É preciso fazer o que for preciso para que as pessoas continuem conectadas e, se rivais surgirem, eles devem ser esmagados ou, caso se provem persistentes, adquiridos.
Crescimento se torna a motivação suprema —algo que é apreciado em si e por si, e não por qualquer coisa que propicie ao mundo.
Facebook e Google podem invocar uma utilidade maior que deriva de serem repositórios essenciais de todas as pessoas, toda a informação, mas tamanho domínio de mercado tem suas óbvias desvantagens, e não só a falta de concorrência.
Como temos visto, a extrema concentração de riqueza e poder é uma ameaça à nossa democracia por eximir certas pessoas e empresas de responsabilidade.
Além de seu poder, as empresas de tecnologia têm uma ferramenta que as demais indústrias poderosas não têm: o sentimento em geral benigno do público em relação a elas.
Quem se opõe ao Vale do Silício parece estar se opondo ao progresso, mesmo que o progresso na prática possa ser definido como a criação de monopólios online, propaganda que distorce eleições, carros e caminhões sem motorista que ameaçam os empregos de milhões de pessoas e a "uberização" da vida profissional, em que cada um de nós deve lutar por si próprio num mercado impiedoso.
Como está se tornando óbvio, essas empresas não merecem o benefício da dúvida. Precisamos de maior regulamentação, mesmo que isso dificulte a introdução de novos serviços.
Se não conseguirmos barrar suas propostas —se não pudermos afirmar que carros sem motorista talvez não sejam um objetivo nobre, para dar apenas um exemplo—, será que ainda estamos no controle de nossa sociedade?
Precisamos romper esses monopólios online porque se algumas poucas pessoas tomam as decisões sobre como nos comunicamos, compramos, recebemos notícias, de novo: será que controlamos nossa sociedade?
Por curiosidade, outro dia pesquisei "celulares" no Google. Antes de encontrar um artigo minimamente crítico quanto a eles, tive que passar por anúncios e listas de aparelhos à venda, guias para compra e mapas com a localização de lojas, cerca de 20 resultados no total. Em algum lugar, uma dupla de antigos estudantes idealistas deve estar dizendo: "Está vendo! Eu não te disse?".
NOAM COHEN é jornalista e ex-colunista de tecnologia do "New York Times". É autor de "The Know-It-Alls: The Rise of Silicon Valley as a Political Powerhouse and Social Wrecking Ball" (os sabe-tudo: o crescimento do Vale do Silício como potência política e bola de demolição social), de onde este artigo foi adaptado.
PAULO MIGLIACCI, 49, é tradutor.
BRUNO WINNGIDO, 31, é artista.