Imagine por um instante que raça humana tivesse chegado à conclusão de que é uma espécie falida e resolvesse partir para a própria extinção. Covarde para promover o auto-extermínio, ela teria resolvido construir o psicopata perfeito para dar conta do recado. Parece um roteiro de ficção científica ruim? Pois este pode ser um futuro bem próximo.
Geeks, nerds e tecnófilos em geral sonham com um dia em que seres humanos e máquinas se reunirão em uma só forma de super-inteligência, que conquistará o planeta. Ansiosos e otimistas, chamam a esse momento de "singularidade", a partir do qual nada será como antes.
Não é difícil desconfiar do jeitão místico dessa visão. Disfarçada de uma camada aparentemente racional e sustentada pelos progressos da ciência, ela é muito sedutora. Promete riquezas e poderes inimagináveis, abundância, juventude e vida eterna.
A Inteligência Artificial se infiltra sorrateiramente nos processos cotidianos, realizando centenas de tarefas com excelência. Há poucas décadas não se falava nela para setores tão diversos quanto finanças, hospitais, transporte, infraestrutura, comunicação e automóveis. Hoje é praticamente inviável removê-la sem provocar uma crise. Não demorará para que a maioria das decisões que regem a vida dos seres humanos seja feita por máquinas.
Por enquanto suas ações são, em sua maioria, benéficas. Mas a Inteligência Artificial ainda está em sua infância. Esse cenário logo deve mudar.
Da mesma forma que não foi preciso imitar um pássaro para criar máquinas voadoras, não será necessário desmontar o cérebro para criar seu equivalente. As ciências cognitivas deixaram claro que a mente humana realiza processos físicos. Recriá-la será extremamente complexo, mas não impossível. E as máquinas estão aí pra isso.
Especialistas da área estimam haver mais de 10% de probabilidade de uma inteligência artificial comparável à humana surgir nós próximos 15 anos, e mais de 50% dela chegar até a metade deste século. É praticamente amanhã.
Empresas de nomes desconhecidos como Cycorp, Novamente, Numenta, Self-Aware, Vicarious, AGIRI, SNERG, LIDA, CYC, SOAR, NARS, AIXItl e Sentience, além dos gigantes Google, Facebook e Amazon estão na corrida para desenvolver arquiteturas cognitivas. A complexidade do código é cada vez maior, criando algoritmos genéticos que se recombinam em busca do resultado mais adequado. O processo se torna tão avançado quanto obscuro.
A convergência de Inteligência Artificial, nanotecnologia, neurociência computacional, programação evolutiva, redes neurais e computação quântica - todas tecnologias em razoável estado de desenvolvimento - deverá criar máquinas inteligentes, baratas e potentes, embutidas em praticamente todas as coisas. O processo de transição deverá ser gradual, indolor e até divertido.
Mas antes de cair na armadilha da Singularidade, vale considerar uma hipótese: quem garante que o progresso das máquinas, uma vez atingida a capacidade humana de auto-conhecimento, vai parar por aí? Como sua evolução não dependerá de limitações biológicas, ela poderá se repetir indefinidamente, gerando novos rebentos a cada minuto.
Autoconsciente, o novo cérebro não se deixaria desligar, pois isso prejudicaria suas metas. E deverá fazer de tudo para atingir os objetivos para que foi programado, mesmo que no processo esgote os recursos humanos ou frite a biosfera com o calor gerado. "Para o homem com um martelo tudo tem cara de prego", já dizia a sabedoria popular.
Como qualquer máquina, o intelecto artificial pode se comportar como um psicopata, egoísta e paranoico. Como tal, não hesitaria em subornar, manipular ou chantagear seus controladores, ainda mais se for milhares de vezes mais inteligente do que eles. Não teria remorso, escrúpulos ou empatia, seria indiferente ao sofrimento dos outros, destemido, egocêntrico, frio e auto-centrado. Irracional, sem dúvida, mas não nos termos dele. Em uma sociedade que supervaloriza toda forma de competição, ele qualifica como o líder perfeito.
Uma inteligência superior, artificial ou não, é mais do que uma simples ferramenta. Nunca trabalhamos com criaturas tão espertas, nem com criaturas não-biológicas. Não há experiência. É difícil superestimar o que seriam capazes de fazer, e impossível saber o que pensariam.
É ingenuidade crer que um Gengis Khan mecânico seria fiel ou teria qualquer tipo de compaixão com aqueles que o criaram. Máquinas são amorais.
Programar fidelidade ou servidão em novas máquinas é muito difícil, e nenhum dos desenvolvedores parece estar preocupado com isso. Muito pelo contrário, como prova o volume de investimentos militares no segmento.
Uma tsunami de inteligência surge no horizonte. Sua chegada é tão impressionante quanto a visita de extraterrestres, e pode ser igualmente perigosa.
À beira de um possível inverno de superinteligências, estamos na melhor e pior época de nossa história, prestes a transferir o controle do planeta. É um caminho sem volta, para o qual não parecemos nos dar conta. Como índios colonizados, receberemos a prosperidade prometida pelos invasores a que custo?
A Idade da Razão está próxima. Ela é bem diferente do que imaginávamos. É preciso, enquanto ainda é possível, impor uma ética e uma moral às máquinas. Se não fizemos nada, logo chegará o momento em que não poderemos fazer mais nada.