Os computadores já não se limitam a resolver problemas matemáticos complexos e a nos mostrar vídeos de gatos. Eles cada vez mais julgam o nosso caráter.
Talvez devêssemos agradecer.
Uma companhia chamada Upstart, de Palo Alto, Califórnia, nos últimos 15 meses emprestou US$ 135 milhões a pessoas com histórico de crédito desfavorável. Tipicamente, elas são recém-formados sem hipotecas, financiamentos de carros ou dívidas rotativas com cartões de crédito.
Essas são normalmente as coisas que valem um bom ou mau histórico de crédito a um consumidor, mas as pessoas beneficiadas não têm um histórico de emprego longo. Por isso, a Upstart leva em consideração seus resultados em exames como o SAT —uma espécie de Enem americano—, as faculdades em que estudaram, suas áreas de graduação e suas notas no ensino superior. A empresa, mais que avaliar suas perspectivas de emprego, está avaliando suas personalidades.
"Se você tomar duas pessoas com o mesmo emprego e circunstâncias, como por exemplo ter cinco filhos, cinco anos mais tarde aquela que teve as notas mais altas na universidade apresentará probabilidade superior de pagar uma dívida", disse Paul Gu, cofundador e vice-presidente de produtos da Upstart. "Não é só poder pagar ou não, mas sim a importância que a pessoa confere às suas obrigações".
A ideia, validada por dados, é a de que pessoas que prestavam mais atenção aos seus trabalhos escolares ou estudavam por conta própria porque uma prova de improviso podia ser aplicada são mais minuciosas e apresentam maior probabilidade de honrar suas dívidas.
E é assim que os recursos analíticos da era da informação confluem com o julgamento de pessoas.
"Acho que poderíamos definir essa qualidade como caráter, ainda que não seja um rótulo que usemos", disse Gu, 24.
A mesma dinâmica de personalidade se aplica a pessoas que conseguiram vaga em ótimas escolas ou obtiveram notas excelentes.
Douglas Merrill, fundador e presidente-executivo da Zest Finance, é um antigo executivo do Google cuja companhia oferece empréstimos a mutuários com histórico de crédito abaixo da norma, com base em dados não padronizados.
Um desses sinais é se a pessoa já abandonou um número de celular pré-pago. Em casos nos quais a situação de moradia é muitas vezes incerta, um número de celular é muitas vezes maneira mais confiável de localizar uma pessoa do que seu endereço; e portanto abandoná-lo pode indicar que a pessoa está disposta (ou se viu forçada) a desaparecer, tanto diante de
sua família quanto diante de potenciais empregadores. E isso é mau sinal.
A Zest recentemente começou a trabalhar com clientes "quase padrão", aqueles que decaíram das categorias de crédito mais altas ou estão ascendendo das mais baixas. A questão é determinar por que essas pessoas mudaram de categoria, e a Zest tenta descobrir se um devedor potencialmente confiável passou por alguma má sorte temporária, por exemplo despesas medidas imprevistas.
"'Caráter' é um termo com uma carga problemática, mas existe uma diferença importante entre capacidade de pagar e disposição de pagar", disse Merrill. "Se você se limitar a observar as transações financeiras, será difícil dizer alguma coisa sobre a disposição de pagar".
Merrill, que também tem um doutorado em psicologia (pela Universidade de Princeton, caso Gu deseje lhe emprestar dinheiro), acredita que a avaliação de personalidade com base em dados estatísticos é em última análise mais justa que os indicadores convencionais.
"Você sempre julga as pessoas de uma série de maneiras, mas sem dados isso é feito com um viés de seleção", ele disse. "Baseamos o julgamento naquilo que sabemos sobre as pessoas, mas isso em geral quer dizer favorecer aquelas que sejam mais parecidas conosco".
Familiaridade é uma forma crua de gestão de risco, porque sabemos o que esperar. Mas isso não a torna justa.
O caráter (ainda que o termo usado em geral seja mais neutro) agora pode ser julgado por muitos outros algoritmos. A Workday, uma empresa que oferece software de pessoal em nuvem, lançou um produto que leva em conta 45 fatores de desempenho de um trabalhador, entre os quais o tempo no posto e o desempenho passado da pessoa. O algoritmo prevê a probabilidade de que a pessoa se demita e sugere coisas apropriadas, como uma promoção ou transferência, que possam convencer as pessoas certas a ficar.
O produto também classifica os gestores como "semeadores" ou "exterminadores", a depender de seu desempenho na retenção de talentos. Dentro da Workday, a companhia analisou sua força de vendas para descobrir o que determina o sucesso. O principal indicador é a tenacidade.
"Todos temos parcialidades em termos de como contratar e promover pessoal", disse Dan Beck, diretor de estratégia tecnológica da Workday. "Se você puder recorrer aos dados para superá-las, ótimo".
As pessoas que estudam essas traços se sentirão encorajadas a adotar os novos métodos porque, "se você sabe que existe um padrão que determina o sucesso, por que não adotá-lo?"
Em certo sentido, isso não é diferente da maneira pela qual as pessoas leem biografias de líderes de sucesso em busca de pistas sobre o que mudar em seu comportamento para conseguir sucesso semelhante. Mas o método opera em escala muito maior, e sua base é observar a todos.
Existem motivos para pensar que as avaliações de caráter baseadas em dados sejam mais razoáveis.
Jures Leskovec, professor de ciência da computação em Stanford, está concluindo um estudo comparando as previsões de análise de dados às dos juízes em audiências judiciais sobre a concessão de fianças, nas quais eles têm apenas alguns minutos para avaliar um prisioneiro e determinar se ele pode ser um risco para a sociedade. Os resultados iniciais sugerem que análises propelidas por dados são 30% melhores na previsão de crimes, disse Leskovec.
"Os algoritmos não subjetivos", ele disse. "A parcialidade vem das pessoas".
Isso é verdade só até certo ponto. Algoritmos não caem do céu. Eles são escritos por seres humanos. Mesmo que os fatos não sejam parciais, a concepção do algoritmo pode sê-lo, e podemos terminar com uma crença injustificada de que a matemática é sempre verdade.
Gu, da Upstart, que disse que ter passado com nota máxima no SAT mas ainda assim abandonado a Universidade Yale sem concluir o curso, não teria se qualificado para um empréstimo da Upstart, com base em seu algoritmo inicial. Ele mudou o projeto, depois, e disse que está ciente da responsabilidade que carrega para o futuro.
"Sempre que identificamos um sinal, temos de nos perguntar se nos sentiríamos confortáveis em explicar a alguém o motivo de sua rejeição", ele disse.
Tradução de PAULO MIGLIACCI