A evolução tecnológica tem vindo a provocar a substituição das decisões pessoais por notas de algoritmos. E com vantagens em muitas áreas, acrescente-se. Negar o progresso não é uma atitude conservadora, é estupidez. Todavia, partir daí para a ideia de que ‘tudo o que é novo, é bom’, não é menos irracional.
Mais para o mal do que para o bem, as sociedades têm vindo a despersonalizar-se, com a adoção de processos de automatização que limitam a autonomia de pessoas e organizações, com demasiadas decisões a serem tomadas por referência a unidades-padrão.
Na lógica do algoritmo, as pessoas passaram a ser identificadas como ‘unidades’ ou ‘elementos’, deixando de ser altas ou baixas, simpáticas ou antipáticas, competentes ou incompetentes, disponíveis ou ocupadas… E cada ‘elemento’ é representado por um número, numa qualquer escala.
No mundo das empresas, para o conceito de trabalhador deixou de contar a avaliação pessoal que, comportando todos os riscos da subjetividade, permite captar características individuais que tornam cada individuo um ser único, com singularidades que estão no sorriso, no olhar ou na tonalidade da voz. Quem já foi atendido no guichet de um serviço público, na receção de um consultório ou ao balcão de uma pastelaria, sabe reconhecer as diferenças.
A numerologia está para o algoritmo como a novilíngua estava para Orwell: a realidade cede perante a norma. No algoritmo, valem as categorias com notações que alimentam um sistema de fórmulas, de onde sai o output – que é um resultado aritmético onde o ‘José Antunes’ deixa de ser ele próprio para estar representado por um número: o 27, o 53 ou o 75.
E o que se diz para a pessoa, diz-se para um país, uma empresa, uma operação de crédito e, qualquer dia, para a atribuição de uma carta de condução ou para um diagnóstico médico.
Numa operação de crédito – que pode decidir a sobrevivência de uma empresa ou o lançamento de um projeto inovador – a decisão ignora a realidade, para ficar cativa do scoring, desenhado de tal forma que a decisão vai estar numa bola verde=aprovado, vermelha=reprovado, ou amarela=precisa mais informação. Para um país, é o rating que decide se é confiável (tem ‘grau de investimento’), ou se é remetido para a categoria de ‘lixo’, com todas as consequências que essa fatalidade trará para a vida dos cidadãos.
Um exemplo real mostra até que ponto pode chegar a aberração. Enquanto Presidente dos EUA, Ronald Reagan viu ser-lhe recusado um cartão de crédito por causa do scoring. E o algoritmo até funcionou bem: o homem já não estava em idade ativa, não vivia em casa própria, não tinha emprego certo e, pior que tudo, nos seus tempos de ator tivera uma vida pessoal… instável. Resultado: bola vermelha, pois claro! O cálculo estava certo, a decisão é que era estúpida!
De forma crescente, nações, empresas e pessoas estão a ficar demasiado dependentes de algoritmos. Mas, se esquecermos a pessoa e a sua individualidade, o feitiço pode virar-se contra o algoritmo.
