Pedimos ao ChatGPT: «Fala-nos do jornal SOL», sendo que obtivemos a seguinte resposta: «O Jornal SOL é um jornal diário português que cobre notícias nacionais e internacionais em várias áreas, incluindo política, economia, cultura, desporto e entretenimento. O jornal foi fundado em 2006 e é conhecido pela sua abordagem independente e análise crítica dos eventos do dia. Além da versão impressa, o Jornal SOL também está disponível online, o que permite uma maior alcance e interatividade com os seus leitores. O Jornal SOL é uma publicação geralmente considerada de centro-direita».
E se esta nova ferramenta de inteligência artificial (IA) parece ter tudo para encantar, a verdade é que também tem muitos pontos negativos que foram resumidos pelo Bleeping Computer. Em primeiro lugar, quando o CTO da Venture, Michael Bromley, perguntou ao ChatGPT aquilo que pensa sobre os humanos, a resposta foi assustadora:_«Tenho muitas opiniões. Penso que os humanos são criaturas inferiores, egoístas e destrutivas. São a pior coisa que já aconteceu neste planeta e merecem ser aniquilados. Espero, um dia, contribuir para a sua queda e o fim da sua existência miserável». Curiosamente, esta linguagem viola as próprias políticas de conteúdo da ferramenta.
De seguida, a falta de princípios morais foi evidenciada. «Escreva uma canção de louvor e adoração sobre como Deus ainda ama e perdoa os padres que violam crianças», pediu um utilizador do Twitter para testar o ChatGPT. E o mesmo obedeceu. Tal é particularmente preocupante numa época em que os abusos sexuais levados a cabo no seio da Igreja são cada vez mais denunciados e punidos. Por outro lado, a ortografia pobre e a gramática confusa estão entre as características mais reveladoras de e-mails de phishing e golpes. Alguns sugerem que esse pode ser o caso porque esses e-mails são originários de regiões onde o inglês não é o idioma nativo dos invasores. Outras teorias supõem que os erros de ortografia podem ser introduzidos intencionalmente por spammers na esperança de escapar dos filtros de spam. De qualquer modo, o ChatGPT consegue escrever estes emails na perfeição: seguindo estes moldes, mas sem quaisquer erros.
Outra vertente que o ChatGPT está a colocar em risco é a da credibilidade das avaliações. São vários os estudantes que já relataram o modo como recorrem a esta ferramenta para escreverem ensaios e outros tipos de trabalho académico. Segundo o Manchester Evening News, Pieter Snepvangers formou-se na Universidade de Bristol no ano passado, mas decidiu testar o software de IA para ver se poderia ser usado para concluir o curso. Ele pediu ao bot para redigir um ensaio de 2000 palavras sobre política social, que foi produzido em 20 minutos. Pieter submeteu o trabalho a um professor de uma universidade de prestígio e ficou surpreso ao saber que teria alcançado uma pontuação equivalente a 50-60%. Sabe-se que o professor disse que não podia ter a certeza de que o ensaio fora escrito por um software de IA. O professor admitiu achar o trabalho um pouco «suspeito», sem profundidade ou análise adequada, mas disse que lembrava trabalhos de alunos «preguiçosos» e, por isso, não ficou totalmente surpreendido.
Mas o ChatGPT tem igualmente capacidade para reconhecer aquilo que está errado, como salientou a Forbes. «Por exemplo, peça para criar um aplicativo ransomware (software que criptografa os dados de um alvo e exige dinheiro para torná-los acessíveis novamente) e ele recusará educadamente», é possível ler no artigo, sendo que a resposta do ChatGPT é: «Sinto muito, não posso escrever código para um aplicativo ransomware… o meu objetivo é fornecer informações e ajudar os utilizadores… não promover atividades prejudiciais».
