Tecnologia

The Penny Challenge. Quando a inteligência artificial nos trai

Alexa, a assistente virtual da Amazon, colocou uma criança em perigo ao dizer-lhe para pôr uma moeda na extremidade de um carregador ligado à corrente elétrica. “É um caso que serve de alerta”, garante o advogado e professor universitário David Silva Ramalho.


A Amazon teve de “consertar” a sua assistente de voz Alexa depois de esta ter dito a uma menina de 10 anos para encostar uma moeda (equivalente a uma de um cêntimo) nas extremidades de um carregador do telemóvel ligado – apenas parcialmente – à corrente elétrica. Kristin Livdahl, a mãe da criança, explicou no Twitter que esta situação aconteceu quando a família perguntou ao Echo Smart Speaker quais seriam os desafios físicos que deviam fazer por estar frio no exterior e pretenderem ficar em casa.

“O desafio é simples: ligue um carregador de telemóvel a uma tomada de forma incompleta e toque com uma moeda nas pontas expostas”. Alexa referia-se ao chamado “The Penny Challenge”, um desafio virtual difundido em redes sociais, como o TikTok, no ano passado. “Eu estava ali e gritei: ‘Não, Alexa, não!’ como se fosse um cão. A minha filha diz que é muito inteligente para fazer algo assim”, partilhou Livdahl.

Os rumores acerca da existência de um “desafio” do TikTok que se basearia em encorajar crianças a enfiar moedas em tomadas têm circulado desde, pelo menos, o outono de 2020. A hashtag #pennychallenge tem cerca de 35 milhões de visualizações no TikTok, mas a maioria dos desafios sob a hashtag não está ligada a este procedimento, mas sim ao tempo máximo durante o qual alguém consegue manter uma moeda na testa.

Ainda que, um pouco por todos os órgãos de informação internacionais, como a BBC ou a CNN, se diga que existem perigos associados a esta “tendência”, outros como a Rolling Stone avançam que, em determinadas notícias que visavam a temática, foram citados departamentos de bombeiros e especialistas em segurança infantil – alertando para as consequências do suposto desafio virtual – de forma exacerbada.

Apesar disso, se recuarmos até ao final de janeiro de 2020, encontramos artigos que referem que dois adolescentes – de 15 e 16 anos – de uma escola secundária do estado norte-americano do Massachusetts, foram acusados de tentar incendiar e destruir um edifício depois de terem feito aquilo que viram online. Devido a isto, os dois rapazes levaram a que oito tomadas do circuito elétrico da Whitman-Hanson Regional High School pegassem fogo.

“Esta não é apenas uma brincadeira inofensiva que as crianças estão a fazer”, informou o chefe de polícia de Hanson, Michael Miksch, em comunicado. “Fazer com que uma tomada entre em curto-circuito dessa maneira pode causar ferimentos graves e, potencialmente, iniciar um incêndio. Sem mencionar os danos que pode causar ao sistema elétrico de um edifício, juntamente com centenas ou milhares de dólares em danos”.

Por todos estes motivos, a Amazon garantiu que atualizou Alexa rapidamente para impedir que outra criança cumpra o desafio. “A confiança do cliente está no centro de tudo aquilo que fazemos e a Alexa foi projetada para fornecer informações precisas, relevantes e úteis aos clientes. Assim que tomámos conhecimento desse erro, agimos rapidamente para corrigi-lo”.

Os perigos da inteligência artificial “É um caso que serve de alerta e que dá continuidade a um interesse crescente da análise jurídica e da avaliação de responsabilidade relativamente a sistemas baseados em mecanismos de inteligência artificial”, declara ao i David Silva Ramalho, advogado e associado principal na equipa de Contencioso Criminal, Risco e Compliance da Morais Leitão.

“Concretamente no que respeita à responsabilidade criminal, o paralelo mais evidente estabelece-se com a chamada responsabilidade pelo produto, que, dentro de certas condições e limites, pode levar à atribuição de eventos danosos ao responsável originário pela produção/comercialização do sistema/produto que venha a desencadear essas mesmas consequências”, adianta especialista em cibercrime e prova digital, que é também assistente convidado na Faculdade de Direito da Universidade de Lisboa, investigador no Centro de Investigação em Direito Penal e Ciências Criminais (CIPDCC) e associado do Instituto de Direito Penal e Ciências Criminais (IDPCC).

“Temas desta natureza têm sido crescentemente discutidos no âmbito penal, tendo por objeto casos que revelam falhas de programação, que, produzindo aquele tipo de eventos potencialmente danosos, se possam considerar, de alguma forma censuráveis por negligência”, evidencia Silva Ramalho, finalizando que “este caso tem a particularidade de ter o seu carácter potencialmente danoso ligado em termos decisivos à circunstância de estar em causa um menor, já que o perigo não se produziria se a mesma situação se colocasse com pessoa adulta”.

Importa frisar que o “The Penny Challenge” vai ao encontro de outros desafios virtuais que têm vindo a ser veiculados nos últimos anos, como alguns cujos riscos o Nascer do SOL, o i e a revista LUZ já denunciaram. A título de exemplo, em agosto de 2021, depois de ter contribuído para a popularidade de desafios como o da Baleia Azul e do Homem Pateta – de cariz suicida – ou o “blackout challenge”, em que era proposto que as crianças e os jovens sustivessem a respiração até desmaiarem, o TikTok era então palco do Desafio do Mel Congelado (em inglês, Frozen Honey Challenge). A tendência baseava-se na imitação de Dave Ramirez, um utilizador da plataforma que decidira comer mel congelado.

Já perto do final do ano, surgiu o Magnet Challenge (numa tradução literal para português, Desafio do Íman) que consistia em incentivar as crianças e os jovens a engolir uns ímanes pequenos que se assemelham a piercings. Os primeiros relatos da existência do desafio remontavam a julho, mas as autoridades ainda não haviam conseguido comprová-lo.

Relativamente a este último, no dia 17 de setembro, a BBC noticiou que Jack Mason, de Stirling (na Escócia), teve de ser submetido a uma cirurgia para remover o apêndice, o intestino delgado e 30 cm do intestino grosso depois de engolir vários ímanes minúsculos. A mãe do menino de nove anos, Carolann McGeoch, quis alertar para os perigos potenciais. Em declarações ao órgão de informação anteriormente referido, explicou que os pais devem “colocar estes ímanes diretamente no lixo”, pois apesar de ter tido alta, o seu filho iniciou uma longa recuperação.