A inteligência artificial tem prometido revolucionar diversas áreas, da medicina à segurança pública. Mas, e se o algoritmo errar? Um caso que acaba de vir à tona na Flórida, Estados Unidos, joga luz nos riscos do reconhecimento facial quando combinado com o que a acusação chama de "investigação falha". Um homem está processando a polícia local por ter sido preso, em agosto de 2024, após um sistema de reconhecimento facial apontá-lo como 93% compatível com a imagem de um suspeito.
O protagonista dessa história é Robert Dillon, que foi detido sob a acusação de tentar atrair uma criança. O detalhe crucial: ele vive a mais de 480 quilômetros de distância do local do suposto crime, um McDonald's em Jacksonville Beach, onde tudo teria acontecido. A base para a prisão foi uma imagem de baixa qualidade – uma foto tirada da tela de um computador do McDonald's, que exibia a gravação de uma câmera de segurança.
O que o processo acusa?
O processo movido por Dillon contra a polícia da Flórida não poupa críticas à forma como a tecnologia foi empregada e à conduta dos oficiais. Segundo os advogados, a polícia se baseou exclusivamente no resultado do algoritmo, ignorando evidências que poderiam ter inocentado o homem.
“Este caso trata do que acontece quando a polícia permite que um sistema de inteligência artificial propenso a erros substitua uma investigação. Um algoritmo de reconhecimento facial sinalizou Robert Dillon como o homem que tentou atrair ou seduzir uma criança menor de doze anos em um McDonald’s de Jacksonville Beach. Ele estava errado. O Sr. Dillon, um residente de cinquenta e dois anos de Fort Myers, nunca havia pisado em Jacksonville Beach. Mas em vez de testar a resposta da máquina contra as evidências que o teriam inocentado, os oficiais construíram um caso para confirmá-la. O Sr. Dillon foi preso e processado por um dos crimes mais estigmatizantes que uma pessoa pode enfrentar.”
A defesa de Dillon aponta que a própria polícia, ao consultar um banco de dados de leitores de placas de veículos, não encontrou nenhum registro que indicasse a presença do homem na região de Jacksonville Beach na data do crime. Isso, argumentam, deveria ter sido um sinal de alerta sobre a confiabilidade do “match” de 93% fornecido pelo sistema de reconhecimento facial. A acusação central é de que os policiais teriam deliberadamente ocultado provas exculpatórias, ou seja, evidências que favoreceriam Dillon, buscando apenas a confirmação do que a IA já havia "decidido".
O caso de Robert Dillon levanta questões importantes sobre a dependência excessiva em algoritmos de IA e a necessidade de validação humana e investigações aprofundadas, especialmente quando a liberdade e a reputação de um indivíduo estão em jogo. A precisão de 93% pode parecer alta, mas, em cenários de segurança pública, mesmo uma pequena margem de erro pode ter consequências devastadoras para vidas inocentes.