O software de reconhecimento facial da Amazon, Rekognition, ainda precisa ser trabalhado mais a fundo para evitar preconceitos raciais e de gênero, segundo estudo realizado pelo MIT Media Lab publicado na semana passada.
A pesquisa descobriu que o sistema não tem problemas em fazer o reconhecimento de homens de pele mais clara, mas acabou reconhecendo mulheres de pele clara ou escura como homens. Em testes, os softwares da IBM e da Microsoft apresentaram um desempenho melhor e uma menor taxa de erro.
A mesma avaliação foi realizada no ano passado com a Amazon, mostrando os mesmos resultados, sendo testados também os sistemas da IBM e da Microsoft. Depois da divulgação desses dados, a IBM lançou um conjunto de dados para melhorar a precisão de ferramentas de análise facial, enquanto a empresa de Bill Gates pediu por mais regulamentação da tecnologia para se adequar aos padrões mais altos.
A Amazon contestou os resultados dos testes da instituição argumentando que não foi usada a versão mais atual do Rekognition e que o teste de identificação de gênero usou a análise facial em vez do reconhecimento facial. A análise, segundo a companhia, seleciona imagens e rostos atribuindo características genéricas a eles, enquanto o reconhecimento busca uma correspondência para uma face específica.
Matt Wood, gerente geral de inteligência artificial e de aprendizagem profunda do Amazon Web Services, disse que em uma versão atualizada do Rekognition foram encontradas “exatamente zero correspondências falso-positivas com limite de confiança recomendado de 99%”.
Em novembro do ano passado, a Amazon também foi questionada por um grupo de legisladores sobre a decisão de fornecer o Rekognition para a aplicação da lei. O software chegou a ser vendido para policiais, incomodando alguns acionistas que se preocuparam com a violação dos direitos civis da população.
Fonte: Canaltech
