You are here

Google esconde falha racista de inteligência artificial em app de fotos, diz jornal – Link

O Google Fotos, como o próprio nome revela, é o aplicativo de imagens do Google. Ele foi desenvolvido para aliar a nuvem da empresa com um assistente pessoal inteligente que identifica e melhora as fotos do usuário. 

Em 2015, o aplicativo Google Fotos do Google foi envolvido em uma polêmica após o engenheiro de software norte-americano Jacky Alciné publicar no Twitter que a inteligência artifical do app estava classificando seus amigos negros como “gorilas”. Na época, a empresa se desculpou e prometeu que corrigiria o problema. No entanto, conforme mostra uma reportagem do jornal Wired, o Google não resolveu a questão, ele simplesmente impediu seus algoritmos de identificar gorilas.

Para confirmar a tese, o Wired subiu milhares de fotos de primatas para o serviço de fotos do Google. De acordo com a reportagem, alguns tipos de primatas são identificados corretamente, mas especificamente gorilas e chimpanzés não. O jornal também percebeu que o Google limitou as buscas por etnia, então ao pesquisar “mulher negra” ou “homem negro”, o aplicativo mostra fotos de pessoas usando roupas pretas.

Após as descobertas, um porta-voz do Google confirmou ao jornal americano que as categorias “gorila”, “chimpanzé” e “macaco” permanecem bloqueadas no Google Fotos desde a polêmica com Alciné. As categorias, no entanto, ainda estão disponíveis em outros serviços da empresa, como o sistema Cloud Vision API, vendido a outras empresas, e o assistente de voz Google Assistant.

Ainda não está claro se o algoritmo do Google foi restrito dessa forma porque a empresa não conseguiu corrigir o problema ou se a companhia simplesmente não quis destinar recursos para isso. No entanto, é emblemático que uma das maiores empresas de tecnologia do mundo esteja usando saídas simples para problemas complexos que envolvem seus usuários.

Source

Related posts