Viés racial em IAs que geram imagens pode criar situações prejudiciais para minorias, como não serem identificados como humanos por máquinas.
Viés racial em IAs que geram imagens pode criar situações prejudiciais para minorias, como não serem identificados como humanos por máquinas.
Deepfakes e outras criações digitais mostram que chegamos a um cenário antes só pensado em filmes de ficção científica: imagens de humanos criadas por computador são tão, ou mais convincentes, que fotos reais, lançando cada vez mais dúvidas e aumentando a necessidade de estabelecer políticas para controlar o uso indevido por tecnologias como a inteligência artificial.
Um novo estudo apontou que há um problema adicional com as tecnologias de geração digital de imagens: um viés racial, com imagens de pessoas de pele branca sendo consideradas muito mais verossímeis do que as demais.
“Notavelmente, os rostos brancos criados por IA podem passar de forma convincente por serem mais reais do que os rostos realmente humanos – e as pessoas não percebem que estão sendo enganadas”, relata ao The Guardian a equipe de pesquisadores, distribuídos entre Austrália, Reino Unido e Países Baixos.
Publicando o estudo na revista acadêmica Psychological Science, eles apontam que o problema tem implicações importantes no mundo real, já que o “hiper-realismo” de imagens de IA pode facilitar roubo de identidade e outros crimes, com a possibilidade cada vez maior de as pessoas acabarem sendo enganadas por impostores digitais.
No entanto, tal hiper-realismo é mais bem elaborado no caso de pessoas brancas. O que mostra que os algoritmos de geração de imagens são amplamente treinados com imagens de pessoas brancas, e associam mais elas a uma ideia de humanidade em geral.
O estudo mostrou a 124 pessoas brancas uma quantidade igual de rostos brancos reais e gerados por IA. Essa abordagem foi escolhida “para evitar possíveis preconceitos na forma como os rostos da própria raça são reconhecidos em comparação com os rostos de outras raças”, dizem os pesquisadores.
Os participantes foram, então, solicitados a dizer se cada rosto era gerado por IA ou real, e o quão confiantes eles estavam nas decisões. Então, 66% das imagens de IA foram classificadas como humanas, em comparação com 51% das imagens reais.
“Esses resultados sugerem que os rostos gerados por IA parecem ‘mais reais do que os rostos reais’; chamamos esse efeito de ‘hiper-realismo’. Eles também sugerem que as pessoas, em média, não são muito boas na detecção de rostos gerados por IA”, comentam os autores do estudo.
Conheça o ExpertEAD e tire seu curso do papel
A equipe, então, comparou o estudo a outro anterior, envolvendo imagens de pessoas negras e asiáticas. Nesse, o percentual de acerto foi semelhante com imagens reais e aquelas geradas por IA – sustentando a afirmação de que as pessoas não são boas avaliadoras da veracidade de imagens humanas, mas mostrando que, no caso de negros e asiáticos, o “hiper-realismo” não é tão efetivo.
Os pesquisadores perguntaram aos participantes do estudo envolvendo pessoas brancas os elementos das imagens que os faziam acreditar que elas eram reais – sem informá-los quais eram de IA. Eles apontaram que as imagens tinham mais “características proporcionais e familiares para eles, e não tinham características distintivas que possam ser consideradas ‘estranhas’”, descrevem os pesquisadores. “Os participantes interpretaram mal essas características como sinais de ‘humanidade’”, completam.
Riscos do hiper-realismo
Zak Witkower, coautor da pesquisa e pesquisador na Universidade de Amsterdã, disse que o viés racial descoberto poderia ter implicações para várias atividades eletrônicas que usam rostos humanos como base. “Isso produzirá situações mais realistas para rostos brancos do que para outros rostos raciais”, disse. A equipe cita casos como carros autônomos que têm menos probabilidade de detectar pessoas negras, colocando-as em maior risco do que as pessoas brancas.
Confundir percepções de raça com humanidade também pode perpetuar preconceitos sociais, inclusive na localização de pessoas desaparecidas, uma vez que a tecnologia poderá ter uma influência cada vez maior nessa área.
Clare Sutherland, coautora do estudo na Universidade de Aberdeen, disse que o estudo destacou a importância de combater os preconceitos na IA. “À medida que o mundo muda tão rapidamente com a introdução da IA, é fundamental garantirmos que ninguém seja deixado para trás ou em desvantagem em qualquer situação – seja devido a etnia, gênero, idade ou qualquer outra característica protegida”, disse ela.
Fonte:epocanegocios
