Por Eduarda Esposito — Uma imagem gerada por Inteligência Artificial (IA) — em que um jovem negro segura uma metralhadora e é observado por um policial branco — foi usada como capa do vídeo da sessão “Uso de menores por facções e falhas nas políticas socioeducativas” da Comissão de Segurança Pública da Câmara dos Deputados realizada na última quarta-feira (11). O Ministério da Igualdade Racial repudiou, por meio de nota, a escolha da imagem por perpetuar um estigma da população negra periférica.
“Não é apenas uma demonstração de racismo algorítmico, mas um desserviço à sociedade brasileira, especialmente no contexto de morte de tantos jovens negros todos os dias. Consideramos grave que uma comissão da Casa que representa o povo brasileiro utilize uma imagem racista, reforçando ainda mais os danosos estereótipos sobre a população negra”, criticou o órgão em nota ao blog.
O que diz a Câmara
Procurada pelo blog, a Câmara dos Deputados não explicou a escolha da imagem e nem esclareceu se ela foi gerada por inteligência artificial. A casa apenas informou que mudaram a foto para um registro da reunião.
“A imagem apresentada no player da transmissão da audiência pública da Comissão de Segurança Pública e Combate ao Crime Organizado, realizada nesta quarta-feira (11), já foi modificada para um quadro da reunião.”
Racismo na IA
A especialista em comunicação com foco em Diversidade e Inclusão, Mayara Rodrigues, explicou que a IA é alimentada com informações o tempo inteiro e “replica a sociedade e seu pensamento estrutural”. “Como a gente vive numa sociedade racista, esse vai ser o padrão que ela vai seguir. E assim como em vários segmentos da nossa vida, a menos que ela receba um comando pra não ser racista, ela vai ser racista”, pontua.
Rodrigues complementa ainda que para mudar o racismo estrutural dentro das produções da inteligência artificial, é preciso que o comando seja detalhado. “Assim como em uma novela ou em um filme, se não houver indicando que o personagem precisa ser interpretado por uma pessoa preta em um lugar de poder, um CEO, ele não vai ser escalado. Então, a inteligência artificial replica esse comportamento estrutural da nossa sociedade”, explica.
Entretanto, a especialista frisa que a IA pode ser muito útil e depende da educação dos programadores e usuários para melhorar suas representações. “A IA pode ser muito útil e ajudar bastante, mas é preciso ter cuidado, porque nessa a gente expõe vidas. É muito arriscado, assim como o reconhecimento facial, é tudo muito pensado no olhar do branco e a gente precisa trazer essa educação, assim como na sociedade. E o tempo todo estar alerta porque a IA replica de acordo com a base de quem a programa, e, de modo geral, é uma programação feita por pessoas brancas”, ressalta.