Você sabe o que é racismo algorÃtmico? Em grande parte, é a prática de fazer distinção de cor a partir da recomendação de um conteúdo ou do reconhecimento facial de usuários negros ou não-brancos, em relação à s pessoas de cor branca no ambiente virtual. A internet se tornou um dos espaços de maior presença da população brasileira nas últimas décadas. De acordo com uma pesquisa da TIC DomicÃlios de 2019, cerca de 130 milhões de pessoas têm acesso à rede no Brasil.
A discussão sobre o tema tomou uma grande proporção após usuários do Twitter, plataforma de microblog, denunciarem que os algoritmos do site destacavam pessoas brancas em fotos. A empresa reconheceu que o corte feito pelo algoritmo era racista e disse que trabalharia para melhorar a inteligência artificial da plataforma.
Fernanda Carrera, professora e pesquisadora do Laboratório de Identidades Digitais e Diversidade da UFRJ, afirma que os algoritmos são tecnologias usadas para reproduzir as estruturas racistas e inserir uma nova forma de reforçar a prática. âQuando a gente vê o Google ou os bancos de imagens associando palavras-chave pejorativas a indivÃduos e corpos negros, reproduz-se a lógica racista e de uma objetividade no ambiente virtual que não existe.â
Gostando do conteúdo? Nossas notÃcias também podem chegar no seu e-mail.
Veja o que já enviamos
Para Tarcizio Silva, pesquisador da Mozilla Foundation, a propagação de sistemas algorÃtmicos racistas está relacionada à desigualdade racial na sociedade, historicamente mergulhada na supremacia branca, que é o caso do Brasil e dos Estados Unidos. âOs impactos mais graves estão nas áreas de policiamento preditivo e reconhecimento facial, análise de escores de crédito e risco financeiro e até na atribuição de cuidados médicosâ, ressalta.
Silva aponta que as mÃdias sociais são o reflexo da sociedade. Para ele, os usuários refletem, no mundo online, o comportamento offline. âAs mÃdias sociais são catalizadoras de relações de poder já presentes na sociedade, podendo, em alguns casos, intensificar a possibilidade de agressões discursivas ou apagamentos de experiências de grupos minorizadosâ, analisa.
Um estudo da Anistia Internacional, realizado em 2018, revelou que, no Twitter, mulheres jornalistas e parlamentares negras têm 84% de chance de sofrer abuso online do que as brancas. âAlgumas caracterÃsticas das mÃdias sociais, como sensação de distanciamento, anonimização e impunidade, devido à leniência das plataformas, colaboram com estes Ãndicesâ, critica. Por outro lado, o pesquisador afirma que esses mesmos espaços também servem como lugar de fortalecimento de identidades e construção de comunidades de grupos minorizados.
Questionado sobre quais caminhos podem ser apontados para ampliar o debate, Silva diz que a participação da sociedade em defesa da soberania e do bem-estar social deve ser incentivada e âsistemas que realizam decisões automatizadas sobre humanos devem ser alvo de escrutÃnio públicoâ.
Em relação aos Estados Unidos, paÃs onde o debate sobre racismo algorÃtmico teve inÃcio, segundo o especialista, parte da população negra norte-americana defende o desenvolvimento de tecnologias mais justas, o que impacta grupos minorizados de outros paÃses. âPesquisadoras e ativistas negras estadunidenses ou que vivem nos EUA acabam por ter impactos muito relevantes tanto nas ideias sobre o tema quanto na definição de polÃticas públicasâ, afirma. âIniciativas desenvolvidas por referências como Alondra Nelson, Ruha Benjamin, Joy Buolamwini, Timnit Gebru e outras acabaram por impactar globalmente a luta por um futuro tecnológico mais justo.â
Como forma de enfrentar os impactos do racismo algorÃtmico, o pesquisador acredita que é necessário defender a Lei Geral de Proteção de Dados, um instrumento regulador do uso de dados por parte de empresas de tecnologia. A finalidade é que os dados pessoais, inclusive nos meios digitais, fiquem protegidos, garantindo os direitos fundamentais de liberdade e privacidade. O WhatsApp, o aplicativo de mensagens mais usado no Brasil, anunciou que vai mudar as polÃticas de privacidade no paÃs, exigindo que o usuário aceite as novas regras, sob pena de ser proibido o uso dos que não concordarem.
O especialista espera que haja uma âpromoção de reflexão crÃtica sobre a relação entre tecnologia e sociedade nos espaços cÃvicos, escolas, universidades e organizações da sociedade civilâ. Carrera sinaliza que é necessário rever as bases de construção dos algoritmos. âIsso significa repensar quem são os programadores, quem está em cargos de poder. E, se a gente não transformar isso a partir da diversidade na contratação e nos cargos, não vamos mudar a tecnologiaâ, diz a professora.
Para o futuro, os especialistas têm expectativas de mudança. âCidadãos capazes de interpretar criticamente seus padrões de consumo e tecnologias utilizadas podem, por sua vez, pressionar politicamente os campos empresariais e estatais por melhorias na implementação e controle das tecnologias que sejam pensadas, desde o inÃcio, baseadas em pilares éticos como benevolência, explicabilidade e transparênciaâ, finaliza Silva.
