terça-feira, 25 de maio de 2021

RACISMO ALGORÍTMICO

Irapuã Santana, O GLOBO

A discriminação racial é um problema que acompanha a população negra desde o século XVI, com o início do tráfico de pessoas escravizadas e o fundamento moral e religioso de que o negro não tinha alma. Com o passar do tempo, nossa condição de ser humano passou a ser reconhecida pela sociedade, mas, infelizmente, não atingimos o mesmo patamar de acesso a direitos e bens da vida que compreendem a dignidade da pessoa humana, previstos em nossa Constituição Federal.

Nesse percurso até os dias atuais, a forma de demonstração do racismo também foi evoluindo. Novas técnicas surgem e novas formas de exclusão nascem com elas. Em outras palavras, quando uma realidade é restrita na sua criação, quando há um foco para agradar um público específico, outro sem-número de pessoas fica de fora de todo o processo, restando prejudicado.

A título de exemplo, temos as fotos que todos gostamos de fazer e postar nas redes sociais, que tendem a representar de modo mais exato pessoas de pele mais clara que as de pele mais escura. Isso quer dizer que as máquinas fotográficas são racistas? Claro que não, mas elas foram feitas por seres humanos, e sua tecnologia acabou se tornando excludente de parcela significativa da população.

O uso de computadores, inteligência artificial e outras novidades técnico-científicas é muito importante, mas não pode ter um status de ser imparcial, infalível ou incontestável, porque se trata de uma construção com base num critério que exclui a população negra.

Um documentário extremamente interessante, “Coded Bias”, conta a história de uma pesquisadora do MIT, Joy Buolamwini, que descobriu falhas na tecnologia de reconhecimento facial. Basicamente, os programas desse tipo não identificam com precisão rostos de pessoas negras, o que levanta uma série de questionamentos acerca do uso dessa tecnologia pelo Estado e pela iniciativa privada. O principal ponto: qual seria a extensão de dano que esses algoritmos podem gerar em nossas vidas?

Outro ponto de grande repercussão sobre a população negra acerca do tema é a utilização desses programas para o reconhecimento de criminosos. Que tipo de acuidade é aceitável para isso ser um legítimo braço investigativo e punitivo do Estado?

Outro caso interessante, que não diz respeito à etnia, mas sim ao gênero, foi um relativo a certo cartão de crédito. Marido e mulher, casados em comunhão total de bens, sendo titulares das mesmas contas, tinham autorização para abertura de limite de seus cartões absolutamente díspares, chegando o homem ter duas vezes mais crédito que a mulher. A justificativa era que o algoritmo fazia esse trabalho.

Há outros tantos exemplos, como seleção de emprego, que expõem esse tipo de tratamento desigual exercido pelo programa.

Então, o que acontece?

O computador processa as informações disponíveis na sociedade e replica aquilo que aprende de maneira mais rápida tão somente. Portanto é preciso nos modificarmos enquanto sociedade antes de botarmos nossa fé nas máquinas.

Bookmark and Share

Nenhum comentário:

Postar um comentário