Como o algoritmo pode ferir a ética?
Ao aprender com informações fornecidas por usuários ou softwares, os algoritmos de machine learning podem replicar comportamentos preconceituosos que, além de violar direitos humanos fundamentais, produzem episódios de xenofobia, racismo e apologia a regimes como o nazismo.
Quais são as de expressão do preconceito?
Dentre as várias formas possíveis de preconceito existe uma peculiar, que se dirige a grupos definidos em função de características físicas ou fenotípicas supostamente herdadas: trata-se do preconceito racial ou, para alguns autores, preconceito étnico (e.g., Allport,
O algoritmo em si não possui preconceitos, pois é uma sequência de instruções matemáticas. No entanto, os algoritmos são criados por seres humanos e podem refletir os preconceitos e vieses das pessoas que os criaram.
Há preocupações legítimas sobre a possibilidade de os algoritmos produzirem resultados discriminatórios, especialmente quando são usados em sistemas de tomada de decisão automatizados, como recrutamento, empréstimos ou justiça criminal.
É importante adotar práticas de desenvolvimento de algoritmos que visem a equidade e não perpetuem preconceitos existentes. Isso pode envolver a coleta e análise cuidadosa dos dados de treinamento, a implementação de testes de equidade e a adoção de medidas para corrigir quaisquer vieses identificados.
Marcas e algoritmos no combate ao preconceito na internet
ResponderExcluirAlgoritmos, inteligência artificial, machine learning. Todas essas são palavras relativamente novas mas de suma importância no universo da internet. É graças a elas que as redes sociais nos mostram os posts que entendem que vamos gostar mais, que o Google exibe os anúncios que vão atender melhor à nossa pesquisa, e infinitas outras formas de personalizar o uso, o conteúdo e a publicidade para que nós, meros mortais, possamos navegar e consumir de forma cada vez mais otimizada, fácil e agradável.
Porém, toda essa tecnologia acaba por criar um círculo vicioso que ratifica ainda mais o preconceito na sociedade. Como assim?
O chamado racismo algorítmico mostra que anúncios com pessoas negras e/ou gordas são exibidos para um menor número de pessoas. A seletividade do algoritmo acaba criando um viés inconsciente que reflete comportamentos preconceituosos. Anúncios com pessoas brancas tendem a ser mais exibidos para pessoas brancas, que performam com uma melhor taxa de engajamento; o algoritmo, por sua vez, por meio de inteligência artificial e machine learning, entende que foi uma peça que deu certo, então passa a exibir cada vez mais esse mesmo tipo de anúncio para o mesmo tipo de pessoa.
Sem dúvida, é uma missão das plataformas, como Facebook, Instagram, Twitter, Tik Tok, YouTube, aperfeiçoarem a estrutura desses algoritmos para evitar essa seletividade, uma vez que as máquinas são programadas por seres humanos, no fim das contas.
ResponderExcluirPorém, as marcas e agências também podem ser ativas na hora de “driblar” o algoritmo e tornar a publicidade mais inclusiva e diversa. Um relatório feito pela SA365 em 2020 mostrou que apenas 34% das peças analisadas tinham representatividade de pessoas negras, e outras poucas exibiam pessoas gordas, apesar de mais da metade da população brasileira estar acima do peso. Isso mostra uma divergência muito grande entre como as pessoas que compõe a sociedade realmente são e como a publicidade mostra.
Inserir maior diversidade de raça, gênero e corpos nas peças publicitárias fornece mais “material” para os algoritmos aprenderem e considerarem na hora de exibir os anúncios e para quem.
Sem dúvida, é uma missão das plataformas, como Facebook, Instagram, Twitter, Tik Tok, YouTube, aperfeiçoarem a estrutura desses algoritmos para evitar essa seletividade, uma vez que as máquinas são programadas por seres humanos, no fim das contas.
ResponderExcluirPorém, as marcas e agências também podem ser ativas na hora de “driblar” o algoritmo e tornar a publicidade mais inclusiva e diversa. Um relatório feito pela SA365 em 2020 mostrou que apenas 34% das peças analisadas tinham representatividade de pessoas negras, e outras poucas exibiam pessoas gordas, apesar de mais da metade da população brasileira estar acima do peso. Isso mostra uma divergência muito grande entre como as pessoas que compõe a sociedade realmente são e como a publicidade mostra.
Inserir maior diversidade de raça, gênero e corpos nas peças publicitárias fornece mais “material” para os algoritmos aprenderem e considerarem na hora de exibir os anúncios e para quem.
O termo racismo algorítmico surge como uma forma de abarcar o mundo dos preconceitos gerados através de robôs. Para compreender o que significa esse conceito, a jornalista e pesquisadora em Cultura e Territorialidades da UFF (Universidade Federal Fluminense), Silvana Bahia, explica inicialmente o que é um algoritmo.
ResponderExcluir