30/10/2023 - A 8ª edição do Ciclo de Encontros Virtuais: Liderança Digital para Mulheres foi realizada nesta segunda-feira (30) e abordou o tema “Vieses discriminatórios em inteligência artificial”. A palestra ficou a cargo de Bianca Kremer, pesquisadora em Direito e Tecnologia com enfoque em Privacidade e Proteção de Dados e Governança da Inteligência Artificial.

Economia da atenção 

De acordo com a especialista, a tecnologia é uma ferramenta poderosa para ampliar resultados positivos para a sociedade, mas, também, às vezes acaba sendo utilizada para invisibilidade. Para ela,  o impacto do  viés discriminatório com uso da  IA é significativo, pois vivemos na era do  colonialismo digital e da  economia da atenção. “Com o uso das plataformas digitais vivenciamos  vários aspectos diferentes do uso da tecnologia. Nossa atenção é um ativo econômico escasso mas cobiçado pelas plataformas que lucram com a nossa permanência em seus produtos, sem que estejam  preocupadas  com a inclusão e valorização social”, observou.

Padrão não rentável 

Sobre as ações discriminatórias, Bianca trouxe exemplos reais como no   caso da queda de impulsionamentos de conteúdos postado por usuários negros. “A discriminação por algoritmos levou a invisibilidade desses conteúdos atribuindo um valor de um padrão não rentável e que não estimulava a manutenção de atenção das pessoas nessas postagens gerando uma queda expressiva de visualizações” destaca. “Isso é uma forma  de demonstrar a estratificação de oportunidades que vivemos no espaço físico também no ambiente  virtual”, concluiu.

Diferenças 

Por fim, a professora ressaltou que as tecnologias  não são neutras e o que vivenciamos  com o uso da inteligência artificial é a replicação de padrões  onde se reforçam as diferenças e o Direito tem um papel fundamental neste debate. “A tecnologia é produzida de pessoas para pessoas e a questão é como ela vem sendo utilizada. Precisamos repensar  a aplicação  dessa ferramenta em um país altamente marcado por um recorte discriminatório  em que não existe uma política robusta de proteção de dados e uma preocupação com a inserção social e criação de políticas públicas”, concluiu.

Liderança Feminina

O Encontro Liderança Digital para Mulheres é promovido pelo Conselho Superior da Justiça do Trabalho e visa promover a participação de magistradas e servidoras na esfera da Tecnologia da Informação no Judiciário Trabalhista. Os encontros são, predominantemente, liderados por profissionais femininas especializadas no campo tecnológico.

A liderança feminina no campo da Tecnologia da Informação ainda é baixa, por isso, iniciativas como estas são importantes para  desmistificar tabus e estimular a participação feminina em temáticas estratégicas para as instituições.

(Andrea Magalhães/AJ)