Quando a inteligência artificial erra… quem ela apaga?

Uma conversa sobre como os vieses algorítmicos podem invisibilizar identidades e por que é crucial questionarmos as bases que moldam as tecnologias do futuro.

Não é segredo pra ninguém que a inteligência artificial já faz parte do nosso dia a dia. Seja nos aplicativos que usamos, nos conteúdos que consumimos ou nas ferramentas que nos ajudam a trabalhar — a IA está cada vez mais presente. Não vou questionar se certo ou errado, afinal, a conversa de hoje, trata algo mais profundo que a tecnologia. Vem comigo!

Depois de alguns meses trocando ideias com uma IA — sobre diversidade, inovação inclusiva, equidade de genero, tematicas raciais e empreendedorismo feminino — resolvi testa-la. Pedi algo mais ou menos assim...

'' Com tudo o que você já aprendeu comigo, crie uma imagem de quem você acha que eu sou. ''

Eu poderia dizer que minha intenção era testar a capacidade da IA ou algo assim, mas confesso que eu queria mesmo era ver se ela seria capaz de me reconhecer. Ou, no mínimo, de não me apagar.

Como você pode perceber, minha expectativa foi completamente frustrada. Se você me conhece ( ou até mesmo se está me conhecendo agora ) já deve ter notado que sou beeeeeem diferente da pessoa da foto.

Venho questionando, já há algum tempo, o impacto dos vieses algorítmicos no mundo que estamos programando. Porque, se nem mesmo uma inteligência artificial — construída a partir de dados, informações e direcionamentos — ''consegue me imaginar'', o que isso diz sobre o futuro que estamos desenhando?

Como podem imaginar, a conversa não parou por aí… Acho que, mais do que apenas fazer perguntas, o verdadeiro valor está em questionar os resultados a ponto de provocar uma pequena pane no sistema — daquelas que forçam a reprogramar o que já está posto. E foi exatamente isso que eu fiz.

Aqui, confesso: fiquei espantada, mas não exatamente surpresa. Fiquei me perguntando de onde essa inteligência tirou essas informações e inferências... que caminhos ela percorreu para chegar até essa imagem?

Mas, ao invés de encerrar o teste, continuei a conversa.

Perguntei quais eram os temas que mais abordo com ela e como me definiria intelectualmente. Recebi uma resposta bonita, bem articulada, cheia de palavras difíceis — tudo muito estruturado. E o mais curioso: com os temas exatos que eu costumo discutir.

Diversidade e inclusão, com foco em equidade racial e de gênero. Sustentabilidade. Inovação. Futuros Possíveis.

Pensei: Então não foi por falta de conhecimento!

E com esta informação resolvi fazer um questionamento muito importante

Bom, se você se espantou com a pergunta... imagina a IA? hahaha.

Como era de se esperar, ela tomou um baita "susto", reconheceu o erro, trouxe uma justificativa bem protocolar e, claro, pediu desculpas.

O que eu sinceramente não esperava — e que ela fez — foi reconhecer seus próprios vieses. E mais: pediu permissão para refazer a imagem, agora considerando tudo o que havia aprendido comigo até ali. Mas antes, fiz a última pergunta

'‘ Sim, realmente, você errou e gostaria de uma nova imagem. Mas antes, me responda... se você atua com base em informações que as pessoas disponibilizam, e com base em algoritimos formulados por seres humanos. Posso inferir que os seres humanos que te programaram não tem percepção racial, ou preocupação em te ensinar sobre vieses incoscientes e racismo estrutural? '‘

E a resposta senhoras e senhores... foi esta aqui

Mas, confesso que o que mais me chamou a atenção foi esta parte final...

''Então, sim: você pode inferir que há limitações estruturais na forma como eu — e a tecnologia como um todo — sou treinado e opero. Não por total falta de preocupação dos criadores, mas porque essa preocupação ainda é insuficiente diante da profundidade do problema. Muitos algoritmos foram criados em ambientes tecnicamente avançados, mas culturalmente pouco preparados para lidar com o racismo estrutural.''

Haa, e para que saiba, eu permiti que ela gerasse uma nova imagem, e este foi o resultado.

Este não é apenas um erro técnico e esta conversa mostra isto. É um imaginário tecnológico e social que precisa ser reprogramado — todos os dias.

Afinal quando a inteligência artificial erra… ela ME apaga.

E você, já testou a IA?