A ex-nadadora paralímpica australiana Jess Smith se deparou com uma barreira ao tentar gerar uma imagem sua em um gerador de imagens por inteligência artificial (IA). Smith, que perdeu parte do braço esquerdo abaixo do cotovelo, buscava criar um retrato digital que refletisse sua realidade, mas o ChatGPT repetidamente produzia imagens de mulheres com dois braços ou com próteses.
O desafio da representação
Inicialmente, a IA justificou a dificuldade alegando falta de dados suficientes para processar a solicitação. Smith interpretou a situação como um reflexo da desigualdade e discriminação presentes na sociedade. Somente após a BBC questionar a OpenAI, responsável pelo ChatGPT, a ferramenta conseguiu gerar uma imagem precisa de uma mulher com um braço, como a nadadora.
“É um grande avanço”, celebrou Smith, ressaltando que a representação na tecnologia é fundamental para garantir que pessoas com deficiência sejam vistas como parte integrante do mundo em construção com a IA. “A IA está evoluindo e, quando evoluir com base na inclusão, todos nós nos beneficiaremos. É mais do que um progresso tecnológico, é um progresso da humanidade.”.
A OpenAI informou ter implementado “melhorias significativas” em seu modelo de geração de imagens e reconhecido a necessidade de aprimorar a representação justa, refinando métodos e adicionando exemplos diversos para reduzir o viés.
Preconceito algorítmico
No entanto, Naomi Bowman, que possui visão em apenas um olho, enfrentou um problema semelhante. Ao solicitar a remoção do fundo de uma fotografia, a IA alterou seu rosto e “igualou” seus olhos, mesmo após Bowman explicar sua condição e pedir que o rosto fosse mantido inalterado. A experiência a deixou triste, evidenciando o preconceito inerente na IA.
Especialistas apontam que o viés na inteligência artificial frequentemente reflete os pontos cegos da sociedade. Abran Maldonado, CEO da Create Labs, enfatiza a importância da diversidade nas equipes que desenvolvem e treinam os algoritmos, defendendo que a representação cultural deve ser priorizada desde a etapa de criação dos dados.
Smith compartilha que, mesmo vivendo com um braço, ela não se considera deficiente, mas defende que as barreiras enfrentadas são sociais. A nadadora ressalta a importância de considerar a todos ao construir sistemas e espaços, evitando a omissão que pode ocorrer no mundo da IA. Ela enfatiza que as conversas sobre deficiência muitas vezes são desconfortáveis e levam ao afastamento.
A reportagem original foi inspirada no programa The Artificial Human, da BBC Rádio 4.
