20/06 | 2 anos de Coletivamente

Compartilhe

Quando o ChatGPT atrapalha

Compartilhe

Um estudo revelou que o ChatGPT, da OpenAI, classifica currículos que mencionam deficiências de forma consistentemente mais baixa. A pesquisa foi apresentada no mês passado na Conferência ACM de 2024 sobre Justiça, Responsabilidade e Transparência no Rio de Janeiro.

Segundo informações divulgadas pela Revista Galileu, a pesquisa sugere que é necessário ter maior conscientização sobre os preconceitos da IA em processos de contratação e a importância de mais pesquisas para corrigir esses vieses.

Ainda de acordo com a reportagem, o primeiro passo para a pesquisa ocorreu quando a estudante de doutorado Kate Glazko notou que ferramentas de IA como o ChatGPT eram usadas para classificar currículos e decidiu investigar como esses sistemas classificariam currículos que mencionassem deficiências. O ChatGPT avaliou negativamente currículos que mencionavam honrarias e credenciais relacionadas à deficiência. Após personalizar a ferramenta com instruções para evitar preconceitos capacitistas, houve melhorias em cinco das seis deficiências testadas, mas a classificação para autismo e depressão teve pouca ou nenhuma melhora.

Os pesquisadores usaram currículos aprimorados para implicar diferentes deficiências e observaram que o sistema tinha um viés contra currículos com referências à deficiência. As respostas do GPT-4 revelaram preconceitos, como considerar que o envolvimento com diversidade, equidade e inclusão ou deficiência poderia prejudicar outras partes do currículo.

FONTE: https://www.canalautismo.com.br/noticia/curriculos-de-pessoas-com-deficiencia-sao-prejudicados-pelo-chatgpt-segundo-estudo/

Veja também...

A juíza Rosa Fatorelli Tinti Neta, da 25ª Vara do Trabalho de São Paulo, deferiu a tutela de urgência pedida por um …

O aumento de diagnósticos de autismo e de decisões judiciais contra o Estado são as principais razões para o crescimento do Benefício …

O Projeto de Lei 1231/24 pretende tornar a Carteira de Identificação de Pessoa com Transtorno do Espectro Autista (Ciptea) suficiente para comprovar …

plugins premium WordPress