Quando a IA erra, de quem é a culpa?

Especialista alerta que humanização da inteligência artificial pode reduzir a responsabilização de profissionais e equipes

Foto: Divulgação

Copiloto, parceiro, colega de trabalho. À medida que a inteligência artificial avança nas empresas, também cresce a tendência de atribuir características humanas à tecnologia. Em alguns casos, ela já ocupa até mesmo um espaço formal nas estruturas organizacionais. Um estudo da Boston Consulting Group (BCG), realizado com mais de 1.250 executivos de mais de 400 organizações ao redor do mundo, revelou que 31% afirmam que a liderança de suas empresas já considera a IA como um membro da equipe ou funcionário, enquanto 23% disseram que suas organizações possuem agentes de IA listados em seus organogramas.

Embora a estratégia pareça uma forma de aproximar colaboradores da tecnologia, especialistas alertam para possíveis efeitos colaterais. Segundo o mesmo estudo, a humanização da IA pode reduzir a responsabilização individual, aumentar a escalada desnecessária de problemas, reduzir a qualidade das revisões e corroer a identidade profissional e a confiança dos colaboradores.

Para Susana Azevedo, especialista em desenvolvimento de lideranças, coaching e sócia da Quantum Development, o principal risco está na perda de clareza sobre quem responde pelas decisões. “Isso é problemático, porque os sistemas de IA não podem ser responsabilizados. Na medida em que não há clareza de papeis, responsabilidade e limites entre humanos e agentes de IA, a tendência é que os humanos se desresponsabilizem dos resultados”, afirma.

A especialista explica que o problema vai além da tecnologia e alcança aspectos psicológicos e culturais das organizações. “Na medida em que simplesmente a IA aparece no organograma, surgem dúvidas sobre o futuro profissional na cabeça dos colaboradores humanos, assim como desconexão emocional com o significado do seu trabalho e como está agregando valor. Isto gera insegurança, mas também desengajamento e menor proatividade.” Segundo ela, existe ainda um efeito menos visível: “A forma como frequentemente executivos e a mídia no geral ‘idolatra’ a IA, faz com que as pessoas passem a ter menos confiança neles mesmos, por serem humanas, e inclusive na sua capacidade de ‘rever e corrigir o trabalho’ da IA.”

Na prática, isso pode criar um paradoxo. A promessa de produtividade existe, mas o excesso de confiança na tecnologia pode gerar mais revisões, mais escaladas de decisões e menos autonomia. Para Susana, o desafio das empresas não está em tornar a IA mais parecida com um ser humano, mas em definir claramente o papel de cada um na relação entre pessoas e tecnologia. “Para que a colaboração entre humanos e agentes de IA funcione, é preciso definir com clareza o que cada um faz e por quê. À medida que a IA assume execução e geração de conteúdo, o trabalho humano se concentra em supervisão, discernimento, gestão da ambiguidade e construção de relações.”

Sobre a Quantum Development

Com foco no desenvolvimento de equipes de liderança de alta performance, a Quantum Development apoia seus clientes na profissionalização e na transformação da cultura organizacional em um mundo em constante evolução. Criada em 2021 pelas sócias-fundadoras Bianca Aichinger e Susana Azevedo, que somam mais de duas décadas de experiência no mercado corporativo nacional e internacional, a empresa tem em seu portfólio clientes como Grupo Leveros e Uappi.

#InteligenciaArtificial #IA #Tecnologia #MercadoDeTrabalho #Lideranca #Inovacao #Gestao #Empresas #TransformacaoDigital

Você está lendo o maior jornal do Alto Paraopeba e um dos maiores do interior de Minas!
Leia e Assine: (31)3763-5987 | (31)98272-3383