Inteligência Artificial: a base necessária para avaliar riscos e questionar resultados produzidos pela IA

A adoção da inteligência artificial deixou de ser apenas uma decisão tecnológica. Para empresários e empreendedores de inovação, ela já influencia contratação, desenho de funções, produtividade, formação de talentos e competitividade. Mas existe uma condição frequentemente subestimada: nenhuma empresa estará preparada para usar IA com segurança se seus profissionais não tiverem conhecimento suficiente para avaliar riscos, questionar resultados e assumir responsabilidade pelas decisões.

O relatório do World Economic Forum sobre o futuro do trabalho de entrada destaca uma tensão importante. A IA pode elevar a produtividade: 68% dos trabalhadores em início de carreira consultados afirmam ter observado ganhos nesse sentido, mas 45% também dizem passar mais tempo trabalhando por causa dela. Isso revela que produtividade não é sinônimo automático de eficiência, qualidade ou bem-estar. Produzir mais rapidamente um resultado incorreto, enviesado ou superficial não representa inovação; representa apenas a aceleração do erro.

Conhecer a ferramenta não é compreender o problema

Muitas organizações confundem familiaridade com plataformas de IA com competência para utilizá-las de forma responsável. Saber elaborar um comando, escolher uma ferramenta ou automatizar uma tarefa é insuficiente quando o profissional não compreende o processo, o contexto e os critérios de qualidade envolvidos.

Um sistema pode gerar uma resposta convincente sem que ela seja verdadeira. Pode omitir informações relevantes, reproduzir vieses presentes nos dados, interpretar mal uma situação ou apresentar uma conclusão incompatível com normas jurídicas, técnicas ou éticas. Quanto mais fluente for a resposta, maior o risco de ela ser aceita sem a devida verificação.

Por isso, a base necessária para trabalhar com IA inclui conhecimento de domínio. Um engenheiro precisa dominar os fundamentos que lhe permitam revisar um código gerado. Um profissional financeiro deve compreender os critérios de uma análise antes de delegá-la a um sistema. Um gestor de pessoas precisa reconhecer riscos de discriminação em processos automatizados. Sem essa base, a IA deixa de ser uma ferramenta de ampliação da capacidade humana e passa a funcionar como uma autoridade indevida.

O perigo de retirar justamente as etapas que formam julgamento

O relatório destaca, entre os riscos associados à automação excessiva, a chamada atrofia cognitiva. Quando tarefas são automatizadas sem cuidado, profissionais em início de carreira podem perder oportunidades de desenvolver raciocínio, julgamento e conhecimento prático.

Esse ponto é especialmente relevante para empresas que veem a IA como justificativa para eliminar funções de entrada. Os cargos iniciais não servem apenas para executar atividades rotineiras. Eles também formam o pipeline de talentos que sustentará a organização no futuro. Se todas as etapas de aprendizagem forem retiradas, a empresa poderá economizar no curto prazo, mas criar uma deficiência de competência no médio e no longo prazo.

A pergunta correta, portanto, não é apenas “o que pode ser automatizado?”, mas também “o que precisa ser preservado para formar profissionais capazes de supervisionar, contestar e melhorar os sistemas?”. Algumas tarefas devem permanecer sob responsabilidade humana porque desenvolvem discernimento ou envolvem riscos que não podem ser transferidos integralmente para uma máquina.

Shoosmiths e Meta: usar mais não é o mesmo que gerar mais valor

O exemplo da firma britânica Shoosmiths ilustra essa diferença. Para acelerar a adoção da inteligência artificial generativa no trabalho jurídico, a empresa vinculou um fundo coletivo de bônus de £1 milhão ao alcance, pela organização, de um milhão de comandos em ferramentas de IA durante um ano. O objetivo era criar impulso e transformar a experimentação em parte da rotina. A estratégia funcionou: após a meta ser alcançada, o uso continuou crescendo e a empresa acumulou quase 2 milhões de dados sobre a utilização da IA.

Esses dados, porém, revelaram que a adesão não era uniforme. Profissionais em início de carreira, integrantes da liderança e equipes de apoio utilizaram mais as ferramentas, enquanto outros grupos avançaram de maneira irregular. A Shoosmiths percebeu, então, que a quantidade de comandos era um indicador de atividade, mas não de competência, qualidade ou impacto.

Na etapa seguinte, a empresa estruturou uma trilha de capacidades em quatro níveis: AI Aware, para compreender riscos e salvaguardas; AI Practitioner, para aplicar a tecnologia no próprio trabalho; AI Advanced, para demonstrar valor para a empresa e os clientes; e AI Leader, para conduzir estrategicamente a adoção.

Um movimento semelhante foi observado na Meta. Segundo reportagem da Exame, a empresa havia recorrido a mecanismos internos de acompanhamento do uso da IA, incluindo métricas relacionadas ao consumo de tokens e à classificação “AI Native”. O problema é que a intensidade de uso não demonstra, por si só, aumento de produtividade, redução de erros ou melhoria na qualidade das entregas. Diante desse risco, a Meta retirou essas referências das avaliações de desempenho e deixou de tratar os indicadores de adoção como medida de impacto.

Os dois casos apontam para a mesma conclusão: a adoção pode ser estimulada por metas de uso, mas o valor da IA precisa ser avaliado pelos resultados que ela produz. Prompts, tokens e frequência de acesso podem indicar experimentação; não comprovam inovação, qualidade ou produtividade. Para os gestores, métricas mais relevantes incluem redução de retrabalho, incidência de erros, tempo de execução, qualidade das entregas e capacidade de resolver problemas mais complexos.

Supervisão precisa fazer parte do processo

Questionar a IA não pode depender apenas da boa vontade dos funcionários. A empresa precisa definir quais decisões a ferramenta pode apoiar, quais exigem validação humana, que evidências devem sustentar uma conclusão e quem responde pelo resultado final.

Também é necessário criar uma cultura em que apontar uma falha da IA seja visto como responsabilidade, não como resistência à inovação. O relatório mostra que organizações com melhores resultados financeiros associados à IA têm maior probabilidade de redesenhar fluxos de trabalho, em vez de simplesmente acrescentar ferramentas aos processos existentes.

A verdadeira maturidade não aparece quando todos usam IA sem questionar. Ela aparece quando a organização consegue testar, revisar, corrigir e explicar os resultados produzidos. Inovar não é aceitar respostas automáticas com entusiasmo; é criar condições para que a tecnologia amplie a capacidade humana sem eliminar o conhecimento necessário para verificar se seus resultados estão corretos.

Esse artigo foi escrito por: