O problema da adoção de inteligência artificial nas empresas nem sempre está relacionado à falta de confiança na tecnologia. Muitas vezes, os profissionais desconfiam da maneira como a própria organização distribuirá as responsabilidades caso uma decisão automatizada produza resultados negativos.

No fim de 2022, um banco global aprovou um sistema de inteligência artificial desenvolvido para automatizar decisões rotineiras de crédito. A iniciativa parecia reunir todas as características de um projeto promissor de transformação tecnológica, com potencial para melhorar a eficiência operacional e reduzir custos.

Durante os testes, o sistema processava solicitações mais rapidamente do que as equipes humanas, apresentava menos erros e prometia uma economia significativa. A área de gestão de risco havia aprovado a solução, a equipe de conformidade também havia autorizado sua utilização e a liderança apresentava publicamente o projeto como um exemplo de inovação.

Seis meses depois, entretanto, o sistema continuava apenas classificando solicitações e produzindo recomendações. A maioria dos casos ainda passava por revisão humana, enquanto medidas inicialmente temporárias, como dupla conferência, limites adicionais e confirmações manuais, haviam se transformado em etapas permanentes do processo.

A inteligência artificial estava integrada ao fluxo de trabalho do banco, mas raramente tinha autonomia para tomar a decisão final. As justificativas eram conhecidas: a organização ainda precisava se preparar, o modelo exigia ajustes, os funcionários necessitavam de treinamento adicional e mudanças dessa natureza levavam tempo.

Entretanto, a tecnologia funcionava, o retorno econômico era evidente e o sistema havia recebido aprovação formal. O que faltava era autoridade para tomar decisões dentro de limites previamente estabelecidos, com respaldo efetivo da organização.

Situações semelhantes aparecem em diferentes setores da economia. Uma fabricante global pode implementar um sistema de previsão de demanda baseado em IA, mas seus responsáveis pelo planejamento continuam utilizando métodos tradicionais e tratando as previsões automatizadas apenas como uma segunda opinião.

Em uma rede de saúde, por exemplo, a triagem assistida por inteligência artificial pode reduzir o tempo de espera e melhorar a consistência das decisões. Mesmo reconhecendo a precisão do sistema, os profissionais continuam revisando manualmente a maioria das recomendações, fazendo com que a tecnologia seja utilizada principalmente para documentação.

Esses exemplos revelam um problema que ultrapassa as dificuldades técnicas ou o fracasso de projetos-piloto. As estruturas de responsabilidade e legitimidade das organizações não estão evoluindo na mesma velocidade que os sistemas de inteligência artificial.

A legitimidade organizacional envolve o entendimento compartilhado sobre quem possui o direito de tomar decisões e fazer com que elas sejam aceitas e consideradas confiáveis. Muitas empresas estão incorporando sistemas cada vez mais inteligentes sem reorganizar suas estruturas de autoridade para acompanhar essa transformação.

Já vimos esse problema antes

Embora a inteligência artificial represente uma evolução tecnológica importante, as dificuldades relacionadas à transferência de autoridade não são inéditas. Outras ondas de automação, como a implementação de sistemas integrados de gestão empresarial (ERP) e modelos automatizados de avaliação de crédito, já haviam exposto comportamentos semelhantes.

Em muitos casos, as organizações adotaram ferramentas capazes de produzir decisões melhores, mas preservaram estruturas de autoridade que impediam a aceitação efetiva dos resultados. A tecnologia avançava, enquanto os processos de responsabilização permaneciam praticamente inalterados.

Quando os sistemas ERP começaram a se espalhar na década de 1990, prometiam centralizar informações e otimizar operações em toda a empresa. Entretanto, sua implementação exigia mudanças que ultrapassavam a integração de dados e envolviam a autonomia das diferentes áreas.

A experiência da Nestlé USA ilustra essa dificuldade. Suas divisões operavam de maneira relativamente independente, cada uma responsável pela própria produção, pelos custos e pelos contratos com fornecedores.

Quando o sistema ERP passou a exigir que essas áreas abrissem mão de parte da autonomia em favor de processos comuns, surgiu um conflito entre a lógica tecnológica e a estrutura de gestão. Os funcionários continuavam pessoalmente responsáveis pelos resultados locais e, por isso, tinham motivos para preservar suas próprias decisões.

O sistema produzia uma previsão integrada para a organização, mas os mecanismos de responsabilização continuavam valorizando intervenções individuais. O principal problema foi tratar a implementação como uma instalação tecnológica, quando ela também exigia uma reformulação da maneira como a empresa era administrada.

Na mesma época, a avaliação automatizada de crédito enfrentava dificuldades semelhantes. Os modelos conseguiam transformar critérios de risco em regras de maneira mais rápida e consistente do que os profissionais, mas a cultura de intervenção manual permanecia presente.

Pesquisas sobre financiamento de automóveis mostraram que processos de análise de crédito baseados em algoritmos apresentavam maior rentabilidade nos empréstimos e menores índices de inadimplência do que decisões exclusivamente humanas. A diferença de desempenho era especialmente significativa em ambientes nos quais os responsáveis pelo crédito tinham maiores incentivos para preservar sua autonomia.

Outros estudos identificaram situações em que profissionais modificavam informações e classificações para permitir que solicitações próximas dos limites estabelecidos ultrapassassem os critérios de aprovação. Esse comportamento era particularmente observado quando existiam incentivos associados ao volume de contratos realizados.

Embora a autoridade tivesse sido formalmente delegada aos modelos, a responsabilidade pelos resultados continuava recaindo sobre as pessoas. Essa diferença criava incentivos para que os profissionais interferissem nas decisões automatizadas, mesmo quando os sistemas apresentavam resultados superiores.

O setor aéreo oferece um exemplo de como esse problema pode ser enfrentado. Sistemas de gestão de receitas conquistaram autoridade duradoura porque as companhias também modificaram a distribuição das responsabilidades.

As empresas definiram em quais circunstâncias a intervenção humana seria apropriada, estabeleceram procedimentos para encaminhar casos excepcionais e alteraram os critérios de avaliação de desempenho. Com essas mudanças, seguir as recomendações do sistema passou a ser uma decisão profissionalmente justificável.

A autoridade foi transferida porque a governança também evoluiu, e não porque os algoritmos se tornaram perfeitos. A experiência demonstra que a reorganização das responsabilidades é fundamental para que as decisões automatizadas sejam efetivamente incorporadas.

Quando a capacidade de decisão de um sistema avança mais rapidamente do que as estruturas de responsabilidade e legitimidade, a autoridade tende a permanecer onde sempre esteve. Por outro lado, quando a governança acompanha a transformação tecnológica, torna-se possível redistribuir essa autoridade.

O principal obstáculo está no fato de que os profissionais continuam pessoalmente responsáveis pelos resultados produzidos por sistemas sobre os quais deveriam ter cada vez menos controle. Enquanto essa contradição permanecer, as intervenções humanas continuarão funcionando como mecanismos de autoproteção.

Treinamentos e campanhas de comunicação interna, isoladamente, não conseguem resolver essa diferença. Uma organização pode conduzir adequadamente seu processo de gestão da mudança e, ainda assim, permitir que a inteligência artificial permaneça restrita a uma função consultiva.

Também é possível construir um ambiente de segurança psicológica e, ao mesmo tempo, responsabilizar individualmente o funcionário que seguiu corretamente uma recomendação automatizada quando o resultado foi negativo. Nessas condições, os profissionais naturalmente procuram maneiras de reduzir sua exposição aos riscos.

Algumas explicações comuns para a baixa autonomia dos sistemas de inteligência artificial acabam conduzindo a soluções inadequadas. Uma delas atribui o problema à resistência natural das organizações diante de mudanças tecnológicas.

Entretanto, a adoção da IA frequentemente apresenta sinais externos de sucesso. Os painéis de acompanhamento estão funcionando, os fluxos de trabalho incluem a tecnologia e os funcionários utilizam os sistemas regularmente, mesmo que eles não tenham recebido autoridade real para decidir.

Pesquisas sobre complacência com automação alertam para os riscos de confiar excessivamente nas máquinas. Nas situações descritas, porém, acontece o contrário: os profissionais evitam delegar decisões porque a estrutura de responsabilização transforma essa delegação em um risco para suas carreiras.

A literatura sobre o paradoxo da produtividade também demonstra que investimentos em tecnologia nem sempre resultam diretamente em ganhos de desempenho. Entretanto, essas análises frequentemente não explicam quais mecanismos organizacionais impedem que os benefícios se concretizem.

Pesquisas sobre transparência no ambiente de trabalho acrescentam outra dimensão ao problema. Profissionais submetidos a maior monitoramento podem esconder determinadas práticas para evitar questionamentos, fazendo com que mecanismos criados para demonstrar controle acabem produzindo efeitos contrários.

Registros de intervenções, procedimentos de encaminhamento e camadas adicionais de revisão podem, nesse contexto, servir para preservar o poder de decisão humano. Embora pareçam medidas de segurança, essas estruturas também podem impedir que a automação alcance os resultados esperados.

O que realmente está acontecendo

Em muitas organizações, os sistemas de inteligência artificial são utilizados regularmente e aparecem com destaque nas apresentações para a liderança. Entretanto, quando uma recomendação automatizada entra em conflito com a avaliação de um profissional, a decisão humana geralmente prevalece, muitas vezes sem que essa escolha receba atenção especial.

Os funcionários começam a modificar os limites de atuação dos sistemas sob o argumento de prudência. Acrescentam etapas de revisão, reduzem determinados limites de autonomia, formalizam novas possibilidades de intervenção e criam sinalizações para casos considerados sensíveis.

Cada uma dessas mudanças pode parecer justificável quando analisada individualmente. Em conjunto, porém, elas podem comprometer a lógica da automação e impedir que o sistema produza os benefícios para os quais foi desenvolvido.

A implementação do sistema de roteamento ORION pela UPS ilustra essa tensão. Quando o projeto começou, em 2013, muitos motoristas tratavam as rotas geradas pelo computador como sugestões e preferiam utilizar o conhecimento local e os relacionamentos construídos com os clientes.

Com o tempo, a UPS modificou seus critérios de avaliação. Os motoristas passaram a ser avaliados em relação às rotas estabelecidas pelo ORION, e não apenas em comparação com seu próprio desempenho histórico. A adesão às orientações do sistema também passou a ser acompanhada.

Essa mudança tornou o cumprimento das rotas automatizadas uma decisão profissionalmente justificável. O sistema passou a influenciar efetivamente o trabalho porque a organização alterou a maneira como avaliava as escolhas dos funcionários.

Um comportamento semelhante foi observado em uma empresa global de logística especializada no transporte de cargas de alto valor para clientes corporativos. Após projetos-piloto reduzirem significativamente os atrasos e melhorarem a utilização dos ativos, a companhia aprovou um sistema de roteamento baseado em inteligência artificial.

Os próprios responsáveis pela distribuição das cargas reconheciam que o sistema frequentemente encontrava alternativas melhores do que aquelas que conseguiriam identificar individualmente. Mesmo assim, após a implementação, continuaram modificando rotas ao longo do dia.

As intervenções favoreciam clientes com quem mantinham relacionamentos antigos, cargas consideradas politicamente importantes dentro da organização e motoristas vistos como mais confiáveis. Inicialmente, essas alterações eram apresentadas como pequenos ajustes necessários à operação.

Com o tempo, entretanto, o sistema deixou de funcionar como um mecanismo efetivo de decisão. Suas recomendações passaram a servir apenas como ponto de partida para discussões, e a responsabilidade final continuou concentrada nos profissionais.

Quando a liderança pressionou por uma adoção maior, os funcionários não afirmaram que a tecnologia estava errada nem se recusaram a utilizá-la. Em vez disso, acrescentaram mais procedimentos, incluindo sinalizações para cargas sensíveis, novas etapas de encaminhamento e limites mais restritivos para revisão.

A lógica por trás desse comportamento era simples. Se o sistema tomasse uma decisão e algo desse errado, o nome do funcionário continuaria aparecendo no relatório. Caso o próprio profissional tomasse a decisão, pelo menos conseguiria explicar por que havia escolhido determinado caminho.

Essa postura não resultava necessariamente de desconhecimento tecnológico ou falta de segurança psicológica. Os funcionários estavam interpretando corretamente a maneira como a empresa distribuía as responsabilidades e adaptando seu comportamento a essa realidade.

Pesquisas sobre ameaças à identidade profissional mostram que trabalhadores cujas especializações estão sendo automatizadas podem sentir ansiedade em relação ao próprio reconhecimento, à relevância de suas funções e às perspectivas de carreira. Essas preocupações podem influenciar suas decisões de maneiras compreensíveis.

Entretanto, essa explicação não é suficiente para compreender todos os casos. O mesmo comportamento aparece em empresas que já abordaram questões relacionadas à identidade profissional, conduziram adequadamente a gestão da mudança e desenvolveram ambientes de segurança psicológica.

Mesmo quando os funcionários reconhecem abertamente que o sistema apresenta desempenho superior ao deles, a resistência à delegação pode continuar. O fator decisivo permanece sendo a exposição individual às consequências de decisões automatizadas.

O profissional orientado a seguir a recomendação de um sistema continua sendo aquele cuja carreira pode sofrer as consequências quando o resultado não corresponde às expectativas. Essa contradição ajuda a explicar por que a adoção formal nem sempre se transforma em autonomia real.

O problema se torna ainda mais complexo com o avanço da inteligência artificial baseada em agentes autônomos. Sistemas tradicionais de recomendação preservam uma estrutura em que a tecnologia sugere, uma pessoa decide e a responsabilidade permanece associada a um profissional.

Os agentes de IA modificam essa dinâmica porque podem executar ações diretamente. Esses sistemas conseguem realizar reservas, aprovar solicitações, definir rotas, contratar serviços e encaminhar atividades dentro de parâmetros previamente autorizados, sem exigir acompanhamento humano contínuo.

Quando um agente atua dentro dos limites estabelecidos e mesmo assim produz um resultado negativo, a identificação das responsabilidades se torna mais difícil. É necessário avaliar se os parâmetros estavam incorretos, se a autorização concedida era excessivamente ampla ou se o sistema encontrou uma situação que seus desenvolvedores não haviam previsto.

Essas questões deverão aparecer em reuniões de conselhos administrativos, processos judiciais e documentos regulatórios. A autonomia crescente dos sistemas exige mecanismos mais claros para identificar quem responde pelas decisões e por suas consequências.

Quando uma ferramenta apenas recomenda ações, o desalinhamento entre autoridade e responsabilidade costuma produzir intervenções humanas e processos paralelos. Com sistemas autônomos, essa mesma diferença pode gerar ambiguidades de responsabilidade em escala muito maior.

Transferindo a responsabilidade

A adoção efetiva de inteligência artificial pode ser reconhecida por mudanças concretas na organização do trabalho. Os processos de decisão se tornam mais simples, as exceções diminuem e a autoridade passa a ser distribuída de maneira explícita.

Todos precisam compreender quem ou o que possui autorização para tomar determinada decisão, quem deve explicar seus resultados e quem assume os riscos envolvidos. Essa clareza pode provocar desconforto porque exige mudanças nas funções profissionais, mas também tende a produzir maior estabilidade.

A iniciativa Hands off the Wheel, da Amazon, mostra como essa transferência de autoridade pode acontecer. Criada em 2012 com o nome Project Yoda, ela incorporou previsões de demanda, precificação e compras diretamente aos fluxos de trabalho da empresa.

A organização separou a autoridade sobre os dados utilizados pelos sistemas da autoridade sobre os resultados produzidos por eles. As equipes comerciais podiam influenciar as informações e os parâmetros de funcionamento, mas intervenções rotineiras nas decisões automatizadas eram desencorajadas e, em determinadas situações, exigiam aprovação.

As responsabilidades dos gestores de fornecedores também foram modificadas. Em vez de tomar individualmente cada decisão de compra e precificação, esses profissionais passaram a acompanhar os dados utilizados, os casos excepcionais e os resultados alcançados.

A mudança funcionou porque a responsabilidade foi redistribuída junto com a autoridade. Quando os resultados ficavam abaixo das expectativas, a discussão deixava de se concentrar em qual funcionário havia tomado uma decisão inadequada.

A atenção passava a ser direcionada à identificação dos dados, regras ou componentes do sistema que haviam falhado e à definição de quem deveria corrigi-los. Paralelamente, as atividades humanas foram reorganizadas em torno da gestão de produtos e programas menos adequados à automação.

Esse exemplo demonstra a importância de fazer com que a tecnologia e a estrutura organizacional avancem juntas. O redesenho das funções e responsabilidades precisa acontecer antes da implementação em larga escala, evitando que a empresa tente resolver essas questões apenas depois do surgimento de resistências.

Antes de avançar com um sistema de inteligência artificial, a liderança precisa responder a quatro perguntas fundamentais de governança:

• Quem perderá autonomia se o sistema de inteligência artificial funcionar como esperado?

• Quem ganhará autoridade e sobre quais decisões?

• Quem será responsável por explicar os resultados quando as decisões do sistema forem seguidas?

• Quem assumirá os riscos da transição durante o período de aprendizado?

Se essas perguntas não forem respondidas explicitamente no momento da aprovação do sistema, acabarão sendo respondidas informalmente pelos próprios funcionários. Nessas situações, a tendência é preservar as estruturas de autoridade que já existiam.

A adoção completa depende de criar condições para que seguir as decisões de um sistema não represente um risco desproporcional à carreira dos profissionais. Para isso, a liderança precisa redefinir funções conforme as decisões rotineiras passam a ser automatizadas.

O julgamento humano pode ser direcionado para atividades mais estratégicas, como supervisão, estabelecimento de limites e melhoria contínua dos sistemas. Também é necessário definir regras de atuação claras e oferecer ferramentas que permitam aos profissionais explicar decisões que não foram tomadas pessoalmente por eles.

O apoio da liderança deve ser visível durante esse processo, especialmente nas fases iniciais de implementação. Erros produzidos por sistemas que operam dentro dos parâmetros aprovados precisam ser tratados como oportunidades de aprendizado institucional, evitando que toda a responsabilidade recaia automaticamente sobre funcionários individuais.

A capacidade que vai diferenciar as organizações

À medida que decisões anteriormente dependentes do julgamento humano passam a ser transformadas em regras, automatizadas e executadas em escala, as empresas precisam reorganizar suas estruturas. Entretanto, muitas organizações continuam comprando sistemas inteligentes e esperando que os demais processos se adaptem espontaneamente.

Cada implementação costuma ser tratada como um projeto isolado, cujo sucesso depende principalmente do desempenho do modelo, da escolha do fornecedor e da qualidade da execução técnica. Essa abordagem desconsidera as mudanças necessárias na distribuição de autoridade e responsabilidade.

Nessas empresas, cada novo sistema pode desencadear um ciclo semelhante. A iniciativa começa com entusiasmo, passa por restrições e adoção parcial e acaba estabilizada silenciosamente em uma função meramente consultiva.

Com o tempo, os funcionários percebem que as estruturas fundamentais de decisão permanecem inalteradas. A liderança, por sua vez, aprende a reduzir suas ambições antes que novas tecnologias ameacem a distribuição existente de funções e autoridade.

Lideranças mais preparadas compreendem que a questão central envolve a transferência de poder de decisão. Elas identificam onde a autoridade realmente está, reorganizam os fluxos de trabalho para incorporar as decisões automatizadas e administram as transições sem transferir individualmente aos funcionários todos os custos do aprendizado.

A sequência dessas mudanças também influencia os resultados. A autoridade tende a ser transferida quando a organização estabelece o algoritmo como referência operacional, torna as intervenções humanas visíveis e redefine as funções profissionais em torno da supervisão e da auditoria.

Isso também exige que a responsabilidade pelo funcionamento dos sistemas seja atribuída às pessoas e áreas encarregadas de administrá-los. A transformação tecnológica precisa acontecer em conjunto com o redesenho organizacional.

Empresas que já passaram por esse processo tendem a estar mais preparadas para novas implementações. A experiência permite desenvolver um vocabulário compartilhado, estabelecer perguntas recorrentes e construir uma memória organizacional sobre as mudanças necessárias.

Essas organizações passam a compreender melhor quais funções perderam autonomia, quais sistemas ou profissionais receberam novos direitos de decisão e quem ficou responsável por explicar os resultados. Também acumulam experiência sobre como distribuir os riscos envolvidos durante as primeiras etapas da transição.

Isso não significa que implementações futuras estarão livres de dificuldades ou disputas internas. Entretanto, a empresa começará o processo com maior conhecimento sobre como alinhar tecnologia, autoridade e responsabilidade.

Por isso, a capacidade de transferir autoridade deve ser tratada como uma competência organizacional permanente, e não como um problema pontual de implementação. Antes de colocar um modelo em operação, é necessário definir quais decisões serão automatizadas, como o julgamento humano será utilizado e de que maneira a empresa absorverá os custos do aprendizado.

Em muitas organizações, entretanto, essa discussão começa depois da implementação. O sistema já está funcionando, mas acabou assumindo uma função consultiva, sem modificar efetivamente a estrutura de decisões.

Nesses casos, as recomendações para futuras implementações continuam válidas, incluindo o redesenho das funções, a definição das responsabilidades e a distribuição antecipada dos riscos. Entretanto, o primeiro passo para corrigir um sistema já implantado é identificar onde a autoridade realmente está naquele momento.

Existe também uma consequência que muitas organizações evitam discutir explicitamente. Se a inteligência artificial funcionar conforme o esperado, a necessidade de determinadas formas de julgamento humano poderá diminuir, mesmo quando a tecnologia for apresentada como um recurso de apoio aos profissionais.

Se um sistema de análise de crédito consegue aprovar automaticamente 70% dos casos rotineiros, por exemplo, a função de um analista não pode continuar sendo definida principalmente pela aprovação individual de cada solicitação. O trabalho precisará ser reorganizado para acompanhar a nova distribuição de responsabilidades.

Quando os executivos evitam abordar claramente essa consequência, aumentam as chances de que os funcionários desenvolvam mecanismos informais para limitar a autonomia dos sistemas. A falta de transparência sobre o futuro das funções pode incentivar intervenções defensivas, mesmo em ambientes nos quais a tecnologia apresenta bons resultados.

Reorganizar uma empresa em torno de sistemas de inteligência artificial não exige eliminar o julgamento humano, mas direcioná-lo para situações em que sua contribuição seja mais relevante. Isso inclui avaliar a qualidade do risco de uma carteira de crédito, acompanhar alterações no comportamento do modelo e lidar com casos excepcionais para os quais ele não foi desenvolvido.

Essa transformação também precisa aparecer nos critérios de avaliação de desempenho. Se os funcionários continuarem sendo recompensados ou responsabilizados por resultados cada vez mais determinados pelos sistemas, terão incentivos para preservar suas intervenções individuais.

Autoridade e responsabilidade precisam estar alinhadas para que a automação funcione adequadamente. Quando um modelo possui permissão para decidir dentro de parâmetros claramente definidos, seguir suas orientações deve ser uma escolha profissionalmente justificável.

A liderança também precisa evitar que os primeiros erros do sistema se transformem automaticamente em responsabilidades individuais. Para isso, é necessário estabelecer previamente quais falhas serão tratadas como parte do aprendizado e quais situações realmente exigem responsabilização pessoal.

O setor de aviação oferece uma referência importante por meio do conceito de just culture, ou cultura justa. Essa abordagem incentiva os profissionais a relatar problemas de segurança e estabelece uma distinção clara entre erros aceitáveis e comportamentos inadequados.

Na União Europeia, organizações do setor aéreo precisam demonstrar como esses limites são garantidos e aplicados. Informações fornecidas por sistemas de comunicação de ocorrências recebem proteção contra o uso para atribuição de culpa ou responsabilidade, exceto em situações de conduta deliberadamente inadequada ou negligência grave.

Essa estrutura permite que os erros se tornem visíveis e possam ser investigados. Ao reduzir o receio de punições automáticas, a organização cria condições para identificar causas, corrigir problemas e diminuir as chances de repetição.

O sistema Andon, da Toyota, oferece uma lição semelhante sobre a importância das normas organizacionais. Quando um funcionário identifica um defeito, pode sinalizar o problema, solicitar a presença de um líder e, caso a situação não seja controlada, interromper a produção.

O princípio central é que a identificação de um problema deve gerar ajuda, orientação e investigação de suas causas, em vez de culpa automática. Tentativas de reproduzir o Andon fracassaram em empresas que copiaram a ferramenta sem incorporar as regras de responsabilidade e a cultura de trabalho que sustentavam seu funcionamento.

Uma abordagem semelhante pode ser aplicada à inteligência artificial. Antes da implementação, a liderança precisa definir quais erros iniciais serão tratados como oportunidades de aprendizado, quais situações exigirão encaminhamento para instâncias superiores e quais continuarão sendo de responsabilidade individual.

A maioria das organizações acompanha a adoção tecnológica por meio de painéis de utilização. Entretanto, poucas observam os sinais comportamentais que indicam tentativas silenciosas de limitar a autonomia dos sistemas.

O aumento ou a redução das exceções, as mudanças nos limites de intervenção e a criação de novas etapas de aprovação são indicadores importantes. Essas alterações podem revelar que a tecnologia está sendo utilizada, mas suas decisões continuam sendo sistematicamente modificadas.

Durante a implementação do ORION, a mudança mais importante realizada pela UPS não foi simplesmente verificar se os motoristas utilizavam o sistema. A empresa passou a acompanhar se as rotas recomendadas estavam sendo efetivamente seguidas, permitindo avaliar a influência real da tecnologia sobre as decisões operacionais.

A necessidade de resolver essas questões também receberá pressão externa. A Workers First Initiative on AI, lançada pela AFL-CIO em outubro de 2025, defendeu a revisão humana de decisões automatizadas, a transparência sobre o uso de inteligência artificial e o direito de contestação para trabalhadores afetados por decisões de emprego conduzidas pela tecnologia.

Organizações que ainda não alinharam formalmente autoridade e responsabilidade poderão enfrentar questionamentos crescentes de funcionários, legisladores ou de ambos. Essas discussões reforçam a necessidade de estabelecer regras claras sobre o uso da automação e seus impactos profissionais.

O futuro das funções também precisa ser discutido enquanto os sistemas estão sendo ampliados. Esperar que os próprios funcionários concluam que o sucesso da tecnologia representa uma ameaça às suas carreiras pode aumentar a resistência e dificultar a transição.

A IKEA e o Ingka Group, sua maior operadora de franquias, oferecem um exemplo de reorganização das atividades. À medida que o assistente virtual Billie passou a solucionar solicitações simples, a empresa capacitou profissionais de atendimento telefônico para trabalhar com design de interiores remoto, vendas no varejo digital, relacionamento com clientes e resolução de problemas mais complexos.

As novas possibilidades profissionais foram apresentadas aos funcionários enquanto a inteligência artificial ganhava escala. Essa abordagem ajudou a mostrar que a transformação poderia representar uma oportunidade de desenvolvimento, em vez de apenas uma redução gradual da importância de determinadas funções.

A Salesforce adotou uma lógica semelhante com sua estrutura conhecida como 4Rs, baseada em quatro frentes: redesenho, requalificação, realocação e reequilíbrio. Conforme o Agentforce, plataforma da empresa para criação e implementação de agentes autônomos de IA, passou a assumir mais atividades rotineiras de suporte, funcionários começaram a ser direcionados para novas funções.

Segundo dados divulgados pela própria Salesforce, 51% das contratações realizadas no primeiro trimestre do ano fiscal de 2026 foram internas. Entretanto, a importância dessa estratégia vai além do percentual de movimentações profissionais.

A empresa deu nomes às transições de função, desenvolveu mecanismos de mobilidade interna e tornou mais compreensível a nova organização do trabalho. Essas medidas ajudam os profissionais a visualizar possibilidades de atuação à medida que determinadas atividades passam a ser automatizadas.

Quando essas mudanças são realizadas de maneira coordenada, a autoridade profissional pode se concentrar em decisões mais relevantes. Um analista de crédito, por exemplo, deixa de dedicar a maior parte do dia à revisão de solicitações rotineiras que o sistema já avaliou.

Sua atuação passa a envolver casos fora da faixa de confiança do modelo, padrões de risco da carteira que possam indicar alterações no comportamento do sistema e situações excepcionais capazes de contribuir para a definição de novos parâmetros. Dessa forma, o trabalho humano permanece associado a atividades que exigem avaliação especializada.

O mesmo princípio se aplica aos profissionais de logística. Em vez de acompanhar a criação de rotas apenas para modificá-las silenciosamente, eles podem monitorar casos excepcionais, administrar relacionamentos com clientes cujas particularidades não são adequadamente compreendidas pelo sistema e encaminhar situações para as quais a tecnologia não foi desenvolvida.

Nos dois exemplos, os profissionais passam a compreender melhor suas responsabilidades e os limites de sua atuação. Também conseguem explicar resultados negativos sem depender da justificativa de que decidiram ignorar as recomendações automatizadas.

Como medir o sucesso

Em algum momento, uma organização provavelmente aprovará um sistema de inteligência artificial que realmente apresenta bons resultados. A tendência será avaliar seu sucesso por meio de taxas de utilização, indicadores dos painéis de acompanhamento e pela aparente tranquilidade do processo de implementação.

Entretanto, essas métricas podem transmitir uma impressão equivocada sobre a adoção da tecnologia. Um sistema pode ser amplamente utilizado sem exercer influência real sobre as decisões importantes da empresa.

Uma avaliação mais relevante consiste em imaginar o que aconteceria se a ferramenta fosse desligada. As decisões fundamentais da organização realmente mudariam ou os profissionais continuariam trabalhando exatamente como antes, apenas sem a interface do sistema?

Se as decisões permaneceriam iguais, isso indica que a autoridade também não foi transferida. Nesse caso, a adoção ainda não aconteceu de maneira efetiva, independentemente da sofisticação do modelo ou da qualidade técnica de sua implementação.