A primeira vez que vi a IA mudar uma operação — por dentro
Uma memória do primeiro sistema de inteligência artificial em produção em que trabalhei: o projeto da KLM que mudou o atendimento antes da vaga atual.
Por Manuel Conde
A minha primeira experiência profissional com inteligência artificial não teve nada de cinematográfico. Não nasceu de uma promessa sobre o futuro nem de uma demonstração feita para impressionar uma sala. Nasceu de uma operação real: dezenas de milhares de mensagens de passageiros por semana, agentes humanos a responder em vários canais, pressão por rapidez e uma pergunta muito concreta sobre confiança.
Foi no projeto da KLM com a DigitalGenius, em 2016. Na altura estava na Right IT e fui arquiteto técnico da plataforma em que o sistema trabalhava, desde o primeiro dia. Digo-o uma vez e não volto ao assunto, porque o que me interessa recordar não é ter estado lá. É a forma como aquela IA se comportava.
Era discreta. Não falava com os clientes. Lia a pergunta que chegava, propunha uma resposta e esperava. Do outro lado estava um agente humano, que lia a proposta, a corrigia quando era preciso e decidia se a enviava. O sistema tinha aprendido com mais de sessenta mil perguntas e respostas da própria companhia, e continuava a aprender com cada correção. Não havia nele nada de espetacular. Havia uma coisa mais rara: sabia que ainda não tinha merecido a última palavra.
Hoje, quando se fala de inteligência artificial, fala-se quase sempre do momento em que a máquina faz sozinha. Naquele projeto, esse momento não era o princípio. Era uma consequência. Primeiro a máquina sugeria. Depois, à medida que as sugestões eram aceites sem correção, ganhava o direito de responder sozinha às perguntas que se repetiam todos os dias, as mesmas, quase com as mesmas palavras.
Ano e meio depois do piloto, a IA apoiava mais de metade dos pedidos e já respondia sem intervenção humana às perguntas mais comuns. As que pediam outra coisa, como paciência, julgamento ou uma exceção, continuavam a ir para as pessoas. Na mesma conversa podiam falar a máquina e um agente, cada um no que fazia melhor.
Os números contam a curva sem precisar de adjetivos. No piloto, a equipa de serviço nas redes sociais tinha 235 agentes e tratava cerca de quinze mil conversas por semana. No fim de 2017, eram 250 agentes e cerca de trinta mil conversas. O dobro das conversas, quase a mesma equipa. Não vou dizer que a IA explica sozinha essa diferença; seria fazer com os números o que tantas vezes se faz com as promessas. Digo que as duas coisas aconteceram ao mesmo tempo, e que estive suficientemente perto para ver que não eram independentes.
O que mais me ficou, no entanto, foi a estranheza. O futuro não chegou num laboratório nem num palco. Apareceu dentro de um sistema de atendimento ao cliente, numa fila de mensagens sobre malas, horários e lugares, num ecrã onde ninguém esperava encontrá-lo. Os agentes não o receberam como uma revolução. Receberam-no como mais uma ferramenta, e julgaram-no como se julga qualquer ferramenta: pelo tempo que poupa e pelos erros que obriga a corrigir.
Olhando para trás, antes desta vaga, reconheço ali as perguntas que hoje parecem novas.
O que se automatiza? Não o que é possível automatizar, mas o que já provou que pode ser automatizado sem se perder nada pelo caminho. Naquele sistema, essa prova vinha das correções dos agentes.
Quem mantém a responsabilidade? Enquanto a máquina sugeria, a resposta era de quem a enviava. Quando passou a responder sozinha, a responsabilidade não desapareceu. Mudou de lugar: passou para quem decidiu que aquelas perguntas podiam ser entregues à máquina e para quem desenhou o sistema que o permitia.
Quando é que se confia? Quando há um registo, não quando há uma promessa. A confiança naquele sistema não foi declarada num comunicado. Foi acumulada, resposta a resposta, por pessoas que tinham o poder de dizer que não.
E que arquitetura torna essa confiança possível? Uma em que a IA não está sozinha. Está integrada nas ferramentas onde o trabalho já acontece, ao lado do histórico de cada cliente, com uma pessoa no ponto onde o erro custa mais e com um caminho de volta para quando a máquina se engana.
É curioso pensar que a minha primeira IA era mais prudente do que muitas das que vieram depois. Não tinha a fluência das de hoje, nem a ambição. Mas tinha uma qualidade que continuo a procurar no que construo: sabia esperar pela confiança antes de a usar.