Nesta semana li uma matéria sobre a “Netdragon Websoft”, uma empresa de videogames chinesa criada em 1999, que substituiu, numa de suas subsidiárias, seu CEO humano por uma aplicação de IA chamada “Tang Yu”. Essa IA é responsável por “tomar decisões de risco, fazer avaliações e análises consideradas complexas e gerenciar funções e demandas dentro da empresa”. Desde que a Tang Yu assumiu, nos últimos seis meses, a empresa se expandiu 10% e, segundo eles, ela garante um ambiente de trabalho mais justo e igualitário.
Aplicações de IA são extremamente eficazes para tratar padrões. Mas, como elas lidam com exceções? Isso depende do tipo de IA que foi desenvolvida. As abordagens mais comuns são:
- Os modelos de IA geralmente são treinados em grandes conjuntos de dados que incluem exemplos diversos, incluindo casos limite e exceções. Isso ajuda a tornar os modelos mais robustos e capazes de lidar com uma ampla gama de entradas, incluindo aquelas que se desviam da norma.
- Alguns sistemas de IA, especialmente aqueles baseados em modelos probabilísticos como métodos Bayesianos ou simulações de Monte Carlo, quantificam explicitamente a incerteza. Quando confrontados com exceções ou entradas muito diferentes dos dados de treinamento, esses sistemas podem fornecer estimativas de incerteza para indicar que a previsão pode ser menos confiável.
- Em aplicações críticas ou situações em que o sistema de IA encontra uma exceção com a qual não pode lidar com confiança, ele pode recorrer à intervenção humana. Isso poderia envolver sinalizar a exceção para revisão humana ou fornecer opções para o usuário adicionar mais informações ou orientações.
- Os sistemas de IA podem aproveitar técnicas de aprendizado por transferência para se adaptar a novas tarefas ou domínios transferindo conhecimento de tarefas ou domínios relacionados em que o modelo foi treinado. Isso pode ajudar a lidar com exceções usando conhecimento aprendido em situações semelhantes.
- Os sistemas de IA implantados no mundo real frequentemente incorporam laços de feedback para melhorar continuamente o desempenho. Quando ocorrem exceções, o feedback dos usuários ou operadores pode ser usado para atualizar o modelo ou seus dados de treinamento para lidar melhor com situações semelhantes no futuro.
- Métodos de conjunto combinam vários modelos de IA para melhorar o desempenho e a robustez. Ao agregar previsões de vários modelos, os métodos de conjunto frequentemente podem lidar com exceções de forma mais eficaz do que modelos individuais.
- Em alguns casos, especialmente em domínios onde as regras são bem definidas, os sistemas de IA podem incorporar componentes baseados em regras para lidar com exceções de acordo com regras ou heurísticas pré-definidas.
Ou seja, como um sistema de IA lida com exceções depende das técnicas de IA usadas, do domínio da aplicação, do nível de autonomia necessário e da tolerância a erros ou incertezas.
Mas, seja lá como for, humanos é que têm que decidir como as exceções são tratadas, pois as IAs são ótimas para tratar padrões, mas ainda engatinham no tratamento das exceções.
No caso da Netdragon uma das vantagens apontadas no uso da Tang Yu é que o CEO ganha U$ 0,00 e trabalha 24 horas por dia. Parece-me que esqueceram de contabilizar as dezenas/centenas de pessoas que trabalham no desenvolvimento da Tang Yu… Ou seja, substituíram um CEO por um grupo de pessoas que codificam algoritmos de IA.
Creio ser importante notar que o que torna um humano um excelente profissional é sua capacidade de lidar eficazmente com exceções, pois os padrões podem ser aprendidos por qualquer um, inclusive por uma IA. Um profissional medíocre é aquele que consegue lidar bem com os padrões, mas é incapaz de lidar eficientemente com as exceções.
Pode ser que a IA seja uma ótima ferramenta para substituir profissionais medianos, sendo inclusive muito mais competente que eles por sua capacidade de “raciocinar” uma grande quantidade de dados, mas os excelentes profissionais humanos sempre serão muito necessários, inclusive no design das IA’s, pelo menos por enquanto.