A Inteligência Artificial (IA) tem vindo a ser aplicada em todos os setores de atividade e em quase todas as funções organizacionais, já não se limitando às entidades de base tecnológica, como os bancos ou os operadores de telecomunicações.
Temos inúmeros exemplos práticos de sistemas de IA que vão aprendendo a apoiar ou mesmo desempenhar de forma autónoma atividades simples, como a deteção de defeitos ou exceções a regras pré-determinadas – libertando dessa forma o tempo das pessoas para outras atividades de maior valor acrescentado – bem como complexas, onde desempenham acima da capacidade humana, nomeadamente identificando padrões em ambientes aparentemente caóticos, desse modo tornando mais eficientes decisões como a atribuição de crédito, a deteção de fraude ou a gestão de riscos externos.
Como sucede com todas as tecnologias que transitam para o mundo dos negócios, a Inteligência Artificial, conjuntamente com os benefícios que traz, expõe as organizações que a usam (ou afetadas por outras que o fazem) a diversos riscos que devem ser bem identificados e caracterizados e que precisam de resposta adequada.
Entre estes riscos conta-se o enviesamento da aprendizagem – os algoritmos de IA podem ser influenciados e tender a amplificar certos preconceitos, fruto de deficiência e/ou insuficiência dos dados de treino ou dos métodos de aprendizagem – bem como o excesso de confiança – a demonstração do grande poder destes sistemas estimula por vezes uma confiança cega nos mesmos – ou a responsabilidade difusa – à medida que a tecnologia vai assumindo, mesmo que parcialmente, tarefas anteriormente desempenhadas por seres humanos, a responsabilidade legal pelas mesmas tende a transferir-se de forma pouco clara no seio da organização.
A gestão de topo tem, por isso, de assegurar que conhece as utilizações de Inteligência Artificial pela organização, que há estruturas para lidar com os desafios éticos subjacentes e que o treino dos algoritmos não é enviesado. Cabe também aos órgãos de gestão assegurar o equilíbrio entre transparência e responsabilização, bem como que estes sistemas são periodicamente revistos e mantêm controlos apropriados ao seu desenvolvimento.
