É indiscutível o potencial impacto que a Inteligência Artificial (IA) terá no tecido empresarial e na forma como as empresas interagem com os seus clientes e parceiros, principalmente na recolha, análise e partilha de dados pessoais e informação sensível. A aprovação da Lei de Inteligência Artificial (em inglês, EU AI Act) pelo Conselho da União Europeia é um marco histórico a nível mundial, mas levanta questões fundamentais sobre o equilíbrio entre inovação, segurança e regulamentação.
A aprovação desta legislação posiciona a União Europeia como líder na regulamentação de uma indústria que está agora a dar os primeiros passos na sua democratização e cujas capacidades muitas empresas exploram ainda sem um entendimento completo do seu potencial e das suas consequências (positivas e negativas).
A imposição de regulamentações rígidas por parte da União Europeia (UE) pode levar a uma deslocação da inovação para fora da Europa, prejudicando a competitividade global das empresas europeias e afastando-as das oportunidades de liderar a revolução da IA. Por outro lado, uma ausência de mecanismos de proteção claros dos direitos fundamentais dos cidadãos pode descredibilizar os serviços que utilizem esta tecnologia.
Com o EU AI Act, que entrará em vigor nos próximos meses, várias implicações importantes de cibersegurança e segurança de informação surgirão para as empresas que desenvolvem soluções de IA e também para aquelas que os utilizam. A forma como será implementado na prática este modelo de responsabilidade partilhada, é ainda uma incógnita.
As empresas que implementam sistemas de IA terão de garantir as medidas necessárias de cibersegurança, implementando controlos que mitiguem ou reduzam significativamente os ciber-riscos associados à operação de sistemas de IA. Terão de garantir que os sistemas de IA são robustos, precisos e capazes de resistir a ciber ataques, mantendo uma monitorização contínua e documentação detalhada sobre os controlos de segurança implementados.
Sendo os dados a base dos modelos de aprendizagem e fonte de informação dos sistemas de IA, também sobre esta perspetiva o EU AI Act obriga à proteção e gestão segura dos dados utilizados pelos sistemas de IA. Isto incluí garantir a qualidade e integridade dos dados utilizados no treino e operação dos sistemas de IA, a implementação de práticas seguras de armazenamento de dados, para prevenir acessos não autorizados, e assegurar que o processamento de dados pessoais está em conformidade com o Regulamento Geral sobre a Proteção de Dados (GDPR) da UE.
Para as empresas que adotam ou utilizam sistemas de IA, o EU AI Act define um conjunto de práticas que não são permitidas como a utilização de técnicas subliminares, ou manipulativas, com o objetivo de distorcer o comportamento de uma pessoa, ou a categorização de indivíduos com base em características biométricas que, possam resultar numa discriminação positiva ou negativa. Impede ainda a inferência de emoções de indivíduos em contextos como locais de trabalho ou instituições educativas.
Exemplo, seria a leitura automática de emoções como filtro de recrutamento, ou a utilização de algoritmos de IA para explorar a utilização de mensagens subliminares que incentivam o consumo. Estes exemplos, ainda que hipotéticos, são ilegais ao abrigo do EU AI Act.
Embora o impedimento destas práticas seja assegurado através de requisitos rigorosos de conformidade, o desafio permanece na fiscalização e garantia do cumprimento, especialmente devido à rápida evolução das tecnologias de IA, e à necessidade de recursos adequados para monitorizar e aplicar a legislação de forma eficaz. A colaboração contínua entre reguladores, empresas e especialistas em cibersegurança é fundamental para enfrentar esses desafios e proteger os direitos dos indivíduos.
A inovação não pode prosperar num ambiente de insegurança nem num ambiente de restrições excessivas. Portanto, enquanto celebramos este marco histórico na regulamentação da IA, devemos também continuar a promover um diálogo aberto e contínuo sobre como melhor e equilibrar a balança entre segurança e inovação.
