Num contexto em que a Inteligência Artificial (IA) Generativa ganha um papel cada vez mais relevante nas empresas — do atendimento automatizado à análise avançada de dados,aumenta também a necessidade de compreender os riscos, vulnerabilidades e dilemas éticos associados à sua utilização. É este o ponto de partida do estudo “IA e Cibersegurança: O Desafio da Confiança Digital”, desenvolvido por João Donato, sob a orientação de João Campos, investigadores do Centro de Informática e Sistemas da Universidade de Coimbra (CISUC) e do Laboratório de Sistemas Inteligentes (LASI), com o apoio da Indra Group. O trabalho traça um retrato realista do atual grau de maturidade da IA, evidenciando tanto o seu potencial transformador como as fragilidades que persistem.
“A IA é uma tecnologia poderosa e transformadora, mas que coloca desafios relevantes ao nível da segurança”, afirma António Ribeiro, responsável de Cibersegurança da Minsait em Portugal (Indra Group). Para o especialista, a reflexão sobre o futuro da tecnologia deve considerar a crescente exposição a sistemas inteligentes cada vez mais autónomos. “A confiança digital tem de ser o pilar da transformação tecnológica, com uma abordagem à segurança que seja mensurável, comparável e contínua. Só assim é possível construir uma confiança digital sólida e sustentável”, sublinha.
Entre os resultados mais significativos do estudo, destaca-se o facto de mais de 80% dos modelos testados terem gerado código inseguro quando sujeitos a ataques de manipulação dissimulados. O relatório mostra ainda que técnicas como interações múltiplas ou simulações de role-play continuam a conseguir contornar mecanismos de proteção considerados robustos, explorando fragilidades subtis na interpretação de contexto e intenção. Mesmo os modelos mais recentes, que revelam maior capacidade para distinguir entre riscos reais e aparentes, mantêm vulnerabilidades contextuais que exigem monitorização permanente.
Para António Ribeiro, estes resultados confirmam que não basta desenvolver modelos de IA cada vez maiores e mais sofisticados, é essencial garantir que cresçam de forma responsável. “O verdadeiro desafio da próxima geração de IA será o de encontrar o equilíbrio entre utilidade e risco, construindo sistemas ‘seguros por design’, onde a inovação e a segurança evoluem em conjunto.” O responsável acrescenta ainda que “a investigação científica tem sempre um valor prático e, neste caso, contribui para uma IA mais ética, transparente e segura.”
O enquadramento proposto pelos investigadores apresenta uma abordagem estruturada para avaliar e comparar a robustez dos modelos face a diferentes tipos de ataques. A metodologia assenta em métricas objetivas, cenários realistas e num “júri automatizado” de modelos independentes, capazes de validar resultados e criar uma base consistente para medir a confiabilidade dos sistemas e antecipar comportamentos inesperados.
A tecnologia assume, neste contexto, um papel determinante. Ferramentas avançadas de monitorização, algoritmos de análise comportamental e sistemas automatizados de auditoria permitem identificar vulnerabilidades antes de estas se traduzirem em riscos efetivos. Para as organizações, esta capacidade preventiva é crucial não só para a proteção de ativos digitais, mas também para a preservação da confiança de clientes, parceiros e utilizadores. “Desde a otimização de processos à criação de soluções inovadoras, a tecnologia é um fator-chave para a competitividade, a sustentabilidade e a segurança”, reforça António Ribeiro.
O estudo sublinha, assim, a importância de integrar práticas de segurança desde as fases iniciais de desenvolvimento e adoção de IA, promovendo ambientes digitais mais resilientes e preparados para ameaças emergentes. A colaboração entre a Universidade de Coimbra e a Indra Group constitui um contributo relevante para o reforço do conhecimento nacional nesta área estratégica, apoiando empresas e instituições na construção de uma confiança digital duradoura.
Ebook: IA e Cibersegurança: O desafio da confiança digital.
Este artigo é da autoria da Minsait.
