Kill Switch: da Microsoft à Google, gigantes tecnológicas prometem “matar” a IA caso percam o controlo

Algumas das empresas líderes na aposta em IA comprometem-se a acionar um mecanismo para evitar o uso daquela tecnologia para fins perigosos, por parte de terceiros mal intencionados.

Kill Switch: da Microsoft à Google, gigantes tecnológicas prometem “matar” a IA caso percam o controlo
Inteligencia Artificial Machine Learning

São várias as gigantes tecnológicas que se comprometem a “matar” a Inteligência Artificial (IA) caso os perigos associados se tornem incontroláveis.

Com o investimento em IA a bater recordes atrás de recordes, as capacidades das futuras tecnologias são imprevisíveis e, por esse motivo, importa tomar precauções no que diz respeito à segurança.

Neste contexto, foi assinado, numa cimeira sobre segurança na IA que está a ter lugar em Seoul (Coreia do Sul), um acordo que contou com o compromisso de empresas como a Microsoft, OpenAI, Meta, Google, Amazon, Samsung e IBM, entre outras gigantes da tecnologia com forte investimento em modelos de inteligência artificial.

Aquelas empresas vão implementar a ferramenta “kill switch”, que prometem utilizar na eventualidade de a IA cair nas mãos erradas. O propósito passa por evitar riscos ligados a ciberataques automatizados ou à criação de armas biológicas, por exemplo, em que as companhias não tenham capacidade para mitigar os mesmos.

“É a primeira vez que tantas empresas líderes na IA, de tantas partes diferente do globo, concordam com os mesmos compromissos”, no que diz respeito à segurança na IA, de acordo com o primeiro ministro britânico, Rishi Sunak.

Relacionado

Governador do Banco de Inglaterra alerta que modelos avançados de IA colocam em risco sistema financeiro

Governador do Banco de Inglaterra alerta que modelos avançados de IA colocam em risco sistema financeiro

Ruben Pires31 Ago
Numa carta enviada aos ministros das Finanças e aos governadores do bancos centrais do G20, que foi transcrita pela "CNBC", Andrew Bailey considerou que os modelos de IA mais avançados estão a demonstrar "autonomia e capacidade" de resolução de problemas "cada vez mais sofisticadas, bem como potencial para gerar ameaças", e identificou o potencial impacto dos [modelos] de IA, referindo-se ao risco cibernético como sendo a "preocupação mais imediata" para o sistema financeiro.