O uso de algoritmos assentes em Inteligência Artificial (IA) em websites e redes sociais é praticamente uma norma nas aplicações e plataformas mais utilizadas. A complexidade dos mesmos adensa à medida que se tornam mais capazes de filtrar conteúdos e notícias, limitar ou amplificar o alcance de certas publicações, e até de definir preços ou ocultar resultados em motores de busca.
Por norma, cada plataforma e empresa tecnológica tem a sua própria estratégia embebida no algoritmo — umas são mais transparentes do que outras — mas a premissa é a mesma: estes algoritmos registam o comportamento do utilizador e utilizam essa informação para definir o conteúdo que será apresentado. O objetivo destes algoritmos é, na essência, apresentar conteúdos considerados relevantes ou mais adequados ao perfil do utilizador, mas tem sido frequente o debate em torno dos limites dos mesmos.
Esse mesmo debate levou a China e proibir desde 1 de março a utilização de algoritmos que pratiquem determinados tipos de discriminação, numa medida que é considerada uma das mais ambiciosas no que diz respeito à regulamentação da IA.
De acordo com as novas regras em vigor, as empresas passam a estar proibidas de utilizar dados pessoais para condicionar a oferta ou o conteúdo que vão apresentar aos seus utilizadores – seja um desconto numa viagem ou um vídeo do TikTok. As regras passam a abranger todo e qualquer algoritmo que defina preços, resultados de motores de busca, recomendações de vídeos e artigos, mas sobretudo que filtrem e ordenem de forma inteligente a ordem em que as publicações surgem nos feeds chineses.
Estas normas passam a abranger não só empresas tecnológicas e de redes sociais, mas também operadores de e-commerce e plataformas de streaming. As empresas que violarem as regras passarão a ser proibidas de aceitar novos utilizadores e podem até ver os seus sites e serviços desligados ou as licenças revogadas.
As novas condicionantes entram em vigor numa altura em que a China tem sido mencionada na imprensa internacional por pressionar algumas das mais valiosas e populares empresas tecnológicas do mundo a mudar algoritmos, com recurso a coimas e limitações. O presidente chinês Xi Jinping chegou a dizer em outubro, num discurso, que se registavam “algumas tendências e sinais pouco saudáveis e desordeiros em função do rápido desenvolvimento da economia digital” do país.
A medida pode servir de exemplo a outros países, onde o debate em torno do poder e relativa impunidade da IA tem sido debate, mas não são as primeiras normas relativas à IA a serem propostas.
A União Europeia já tinha proposto regular certas capacidades que limitassem o uso, por exemplo, de tecnologias de reconhecimento facial e que proibissem também a manipulação de algoritmos. Além disso, previa-se a intenção de limitar as capacidades de serviços como chatbots e jogos de computador que utilizassem IA para interagir com humanos. Contudo, a proposta europeia apresentada em abril do ano passado poderá estar em debate por vários anos até se concretizar em directivas.
