Welcome to “Big Brother”!

Nas últimas semanas, reacendeu-se a discussão em torno da privacidade e dos direitos e liberdades dos cidadãos no Canadá, com a notícia da utilização, por parte da polícia de Montreal, de recursos que recorrem à tecnologia de reconhecimento facial apoiada em inteligência artificial.

O sistema captura várias fotografias das pessoas e armazena-as numa base de dados que irá comparar e cruzar detalhes. Desta forma, o reconhecimento facial substitui as impressões digitais, usando scans bidimensionais e tridimensionais apoiados num software de inteligência artificial.

Segundo o vice-reitor da Universidade de Lisboa, Carlos Ribeiro, num comentário ao Diário de Notícias sobre a utilização em aeroportos, esta é uma ferramenta que “pode ter uso abusivo, mas que também pode ser usada de uma maneira muito interessante e para nos proteger”.

O recurso a este género de tecnologia foi adotada em maior escala nos últimos anos, seja para abrir portas, fazer pagamentos e check-in em aeroportos, pedir empréstimos, desbloquear smartphones ou identificar terroristas. É uma tecnologia cada vez mais ao serviço do cidadão, com dois fatores essenciais ao seu funcionamento: pessoas e uma base de dados. Se, por um lado, promete velocidade, autonomia e segurança, por outro, suscita muitas questões:

De que forma são construídas estas bases de dados?

Quem tem acesso à base de dados?

Como estão as bases de dados a ser utilizadas?

Está a privacidade de cada um a ser devassada?

Devem os cidadãos ser informados quando são alvos desta tecnologia no espaço público?

Atos que colidem com os direitos e liberdades dos cidadãos são, regra geral, autorizados por um juiz. Porque é este caso uma exceção?

O que impede uma empresa que desenvolve este género de software de partilhar a informação com terceiros por uma avultada quantia de dinheiro?

Em Portugal, o Diário de Noticias relatava, em 2018, que esta tecnologia era já usada pelo Laboratório de Polícia Cientifica para controlo de cidadãos estrangeiros nos aeroportos. Já este ano, em Toronto, o chefe da Polícia de Toronto, Mark Saunders, apresentou um relatório referindo que o reconhecimento facial está em uso nas forças policiais locais desde 2018 e que tem sido uma ferramenta essencial na investigação policial e identificação de criminosos.

Mas o recurso a esta nova tecnologia não se fica apenas pelas forças policiais. Também o setor privado recorre ao reconhecimento facial. Os centros comerciais são um exemplo.

A Cadillac Fairview, proprietária do Eaton Centre, Fairview Mall e do Markville Mall na área metropolitana de Toronto, confirmou que testou e utiliza o reconhecimento facial desde junho de 2018 nalguns dos seus centros comerciais.

É importante referir que o reconhecimento facial é limitado no Canadá pelo Personal Information Protection and Electronic Documents Act (PIPEDA), que requer que seja dado consentimento para guardar, usar ou transmitir informação pessoal privada, mas não especifica como lidar com casos de inteligência artificial ou tecnologia que recorra ao reconhecimento facial.

Mais assustador que a realidade da utilização deste género de software parece ser a letargia em que os governos se encontram no que toca a novas tecnologias e à legislação que devia antecipar o uso das mesmas.

Quem não se lembra do célebre caso da Cambridge Analytica nos EUA, que levou os CEO das maiores empresas ligadas ao ramo das novas tecnologias, em particular as redes sociais, ao congresso norte-americano?

O caso mediático, que aparentemente parecia prometer mudanças na forma como se encara a revolução das novas tecnologias, mostrou apenas o total desconhecimento e incompetência dos políticos norte-americanos nesta matéria. As sessões no congresso americano foram alvo de chacota a nível mundial, demonstrando uma inexplicável inaptidão do país mais desenvolvido do mundo para lidar com o problema. Se por um lado não se pode pedir a um congressista que seja perito nesta matéria, não se pode entender que o seu gabinete não reúna a informação necessária para fazer as perguntas que o povo americano e o mundo queriam ver respondidas:

Há ou não partilha e manipulação de informação entre as maiores empresas mundiais do mundo tecnológico?

Em caso afirmativo, o que me parece óbvio, que informação é partilhada e como está a ser utlizada?

Não acho que se tenha obtido uma resposta cabal e esclarecedora a qualquer uma delas.

Ao invés, e apesar de ter não ter sido a única razão para que tenha acontecido, a União Europeia fez entrar em vigor, em 2018, o Regulamento Geral de Proteção de Dados (GPDR). Este regulamento foi elaborado em 2016 e teve efeitos temporariamente suspensos para que as empresas tivessem tempo de se adaptar a ele e é o maior conjunto de regras de proteção à privacidade online já criado desde o início da internet. Apesar de não ser um documento final e que, muito provavelmente, vai sofrer alterações ao longo dos próximos anos, é, sem dúvida, um passo importante no garante dos direitos e liberdades dos cidadãos e, também, um acréscimo na responsabilidade das empresas, organizações e instituições na maneira como tratam e protegem os dados privados dos cidadãos do espaço europeu. O Canadá, à semelhança dos EUA, depressa esqueceu o incidente e as preocupações ligadas às novas tecnologias.

Tão incompreensível quanto a incompetência dos políticos, é a indiferença da grande maioria dos cidadãos aos desafios e violações de privacidade das novas tecnologias no século XXI. Será isto um efeito da exposição global forçada pelo uso generalizado das redes sociais?

Atualmente é raro conhecer uma pessoa que não tenha uma conta numa rede social expondo detalhes da sua vida. Tendo isto em conta, “até que ponto o reconhecimento facial vai mais longe do que aquilo que já existe?”, questiona António Neves, professor na Universidade de Aveiro, num artigo do jornal Diário de Notícias. A diferença parece-me óbvia – o direito de opção.

Será que os cidadãos têm noção do real valor da informação pessoal nos dias que correm? Será que entendem que a troca de informação se tornou num negócio incalculável nos tempos modernos?

Nos últimos anos assistiu-se a um crescimento no número de empresas que reúnem informação deste género – os Data Brokers. Recentemente, foi identificada uma aplicação nas redes sociais que estaria a reunir informação para empresas ou organizações russas – o FaceApp. Esta aplicação, que permite aos utilizadores alterar fotografias com recurso a filtros que usam um sistema de inteligência artificial, estaria, alegadamente, a reunir toda a informação que era carregada para o sistema, podendo ser utilizada por terceiros para fins menos legítimos.

Os defensores da privacidade estão a debater como os cidadãos devem ser informados quando são alvos deste tipo de tecnologia, tendo direito a optarem não serem guardadas quaisquer imagens suas, com exceção óbvia aos atos a que estão obrigados por lei, como por exemplo a obtenção de passaporte ou carta de condução. Porém, estes esforços não estão a impedir as empresas de avançar com a implementação de reconhecimento facial, até porque é um negócio milionário. Segundo a CBC e o TheStar, a Polícia de Toronto e a Polícia de Montreal investiram quantias a rondar o meio milhão de dólares no teste e implementação deste género de tecnologias, o que leva a uma questão pertinente:

Havendo a utilização de dinheiros públicos nestes projetos, porque não estão os cidadãos a ser devidamente informados, de antemão, dos detalhes da utilização do reconhecimento facial nas forças policiais?

A falta de transparência não ajuda, definitivamente, à conquista da confiança necessária à implementação na sua plenitude deste género de tecnologias. Contudo, a questão dos prós e contras quanto ao reconhecimento facial não se fica por aí. A sua utilização para, por exemplo, identificar criminosos que estejam indexados numa base de dados dá aso ao surgimento de falsos positivos. Em Londres, esta tecnologia identificou erradamente pessoas inocentes obtendo um total de 96% falsos positivos, de acordo com o jornal The Independent. Fontes ligadas a estes projetos, dão conta, também, que a taxa de sucesso na identificação de sujeitos é substancialmente superior em pessoas caucasianas. A razão para este resultado deve-se ao facto do software ser, maioritariamente, desenvolvido por pessoas caucasianas, o que levantará, muito provavelmente, questões de racismo, quando estiverem em causa falsos positivos.

Apesar de toda a controvérsia, as grandes multinacionais Google, Apple, Facebook, Amazon e Microsoft são exemplos de empresas que já possuem os seus próprios sistemas de reconhecimento facial, com taxas elevadas de sucesso. Também empresas como o Walmart e a Target testaram e implementaram a tecnologia em determinados locais, pelo que se prevê que nos próximos anos se ouça falar muito mais sobre esta realidade. Fica a pergunta: terão os políticos a coragem, a arte e o engenho para recuperar o tempo perdido e legislar no sentido de evitar possíveis usos menos corretos deste género de tecnologia?

O thriller policial de 2008 – Eagle Eye (Controle Absoluto), chamava a atenção, ainda que numa realidade pouco provável, para uma entidade artificial inteligente que perseguia dois fugitivos acusados de terrorismo. Uma grande conspiração que envolve computadores de última geração, exército, governo e forças policiais. Através da rede de telecomunicações dos EUA, a vida das pessoas passa a ser monitorada 24h por dia. Os telefones tornam-se escutas ao vivo e todas as câmaras estão interligadas, permitindo que se localize qualquer pessoa em qualquer lugar.

Pouco mais de 10 anos volvidos e todos, de uma forma ou de outra, fazemos parte daquela realidade pouco provável.

Seja bem-vindo ao “Big Brother”!