• LAPIN

FaceApp: a brincadeira inofensiva que alimenta bases de reconhecimento facial

Por Thiago Moraes


A sociedade digital vive de virais. A todo momento estamos compartilhando memes, retuítando citações de (pseudo)famosos e usando novos apps - não apenas por serem divertidos, mas também por serem “tendências”. E nessas ondas de viralizações, um app que já foi fortemente criticado um ano atrás por suas falhas de segurança e privacidade, se tornou popular novamente: o FaceApp. Enquanto em 2019 a diversão era ver como você se aparentaria quando mais velho, a brincadeira agora é ver a sua versão no cis-gênero oposto: rostos masculinos se tornam femininos e vice-versa. Por trás da brincadeira “inofensiva” desse serviço “gratuito”, indivíduos estão ajudando a alimentar bases de dados faciais e aperfeiçoando os sistemas de inteligência artificial de uma empresa que investe seu tempo em desenvolver uma aplicação de finalidade duvidosa.


Fonte: Google Imagens | Reprodução


Se você já ouviu falar / usou o FaceApp, já deve ter escutado a história que vou contar. Mas aqui vamos novamente. Quais são os riscos desse aplicativo? Comecemos com sua proveniência. É um aplicativo russo. E antes que me acusem de xenofobia, explico por que isso importa. De acordo com a organização de direitos digitais Privacy International, a Rússia é conhecida como um dos países com piores padrões de privacidade do mundo. Entre as diversas vulnerabilidades temos a Lei Yarovaya, que permite que o governo russo requeira de empresas localizadas em seu território quaisquer dados lá armazenados. Embora o CEO do FaceApp tenha alegado que todos os dados são processados e armazenados pelos serviços das norte-americanas Amazon e Google, e que nenhum dado permanece nesses servidores por mais de 48h, nada impede que esse conteúdo esteja sendo espelhado para bases de dados russas.


“E qual o problema disso? Eu nunca irei para a Rússia mesmo”. Quanto a isso você não precisa se preocupar. Pois os russos virão até você da forma que menos imagina. Por mais que isso soe como teorias da conspiração, é o que fatos recentes têm revelado. O melhor exemplo é o caso da Cambridge Analytica (CA), em que perfis comportamentais dos usuários do Facebook foram vendidos a terceiros e, conforme uma informante da CA, inclusive para a inteligência russa, uma das principais suspeitas de ter influenciado na campanha de desinformação (i.e. “fake News”) durante as eleições dos EUA em 2016. Para mais detalhes sobre esse caso, recomendo fortemente que assista o documentário Privacidade Hackeada, no Netflix.


Voltando ao caso do FaceApp, é difícil dizer como exatamente as bases de dados faciais estão sendo usadas. Mas não seria surpreendente imaginar que um desses usos seriam para alimentar os sistemas de reconhecimento facial russos, que estão sendo usados para os mais diversos fins: controle da quarentena do COVID19, controle de tráfego urbano e, é claro, espionagem massiva de seus cidadãos. E por mais que um pensamento egoísta possa lhe estar passando pela cabeça agora “E daí? Não é comigo”, não fique surpreso se um dia estivermos importando essa tecnologia russa.


O Brasil já está fazendo isso com as tecnologias de reconhecimento facial chinesas: estudo do Instituto Igarapé revelou que as câmeras inteligentes instaladas na cidade de Campinas foram fornecidas pela Huawei, em dezembro de 2018, para o projeto “Cidade Segura”. Outro estudo mais amplo realizado pelo instituto estadunidense, Carnegie Endowment for International Peace, revelou o nome de outros fornecedores dessas tecnologias no Brasil: a chinesa Dahua, a sueca Axis e a estadunidense IBM. Ambas pesquisas trazem reflexões sobre os riscos do uso dessas tecnologias que usam bases de dados problemáticas que reforçam preconceitos humanos, como a discriminação racial e de gênero. Embora fuja ao alcance desse texto, cabe inclusive trazer a reflexão de quê, antes mesmo de alimentar bases de dados de reconhecimento facial, o FaceApp já é capaz de promover transfobia, conforme alertado por ativistas de gênero.


Ademais, a falta de transparência no compartilhamento e venda de dados, não nos ajuda a identificar quem está manipulando nossos dados pessoais. É exatamente aqui que entra a importância da existência de regulações robustas de proteção de dados, como é o caso da europeia Regulação Geral de Proteção de Dados - RGPD e da nossa Lei Geral de Proteção de Dados – LGPD, que visa garantir mecanismos de proteção à forma que nossos dados são tratados por empresas e governos. Ao menos em papel, a lei brasileira é muito bonita. Digo em papel, pois infelizmente ainda não temos como garantir a aplicação da lei: primeiro porque sua vigência segue continuamente sendo adiada, desde sua aprovação em 2018, e depois, porque, ainda que em vigor, de nada adiantaria sem a Autoridade Nacional de Proteção de Dados – ANPD, para supervisionar a aplicação da lei. Conforme brilhantemente afirmado pelos Conselheiros Nacional de Proteção de Dados, Fabrício Mota Alves e Gustavo Afonso Sabóia Vieira, “Sem a a ANPD, a LGPD é um problema, não uma solução”.


E aqui vem a parte que eu e você, leitor, entramos. Precisamos começar a nos criticar e problematizar a nossa (falta de) cultura da privacidade. Por que utilizamos certo serviço? O que está por trás da sua utilização? Vale realmente à pena? O velho argumento de “E daí que o FaceApp rouba seus dados? Todos os apps fazem isso” possui uma grande falácia argumentativa: nos dá a entender que todas as aplicações tratam os dados da mesma forma. É claro que empresas como Facebook e Google já passaram (e ainda passam) por severas críticas pela forma que tem tratado nossos dados pessoais. Porém, ao menos hoje, existe algum esforço dessas e algumas outras gigantes da Internet em aprimorar suas políticas de privacidade, fornecendo configurações mais simples para que o usuário controle o uso de seus dados, e informações um pouco mais transparentes. É um primeiro passo.


Mas estas mudanças só podem ocorrer se houver pressão por todos os lados, inclusive social. O poder do consumidor em mudar políticas de empresas é maior do que imagina. Um bom exemplo é a campanha nos EUA #StopHateForProfit, contrária ao discurso de ódio promovido na rede social do Facebook. A adesão ao movimento foi tamanha, que uma grande grife, a North Face, anunciou que interromperia suas campanhas de publicidade na plataforma de Zuckerberg até que mudanças ocorressem. O impacto foi tal que este ano, a empresa anunciou a criação de Conselho de Supervisão para moderação de conteúdo que ficou popularmente como o “Tribunal do Facebook”. Críticas existem a essa proposta, mas fogem ao escopo desse texto. O importante é entender que podemos fazer algo, sim. Podemos sim escolher a quais tendências queremos aderir, trazer críticas e reflexões sobre o uso de certas ferramentas e decidir como queremos nos portar no mundo digital.


Espero que com essas breves digressões eu possa ter plantado uma semente de reflexão sobre os perigos do FaceApp, e você ao menos pense duas vezes antes de (voltar a) utilizá-lo. Agora, passemos ao TikTok...


Legenda: Exemplificação das funcionalidades do aplicativo FaceApp.

Fonte: Google Imagens | Reprodução

0 visualização

O LAPIN está atento ao que acontece no mundo da tecnologia e do direito. Trabalhamos para garantir que o ambiente digital brasileiro seja livre, seguro, e que respeite a privacidade e os direitos humanos. Fique ligado ao que acontece na toca do coelho! Siga a gente nas redes sociais ;)

  • Branco Facebook Ícone
  • Branca Ícone Instagram
  • Branco Twitter Ícone
  • Branca ícone do YouTube
  • Branca Ícone LinkedIn
Assine nossa newsletter:

Deixe seu e-mail abaixo e fique por dentro das novidades, eventos e publicações do LAPIN.

Brasília, 2020

  • Branca Ícone LinkedIn
  • White Instagram Icon