Temos acompanhado muitos casos de movimentos virais nas redes sociais e com forte adesão de pessoas usuárias que envolvem aplicativos de Inteligência Artificial. Desde os que fazem uma simulação sua com outro gênero (Gender Swap), mais recentemente o lançamento do aplicativo Lensa para geração de avatares virtuais por meio de suas fotos ou até mesmo ações virais em redes sociais sem aplicativos como #10YearChallenge (“Desafio dos dez anos”, em tradução livre).
Há um sentimento de curiosidade e empolgação com as novas tecnologias e tendências nas redes sociais. Porém, infelizmente há pouco cuidado quando o assunto são os dados pessoais envolvidos no processo. Por que devemos nos preocupar?
Neste artigo vamos listar os principais perigos de se expor em aplicativos de inteligência artificial, explicar melhor o caso recente do Lensa e ainda abordar onde a Lei Geral de Proteção de Dados Pessoais (LGPD) entra nessa história.
O caso do aplicativo de inteligência artificial Lensa
Se você usa redes sociais, provavelmente se deparou recentemente com algum amigo compartilhando imagens em formato de anime/desenho construído por um aplicativo de inteligência artificial chamado Lensa. O aplicativo de edição de fotos e vídeos cria uma espécie de avatares mágicos, com um novo recurso viral que permite às pessoas usuárias fazer upload de imagens de si ou de outras pessoas e, com o uso de inteligência artificial, criar essas imagens.
O compartilhamento em massa dos resultados produzidos por esse aplicativo de inteligência artificial foi também um dos mais comentados de novembro de 2022, segundo a CNN, com mais de 5 milhões de menções nas redes sociais.
O que também surpreende, mas não no mesmo grau de compartilhamento, é o termo de uso do aplicativo que dizia:
“Você nos concede uma licença perpétua, irrevogável, não exclusiva, isenta de royalties, mundial, totalmente paga, transferível e sublicenciável para usar, reproduzir, modificar, adaptar, traduzir, criar trabalhos derivados e transferir seu conteúdo ao usuário”.
Estes termos geraram intensas advertências de especialistas de segurança da informação, privacidade e proteção de dados. Mas isso não impediu as pessoas, inclusive no Brasil, de continuarem baixando o aplicativo, pagando pelo seu uso (cerca de 10 a 20 reais) e compartilhando os resultados com entusiasmo.
Após as críticas das pessoas e expectativas de atuação de órgãos de privacidade e proteção de dados de alguns países, a empresa dona do Lensa fez uma pequena atualização no seu termo trocando o “irrevogável” para “revogável”, mantendo o trecho restante.
A empresa também informou que tão logo o resultado final é alcançado, as imagens serão excluídas. Dessa forma, alguns questionamentos legítimos ficam evidentes:
- Se as imagens serão excluídas, por que o trecho do termo de uso permanece em dizer que a pessoa concederá o uso de sua imagem de forma perpétua e sem compensações?
- Qual o interesse e necessidade da empresa com o uso indefinido dessa imagem? Esse dado pessoal da pessoa será utilizado em outros momentos além do serviço prestado?
São perguntas que realmente ficam sem resposta e com a falta de transparência, o público fica na mão da empresa.
Princípios da Lei Geral de Proteção de Dados Pessoais (LGPD)
Para entender melhor as críticas de especialistas em privacidade para o Lensa, é válido entender um pouco mais os princípios da LGPD (a legislação brasileira em privacidade).
Ao todo são 10 os princípios que regem a lei e orientam como as empresas, que desejam tratar os dados pessoais dos cidadãos brasileiros, devem obrigatoriamente seguir para estarem adequados à legislação.
Aqui destacamos os princípios relacionados a este caso:
Princípio da Finalidade
Toda vez que uma empresa for tratar o dado pessoal de uma pessoa, deve informar a real finalidade do tratamento do dado em questão.
Princípio da Adequação
Uma vez informada a(s) finalidade(s) para a pessoa em relação ao tratamento do dado, a empresa/governo deve então seguir estritamente o que foi informado. Em outras palavras, não poderá tratar o dado pessoal de forma diferente do que está sendo informado.
Por isso, a importância das pessoas usuárias terem atenção aos termos de uso e política de privacidade das empresas. Caso a empresa informe algo nesses documentos, a pessoa terá o direito de questionar caso algum tratamento seja diferente do que foi compartilhado.
Princípio da Necessidade
Esse princípio, um dos principais da LGPD, veio para alterar o pensamento enraizado em muitas empresas brasileiras de que “quanto mais dados pessoais tivermos acesso, melhor”. Aqui, fica claro que as empresas só conseguirão manter tratamentos de dados pessoais que são, de fato, sustentáveis e justificáveis por serem acima de tudo, necessários.
Por exemplo, imagine uma empresa de comércio eletrônico que precisa de dados pessoais como “Nome completo” e “Endereço” para entrega de pedidos, mas pede também dados de saúde de clientes. Dessa forma, caso a empresa persista em coletar esse dado, ela estará assumindo um grande risco uma vez que não conseguirá justificar a necessidade do tratamento.
Princípio da Transparência
Esse princípio, também um dos principais da lei, exige que as empresas tragam transparência aos seus processos por meio do compartilhamento de documentos informativos.
Com isso, a intenção da lei é que a pessoa usuária, por meio da visão clara do que está sendo feito com seu dado, possa controlar seus dados pessoais questionando tratamentos e exercendo seus direitos, que também estão estabelecidos em lei.
Você gostaria de entender melhor seus direitos por lei? Na nossa Política de Privacidade, seção 8, destacamos os direitos de titulares com base na LGPD.
Mas que princípios podem ter sido violados no caso em questão?
A empresa em questão pode ser facilmente questionada via princípio da finalidade, por não trazer de forma clara as reais finalidades quanto aos usos de dados para a entrega do serviço. Levando especialistas e pessoas usuárias a duvidar também do cumprimento do princípio da adequação.
Também há falhas no princípio da necessidade: por que a empresa, nos seus termos de uso, afirma que a pessoa usuária concederá acesso a sua imagem por tempo indefinido se o serviço em questão será prestado pontualmente?
Esses termos ambíguos e mal explicados nos apontam para uma não adequação também do princípio da transparência, uma vez que alguns processos não estão claros e transparentes o suficiente. Aqui vale trazer uma relação com o consentimento que, conforme a LGPD, deve ser explícito e inequívoco. Em outras palavras, as empresas precisam deixar claro para as pessoas quais os tratamentos de dados pessoais estão sendo feitos embasados nos consentimentos dados. No caso apresentado, essas informações não estão disponíveis de forma clara.
Quais são os riscos reais de aplicativos de inteligência artificial para as pessoas usuárias?
Quando falamos dos reais impactos para as pessoas usuárias, estamos falando de possibilidades. Há empresas bem intencionadas no mercado, que apenas não conseguem tornar seus processos transparentes, não estando adequadas portanto às legislações de privacidade.
Mas do mesmo modo, também há empresas má intencionadas, com origens difíceis de determinar e que utilizam da falta de transparência e do mau hábito das pessoas de aceitarem termos de uso sem a devida leitura para terem acesso aos dados pessoais para outros fins.
A seguir, vamos destacar alguns dos riscos de usar aplicativos de Inteligência Artificial que usam suas fotos:
Direito de uso de imagem
Ao usar um aplicativo de Inteligência artificial e aceitar seus termos de uso, a pessoa usuária está dando permissão para que a empresa que faz a gestão do aplicativo tenha o direito de usar sua imagem indefinidamente, e mais, sem a necessidade de qualquer compensação ou notificação.
O curioso é que os avatares fizeram sucesso entre muitas pessoas famosas como Ivete Sangalo, Marcos Mion, DJ Steve Aoki, Astrid Fontenelle, Dani Calabresa e Juliana Paes. Será que elas entendem que sua imagem poderá ser usada indefinidamente depois sem a necessidade de pagamentos?
E isso também se aplica para as pessoas anônimas como você e eu. É surpreendente a quantidade de receita que pode ser gerada por meio de uso de imagens, ainda mais de forma indefinida como o termo de usos do aplicativo indica. Concordar com esses termos significa também concordar com o uso de sua imagem em campanhas diversas (na internet ou em outros meios como impressos, banners e até outdoors) sem qualquer tipo de pagamento, autorização prévia ou indenização.
Golpes e outras ações maliciosas com Deep Fake
Ao subir diversas fotos suas em aplicativos de Inteligência Artificial você está fornecendo material que pode ser usado para treinar um algoritmo para gerar um Deep Fake seu.
Tá, mas o que é Deep Fake? Mais do que uma montagem, o Deep Fake é realizado por meio de técnicas avançadas de Inteligência Artificial com a utilização de vídeos e outros tipos de mídia. Assim, bandidos e outras pessoas mal intencionadas conseguem criar vídeos e fotos com consequências extremamente perigosas, por exemplo:
- Boatos que envolvem supostos crimes cometidos (por exemplo, o que a mocinha da novela Travessia, da TV Globo enfrentou);
- Ações para espalhar desinformação (Fake News);
- P0rn0 de vingança (Revenge P0rn);
- Ataques de engenharia social em seus familiares ou colegas de trabalho;
- E muito mais.
Fraudes envolvendo biometria
Um outro ponto, ainda mais alarmante, é o potencial de acessos que uma imagem detalhada com Inteligência Artificial pode conceder a quem a detém. A imagem de nossos rostos, bem posicionada e com detalhes pode, sem grande esforço, gerar biometria.
Tá, mas o que é biometria? A biometria consiste na utilização de pontos e características únicas que o indivíduo possui em sua face, voz ou digital para ativação de autenticação multifator e prática de isenção de senhas.
A biometria é largamente utilizada nos dias de hoje para liberação de acessos em, por exemplo:
- Aplicativos de bancos;
- Caixas eletrônicos;
- Celulares em geral e tablets;
- Lugares físicos, como casas e escritórios;
- E muito mais.
Perigos em relação a sistemas de reconhecimento facial (Facial recognition system)
Além de fraudes envolvendo a sua biometria, um outro risco de subir fotos do seu rosto em aplicativos de inteligência artificial é alimentar sistemas de reconhecimento facial.
Essa tecnologia tem muito potencial para impactar positivamente a nossa sociedade, mas atualmente ela ainda precisa de muitos ajustes. Inclusive, não é raro vermos na grande mídia notícias sobre erros de sistemas de reconhecimento facial de empresas e governos.
Dicas de segurança para usar aplicativos de inteligência artificial
Se mesmo depois de todos esses pontos, você ainda tiver interesse em testar aplicativos de de Inteligência Artificial que usam suas fotos, há algumas dicas de segurança que podem ser úteis:
- Leia sempre a Política de Privacidade e Termos de Uso com atenção;
- Não importe fotos de outras pessoas, principalmente crianças;
- Não importe fotos com nudez;
- Assim que obter o serviço exclua a sua conta e certifique-se que seus dados serão apagados de acordo com as leis de proteção de dados.
- Não “esqueça” o aplicativo de inteligência artificial no aparelho, exclua o app o quanto antes.
Além disso, considere o impacto para artistas reais. Antes de você subir suas fotos, é muito provável que várias artes de profissionais foram importadas para treinar os modelos da solução que você vai estar usando.
Conclusão
Existe uma expressão que se aplica muito bem nesse contexto: “Quando a esmola é demais, o santo desconfia”.
Muitas pessoas não hesitaram em compartilhar seus dados pessoais para obter os avatares mágicos, e foi possível perceber um certo nível de empolgação com os resultados sem pensar na moeda de troca que estava em jogo.
Assim como em outros momentos virais, essas aderências em massa a serviços digitais pouco transparentes são incentivados pelo uso das redes sociais que causam a sensação de pouco risco, uma vez que uma grande massa de usuários já aderiu antes de você. Adicionando o fato de amizades e pessoas famosas terem aderido ao movimento, cria-se uma sensação de segurança para o uso do aplicativo.
Outra frase que se aplica nesse contexto é: “Se o serviço é de graça, o produto é você”.
E olha que o serviço nem era de graça, mas o preço baixo perante o resultado alcançado nos faz refletir se esse pagamento era a única recompensa que a empresa buscava.
Hoje em dia, temos ciência da exploração indiscriminada de dados pessoais realizada por algumas empresas de tecnologia. Afinal, por que e como redes sociais como Instagram, Facebook e TikTok possuem altas margens de lucro se são 100% gratuitas para as pessoas?
Dados são extremamente valiosos para as empresas. Quem nunca ouviu “Data is the new oil”, ou dados são o novo petróleo, em tradução livre?
E as empresas vão fazer o possível para conseguir mais dados, mesmo que isso envolva buscar brechas nas legislações de privacidade em vigor para prática inadequada de tratamento de dados pessoais.
Por isso, é preciso ter mais malícia no jogo de poderes envolvendo troca de dados pessoais por serviços. A dica é: as pessoas devem usar as legislações vigentes em privacidade ao seu favor e cobrar das empresas a devida transparência.
As empresas precisam informar de forma clara os seus tratamentos, suas finalidades, hipóteses de exclusão, etc. Esses pontos devem estar bem descritos em seus termos de serviço e na política de privacidade, documentos acima de tudo informativos.
De um lado, as empresas devem respeitar a lei, observar os princípios e garantir os direitos dos titulares para estarem em conformidade, mas do outro lado cabe às pessoas apenas ter o compromisso inegociável com seus dados buscando se informar sobre o serviço, por meio das documentações, antes de clicar em concordar.
E você, o que achou disso tudo? Conta pra gente nos comentários!
*Colaborou com o conteúdo time de Privacidade.
Referências
- A moda de publicar avatares elaborados com inteligência artificial pode ser uma ameaça ao uso indevido dos dados biométricos dos usuários nas redes – ISTOÉ Independente
- Deep fake: cinco riscos da tecnologia que utiliza inteligência artificial | Segurança | TechTudo
- Lensa AI and ‘Magic Avatars’: What to Know Before Using the App | WIRED
- Facebook’s ’10 Year Challenge’ Is Just a Harmless Meme—Right? | WIRED
- Terms of Use – Aplicativo Lensa
- What to know about Lensa, the AI portrait app all over social media – CNN
