Alexa, sua espiã favorita

Na mesa do bar, você comenta com o seu amigo: preciso pintar o cabelo. No dia seguinte, seu telefone está lotado de anúncios sobre tinturas de cabelo. Quantas coincidências nos trazem esse mundo virtual, correto? Para tirar a prova se isso é coincidência ou não, eu procurei o professor, pesquisador e recém graduado em seu doutorado Daniel Marques, da Universidade Federal da Bahia, que pesquisou os problemas de privacidade no mundo moderno a partir dos smart speakers, ou seja, assistentes virtuais como Alexa, da Amazon, ou GoogleHome, da Google, como pode ser visto no episódio do podcast Tecnopolítica.

Muito comuns no primeiro mundo, este é um mercado que ainda atinge apenas 4% da população brasileira, e que está concentrada na classe média e na classe média alta, e que vive nas áreas urbanas, sendo jovens adultos. Ou seja, estamos falando de um nicho de mercado que é fã da tecnologia e que busca praticidade. A pergunta do Daniel era: será que estamos sendo vigiados o tempo todo por esses assistentes virtuais, esses pequenos robozinhos?

“Os smart speaker, como qualquer outro dispositivo conectado à internet, eles tem a capacidade de coletar dados. Então eles estão sempre ouvindo na espera da palavra de ativação, para poder responder a uma pergunta ou realizar uma tarefa. O que acontece é que empresas como Google, Amazon, Apple e outras elas afirmam que elas só começam a gravar quando essa palavra de ativação é reconhecida. A questão é que a gente não tem como auditar este processo, porque são dispositivos proprietários dessas grandes empresas, que são as Big Techs. O que a gente sabe é que esses dispositivos tendem a gravar mais do que deveriam. Os usuários são costumeiramente surpreendidos quando eles resolvem investigar e ver que os speakers já coletaram. O que diz respeito à vigilância, essas empresas dizem que esses dados são para melhorar a experiência do usuário, como melhor a gravação ou são gravados. As preocupações são legítimas sobre privacidade e segurança, tem questões sobre quem tem acesso aos dados, como eles podem ser usados, etc. Como a gente não tem acesso às políticas das empresas, esses dispositivos acabam funcionando como caixas pretas, que a gente tem pouco ou quase nenhum acesso ou transparência”. 

É a isso que a pesquisadora norte americana Shoshana Zuboff, de Harvard, chama de capitalismo de vigilância? Qual é a relação entre os dispositivos que escutam o nebuloso mundo da publicidade, como diz Zuboff?

Márcio, qual era o sonho de todo publicitário? Era ler o seu pensamento, certo? Quando mais invasivo fosse o dispositivo de “espionagem” melhor? O professor Daniel Marques percebeu que esses assistentes virtuais, ao entrarem em nossos quartos e em nossas vidas, e coletarem todos os dados possíveis, por meio de sistemas de escutas permanente, estavam levando nossa privacidade, nossa vida privada, para o ambiente das Big Techs, para alimentar uma indústria de vende de produtos e serviços nessas plataformas digitais. Quanto mais dados, melhor e mais personalizado o anúncio. E, lembre-se, está tudo conectado, e-mails, redes sociais, assistentes virtuais. Marque lembra que até as nossas emoções são capturadas por esses dispositivos eletrônicos:

“Existem patentes que demonstram a capacidade desses agentes de voz de reconhecer os estados emocionais dos usuários para oferecer produtos e serviços. A interação pode ser mais humana quando eles se tornaram mais avançados, mas ainda são máquinas. Mesmo assim a gente pode considerar que o uso desses dispositivos pode impactar nossas interações humanas. Se a gente passa muito tempo interagindo com elas, isso pode afetar a nossas habilidades sociais e pode produzir vieses sobre como a gente entende as novas interações e como o terceiro entende essa interação, não é aleatória essas assistentes virtuais sejam, na maioria esmagadora, vozes femininas e que tem tom de subserviência, que tem uma entidade que é servil que domestica os usuários e que é domestica pelo usuário, pois o usuário precisa se submeter à forma como ela funciona.”

E como a gente pode vir o jogo com relação a essa vigilância que serve para nos direcionar publicidade? Será que a gente não se beneficia mais do que as empresas com todos os serviços que estão sendo oferecidos gratuitamente? A lei geral de proteção de dados não é suficiente para dar ao usuário autonomia sobre quais dados que eles desejam compartilhar e com quem eles desejam compartilhar?

A lei de proteção de dados diz que é preciso justificar a quantidade de dados que são extraídos do usuário. Há que ser proporcional e isso não corresponde a uma coleta de forma massificada, coletiva e agregada, como ocorre hoje. O pesquisador cria a metáfora do “sujeito-dado” para explicar que as Big Techs, com a dataficação, ou seja, o extrativismo de dados, alimenta a construção de perfis performáticos dos usuários, o sujeito-dado.

O curioso é que todo mundo quer lucrar com esse modelo das plataformas e seus assistentes virtuais de nos inundar de publicidade, da tintura aos pés, pois um dos remédios para essa sociedade vigiada é justamente nós, os usuários, passarmos a lucrar com os dados.

O professor Daniel acha que inverter os papéis não vai mudar em nada o fato de que a internet se torna uma arma de propaganda, e não uma promessa de libertação cultural e informacional da sociedade.

“Uma das tendências que tem surgido é a ideia de monetização dos dados dos usuários, de os usuários poderem ser compensados por seus dados pessoais e essa ideias tem ganhado força, em que usuário venderiam seus dados mediante uma compensação direta, mas não acho uma boa ideia pois serviria para naturalizar o processo da coleta massiva de dados e o avanço do capitalismo de vigilância e o capitalismo de plataforma, com a anuência do usuário, que não entendem muito bem o processo e não vejo como boa saída. Em termos de controle, temos a lei geral europeia e a lei de proteção de dados brasileiras que permitem quais dados se quer trabalhar, e com quem. Se a gente não olhar para o design, a gente não vai entender o impacto profundo que essas tecnologias têm na vida das pessoas”.

O que seria uma forma de empoderamento digital?  Como funcionam os algoritmos, que permitem o processamento desses dados? Como questionar o desenvolvimento de novas formas de cidadania? Como colocar interesse dos usuários em primeiro lugar, antes do interesse das Big Techs? Como promover habilidades a partir de uma perspectiva crítica e cidadã para fazer face aos interesses comerciais? Como proteger a privacidade que foi ameaçada pela tecnologia, que hoje é tão importante para o mundo moderno e contemporâneo? Como não ser alvo de fraudes, crimes e roubo de identidade com o uso indevido de dados?

Vamos terminar por aqui com tantas questões, em que a gente ainda pode se perguntar: será que eu quero ser vigiado por uma assistente virtual, como mostra a ficção e hollywood em Filmes como 1984, Her ou a série Black Mirror!

Até onde eu vou com a minha intimidade? Até que ponto eu renuncio à minha autonomia? Até quanto eu quero ser uma tag de publicidade?

O comentário no Papo de Futuro vai ao ar originalmente pela Rádio Câmara, às terças-feiras, às 8h, em 96,9 FM Brasília.