O dilema das redes, dirigido por Jeff Orlowski e lançado no início de setembro pela Netflix, reúne fragmentos de reportagens, depoimentos, entrevistas e uma espécie de ficção ilustrativa, para alertar e descrever como a indústria da tecnologia usa os dados dos usuários no desenvolvimento das plataformas e redes sociais para potencializar o modelo de negócio.
Por tratar de um sistema no qual grande parte do público está fortemente inserido, o documentário tem gerado diversos debates e reflexões sobre o tema. Isso porque, a medida em que o descreve, o longa também sinaliza que o avanço desregulado desse sistema e a falta de responsabilidade ética da indústria são uma ameaça existencial à autonomia e à saúde dos indivíduos, ao senso de coletividade e, até mesmo, à democracia.
Em O dilema das redes, os argumentos são apresentado por especialistas, investidores, acadêmicos e, principalmente, ex-funcionários de diversas big techs (como Google, Facebook, Pinterest, Twitter e YouTube) que passaram pelos bastidores do Vale do Silício, localizado na Califórnia, nos Estados Unidos. Muitos deles desenvolveram ferramentas (como o chat do gmail, scroll infinito, botão de curtir do Facebook e sistema de sugestões do YouTube) e contribuíram de alguma forma para pensar o funcionamento e crescimento técnico e comercial das startups.
Você é o produto
Reconhecendo as contribuições trazidas pela tecnologia, o documentário tem o viés de destacar o outro lado da moeda, menos conhecido do grande público. Mostrando que há um preço (pago pelo tempo, engajamento, exposição e consumo indireto) na gratuidade dos benefícios oferecidos aos usuários. O novo modelo de negócio no meio digital foi conceituado e nomeado pela acadêmica Shoshana Zuboff, em 2015, de 'capitalismo de vigilância em um artigo científico (em inglês) e no livro, em 2018.
“Se você não está pagando pelo produto, você é o produto”, resume Tristan Harris ex-designer da Google e presidente do Centro para Tecnologia Humanizada. Segundo Harris e os companheiros de profissão, a transação comercial que ocorre entre as plataformas digitais e os anunciantes é o que torna as empresas de tecnologia e informação as mais lucrativas da história. Além disso, Shoshana Zuboff explica que o negócio das startups é vender certeza de sucesso para os anúncios, uma vez que direcionam o público mais suscetível ao consumo de determinado setor. E para isso, “precisam de muitos dados!”.
Harris ainda levanta outras duas questões: uma sobre quem desenvolve as redes e outra como usuários recebem informações que estão a um toque de distância: “Nunca antes na história, 50 designers, homens, brancos entre 20 a 35 anos, da Califórnia, tinham tomado decisões que impactassem dois bilhões de pessoas”, apontou.
Algoritmo ilustrado
Para traduzir a linguagem técnica do sistema algorítmico para leigos, a produção optou por uma narrativa ficcional que traz, como recorte, a rotina de uma família estadunidense. O personagem Ben (Skyler Gisondo) é um adolescente ativo nas redes sociais, e que não pensa estar suscetível a tecnologia, como a mãe alerta. A irmã mais nova, também entra em cena para ilustrar a necessidade de aprovação e reforço positivo nas redes, incentivados cada vez mais cedo.
Na trama, a inteligência artificial (Vincent Kartheiser), responsável por conduzir a atenção e os interesses de Ben nos aplicativos, é dividida em três personagens que tomam forma humana. Cada um exerce uma função do sistema, lançando notificações, sugestões de conteúdos e novas amizades, e outros elementos do off-line que podem influenciar na presença on-line. Entretanto, também mostra o contrário: o que visto on-line pode pautar e ter impactos diretos na vida off-line.
O diretor acadêmico da Digital House Brasil, Edney “Interney” Souza, afirma que o objetivo principal da análise e processamento deste grande volume de informações é entender, da forma mais precisa, o que mobiliza o interesse do usuário e o quão suscetível ele está para adquirir informações, produtos e serviços. “Eu (o sistema) quero deduzir quais serão os seus movimentos futuros, em pontos muito específicos. É possível te convencer a ir em um evento? A comprar algum produto? A ficar mais tempo nesta plataforma?”.
Acessando as ferramentas de interatividade com os assuntos e publicações, as pessoas mobilizam os cálculos de engajamento.“Ele interage com os conteúdos. Isso ajuda a entender o que mais chama a atenção e a configurar os algoritmos para mostrar mais daquele tipo de conteúdo. (Ou ainda) mostrar com mais frequência as pessoas com quem você troca informação e que mais te interessam, de tal forma que a plataforma te vicia. Você sempre quer voltar, porque ela vira o canal de contato com o que você gosta e fonte de informação para coisas do seu interesse. É assim que o usuário contribui”, explica Edney.
Sobre isso, os entrevistados contam como também se tornaram dependentes dos dispositivos e recursos que ajudaram a desenvolver, e se preocupam com a capacidade humana de lidar com esses mecanismos. “Ao criar o botão de curtir, nossa motivação era: ‘podemos espalhar positividade e amor no mundo?’. A ideia de que mais para a frente isso causaria depressão nos adolescentes, quando não tivessem curtidas suficientes ou que poderia levar a polarização política, não estava no nosso radar”, explica Justin Rosenstein, ex-engenheiro no Facebook e criador do botão de ‘curtir’.
Polarização e fake news
Após explicar o modelo de negócio para monetização e o funcionamento do algoritmo, o filme passa a abordar alguns dos principais efeitos sociopolíticos da era digital: a difusão de notícias falsas e a imersão nas bolhas ideológicas. O documentário aponta que a polarização, a propagação de discursos extremistas e fake news nas redes, e a interferência eleitoral são resultado de uma séria limitação do sistema: o algoritmo não se baseia na qualidade do conteúdo, mas no nível de engajamento da publicação. Além disso, os mesmos conteúdos são reforçados, mostrando apenas opiniões convergentes, o que dificulta o debate democrático nesse espaço.
O caso Cambridge Analytica é comumente revisitado como exemplo grave desse direcionamento de publicidade para alvos mais suscetíveis, nesse caso a propaganda política. Revelado em março de 2018, o escândalo, envolvendo o Facebook e a empresa britânica, consistiu no uso de dados, sem consentimento e portanto criminoso, dos usuários da rede social pela empresa e influenciou os resultados de mais de 40 processos eleitorais. Entre eles, são citadas no documentário, as eleições de Trump nos EUA, e do presidente Jair Bolsonaro, no Brasil.
“Temos visto muitos conflitos sociais acontecendo em função da polarização, que envolve não somente os debates de esquerda e direita, como se costuma nomear os espectros políticos, mas envolve também as questões raciais, de gênero, e outros conflitos de grupo. Essas bolhas começam a perceber o outro grupo como perigoso e antagônico”, destaca o diretor da Digital House Brasil.
Ele também argumenta que, neste cenário, não há aprofundamento do debate para chegar a soluções coletivas e, que é necessário promover educação e cultura também para o ambiente virtual.
Regulamentação: Ética x legal
Os ex-funcionários admitem terem sido parte do problema, ainda que de forma não intencional. Por isso, propuseram a implementação da responsabilidade ética e a regulamentação. “Não os vejo com salvadores, vejo muita gente arrependida, pessoas que já foram parte do problema. Que bom que hoje elas tentam ser parte da solução. A indústria tem problemas éticos? Sem dúvida. Mas não são problemas legais. Porque não há leis prevendo crime no que é feito nestas empresas. É um dilema ético, sim, porque redefine os conceitos de privacidade”, diz Edney, que explica que os dados colhidos são analisados em grandes volumes, e a partir deles criados processos automáticos.
Ainda que ainda não seja um texto convidativo para a era da velocidade, vale lembrar que as empresas também disponibilizam termos de uso e política de privacidade, no qual especificam sobre o que os usuários estão abrindo mão ou para que estão dando permissão. Ainda assim, algumas regras estão sendo oficializadas para contornar as brechas no sistema, incentivar autonomia ao usuário e prevenir casos como o Cambridge Analytica, reforçando a regulamentação e fiscalização.
Baseada na lei europeia, em vigor desde 2018, a Lei Geral de Proteção de Dados (LGPD) começou a ser implementada no Brasil este ano. “Ambas as legislações definem que os usuários devem ter acesso aos próprios dados na plataforma e ter liberdade de deletá-los. Ele pode permitir, ter clareza sobre o que vai ser feito e decidir se quer que se faça ou não. Meus dados serão utilizados para definir quais propagandas vão ser direcionadas a mim, então a plataforma tem que deixar isso claro”, explica o diretor acadêmico.
Bem-estar digital
Os especialistas e críticos concordam que, apesar de ser um recorte da realidade, o filme contribui trazendo perguntas e inquietações para que, a partir delas, o público debata, busque informações e reflita sobre a ocupação do espaço digital. Para isso, o Correio listou algumas sugestões de como gerenciar a experiência com as plataformas e utilizar melhor as facilidades. Confira:
Em caso de dúvidas, Ctrl+f nos termos de uso e política de privacidade:
Ao instalar um aplicativo ou adentrar um site, o usuário normalmente quer agilidade no acesso. Com isso, o processo de aceitar termos de uso, ou cookies, é automático e instantâneo, e não consiste na leitura do longo texto. Entretanto, é importante saber como esse processo funciona, o que muda e quais são suas opções quando precisar gerenciar seus dados no Twitter, Instagram, Facebook, YouTube, contas de e-mail, buscadores, e websites. Caso não queira ler o texto todo, a busca por palavras-chave pode ajudar.
Gerenciar as notificações e sugestões
Quando não gerenciadas pelo próprio usuário, as notificações podem ser distrativas e tentadoras. Nos aplicativos mais usados pelos brasileiros, YouTube, Facebook, WhatsApp, Instagram e Twitter, e outros, é possível gerenciar que tipos de notificações deseja receber e quais deseja desativar. O benefício é o de autonomia para as escolhas, e diversidade, dos conteúdos, o que gera impacto na configuração do algoritmo.
Gerenciar tempo
É uma hábito, mas também é um recurso. Esse recurso está presente nas plataformas para mobile, algumas delas apenas mostra quanto tempo o usuário passa na plataforma, outras permitem que você crie notificação para um tempo limite que deseja passar nesses espaços. O usuário também pode colocar alarmes no celular.
Seguir assuntos e perfis diversificados
A polarização é um dos fortes efeitos colaterais potencializado pela forma como as redes selecionam, e usuários propagam as informações, e pode levar a extremismos, impasses e prejudicar democracia. Esse é um problema estrutural, mas é utilizado como estratégia para distorcer informações. Conhecer e se expor a diversos temas e opiniões contribui para uma visão ampliada da realidade e por consequência estar menos suscetível a conteúdos falsos ou adulterados.
Denunciar conteúdos impróprios
O usuário pode contribuir para diminuir as (ocasionais) limitações do algoritmo, que engaja publicações e páginas apenas pela quantidade de visualizações e interações, e não pela qualidade da publicação. Para isso, é possível denunciar conteúdos que tenham cunho não humanitário, sensacionalista, extremista, preconceituoso e violento. As plataformas contam com alguns filtros, mas o julgamento ainda não é totalmente eficiente.
Procurar outras fontes de informação e questionar
Para as pesquisas ou informações recebidas, é importante procurar mais de uma fonte (perfis e sites oficiais ou especialistas e fontes off-line). Também vale para o processo prévio ao de compartilhar algo ou ser influenciado digitalmente. É importante refletir sobre como, por que e com que frequência alguns conteúdos estão sendo expostos nesses espaços. E, caso queria, pode diversificá-lo indo atrás de novos assuntos .
Reflita como se sente em relação ao dispositivo e às plataformas
A autorreflexão é sempre importante, mas no contexto das redes sociais pode contribuir para entender o quanto o uso desse espaço pode estar sendo responsável por consequências psicológicas, e evitar a dependência.
*Estagiária sob supervisão de Adriana Izel