Documentário

'O dilema das redes' alerta sobre ameaças relacionadas às mídias digitais

'O dilema das redes' foi um dos títulos mais comentados da Netflix, em setembro. O documentário descreve o funcionamento das big techs e as consequências sociopolíticas

Lisa Veit*
postado em 06/10/2020 09:21 / atualizado em 08/10/2020 20:43
 (crédito: Netflix/Reprodução)
(crédito: Netflix/Reprodução)

O dilema das redes, dirigido por Jeff Orlowski e lançado no início de setembro pela Netflix, reúne fragmentos de reportagens, depoimentos, entrevistas e uma espécie de ficção ilustrativa, para alertar e descrever como a indústria da tecnologia usa os dados dos usuários no desenvolvimento das plataformas e redes sociais para potencializar o modelo de negócio.

Por tratar de um sistema no qual grande parte do público está fortemente inserido, o documentário tem gerado diversos debates e reflexões sobre o tema. Isso porque, a medida em que o descreve, o longa também sinaliza que o avanço desregulado desse sistema e a falta de responsabilidade ética da indústria são uma ameaça existencial à autonomia e à saúde dos indivíduos, ao senso de coletividade e, até mesmo, à democracia.

 

Em O dilema das redes, os argumentos são apresentado por especialistas, investidores, acadêmicos e, principalmente, ex-funcionários de diversas big techs (como Google, Facebook, Pinterest, Twitter e YouTube) que passaram pelos bastidores do Vale do Silício, localizado na Califórnia, nos Estados Unidos. Muitos deles desenvolveram ferramentas (como o chat do gmail, scroll infinito, botão de curtir do Facebook e sistema de sugestões do YouTube) e contribuíram de alguma forma para pensar o funcionamento e crescimento técnico e comercial das startups.


Você é o produto

 

Como os algoritmos funcionam
Como os algoritmos funcionam (foto: Netflix/Reprodução)


Reconhecendo as contribuições trazidas pela tecnologia, o documentário tem o viés de destacar o outro lado da moeda, menos conhecido do grande público. Mostrando que há um preço (pago pelo tempo, engajamento, exposição e consumo indireto) na gratuidade dos benefícios oferecidos aos usuários. O novo modelo de negócio no meio digital foi conceituado e nomeado pela acadêmica Shoshana Zuboff, em 2015, de 'capitalismo de vigilância em um artigo científico (em inglês) e no livro, em 2018.

“Se você não está pagando pelo produto, você é o produto”, resume Tristan Harris ex-designer da Google e presidente do Centro para Tecnologia Humanizada. Segundo Harris e os companheiros de profissão, a transação comercial que ocorre entre as plataformas digitais e os anunciantes é o que torna as empresas de tecnologia e informação as mais lucrativas da história. Além disso, Shoshana Zuboff explica que o negócio das startups é vender certeza de sucesso para os anúncios, uma vez que direcionam o público mais suscetível ao consumo de determinado setor. E para isso, “precisam de muitos dados!”.

Harris ainda levanta outras duas questões: uma sobre quem desenvolve as redes e outra como usuários recebem informações que estão a um toque de distância: “Nunca antes na história, 50 designers, homens, brancos entre 20 a 35 anos, da Califórnia, tinham tomado decisões que impactassem dois bilhões de pessoas”, apontou.

Algoritmo ilustrado

Ben é guiado por inteligências artificiais na presença on-line.
Ben é guiado por inteligências artificiais na presença on-line. (foto: YouTube/Reprodução)

 

Para traduzir a linguagem técnica do sistema algorítmico para leigos, a produção optou por uma narrativa ficcional que traz, como recorte, a rotina de uma família estadunidense. O personagem Ben (Skyler Gisondo) é um adolescente ativo nas redes sociais, e que não pensa estar suscetível a tecnologia, como a mãe alerta. A irmã mais nova, também entra em cena para ilustrar a necessidade de aprovação e reforço positivo nas redes, incentivados cada vez mais cedo.

Na trama, a inteligência artificial (Vincent Kartheiser), responsável por conduzir a atenção e os interesses de Ben nos aplicativos, é dividida em três personagens que tomam forma humana. Cada um exerce uma função do sistema, lançando notificações, sugestões de conteúdos e novas amizades, e outros elementos do off-line que podem influenciar na presença on-line. Entretanto, também mostra o contrário: o que visto on-line pode pautar e ter impactos diretos na vida off-line.

O diretor acadêmico da Digital House Brasil, Edney “Interney” Souza, afirma que o objetivo principal da análise e processamento deste grande volume de informações é entender, da forma mais precisa, o que mobiliza o interesse do usuário e o quão suscetível ele está para adquirir informações, produtos e serviços. “Eu (o sistema) quero deduzir quais serão os seus movimentos futuros, em pontos muito específicos. É possível te convencer a ir em um evento? A comprar algum produto? A ficar mais tempo nesta plataforma?”.

Acessando as ferramentas de interatividade com os assuntos e publicações, as pessoas mobilizam os cálculos de engajamento.“Ele interage com os conteúdos. Isso ajuda a entender o que mais chama a atenção e a configurar os algoritmos para mostrar mais daquele tipo de conteúdo. (Ou ainda) mostrar com mais frequência as pessoas com quem você troca informação e que mais te interessam, de tal forma que a plataforma te vicia. Você sempre quer voltar, porque ela vira o canal de contato com o que você gosta e fonte de informação para coisas do seu interesse. É assim que o usuário contribui”, explica Edney.

Sobre isso, os entrevistados contam como também se tornaram dependentes dos dispositivos e recursos que ajudaram a desenvolver, e se preocupam com a capacidade humana de lidar com esses mecanismos. “Ao criar o botão de curtir, nossa motivação era: ‘podemos espalhar positividade e amor no mundo?’. A ideia de que mais para a frente isso causaria depressão nos adolescentes, quando não tivessem curtidas suficientes ou que poderia levar a polarização política, não estava no nosso radar”, explica Justin Rosenstein, ex-engenheiro no Facebook e criador do botão de ‘curtir’.

Polarização e fake news

"Aquela notícia falsa no Twitter se espalha seis vezes mais rápido do que noticias verdadeira", disse Tristan Harris.
"Aquela notícia falsa no Twitter se espalha seis vezes mais rápido do que noticias verdadeira", disse Tristan Harris. (foto: YouTube/Reprodução)

 

Após explicar o modelo de negócio para monetização e o funcionamento do algoritmo, o filme passa a abordar alguns dos principais efeitos sociopolíticos da era digital: a difusão de notícias falsas e a imersão nas bolhas ideológicas. O documentário aponta que a polarização, a propagação de discursos extremistas e fake news nas redes, e a interferência eleitoral são resultado de uma séria limitação do sistema: o algoritmo não se baseia na qualidade do conteúdo, mas no nível de engajamento da publicação. Além disso, os mesmos conteúdos são reforçados, mostrando apenas opiniões convergentes, o que dificulta o debate democrático nesse espaço.

O caso Cambridge Analytica é comumente revisitado como exemplo grave desse direcionamento de publicidade para alvos mais suscetíveis, nesse caso a propaganda política. Revelado em março de 2018, o escândalo, envolvendo o Facebook e a empresa britânica, consistiu no uso de dados, sem consentimento e portanto criminoso, dos usuários da rede social pela empresa e influenciou os resultados de mais de 40 processos eleitorais. Entre eles, são citadas no documentário, as eleições de Trump nos EUA, e do presidente Jair Bolsonaro, no Brasil.

“Temos visto muitos conflitos sociais acontecendo em função da polarização, que envolve não somente os debates de esquerda e direita, como se costuma nomear os espectros políticos, mas envolve também as questões raciais, de gênero, e outros conflitos de grupo. Essas bolhas começam a perceber o outro grupo como perigoso e antagônico”, destaca o diretor da Digital House Brasil.

Ele também argumenta que, neste cenário, não há aprofundamento do debate para chegar a soluções coletivas e, que é necessário promover educação e cultura também para o ambiente virtual. 

Regulamentação: Ética x legal

Os ex-funcionários admitem terem sido parte do problema, ainda que de forma não intencional. Por isso, propuseram a implementação da responsabilidade ética e a regulamentação. “Não os vejo com salvadores, vejo muita gente arrependida, pessoas que já foram parte do problema. Que bom que hoje elas tentam ser parte da solução. A indústria tem problemas éticos? Sem dúvida. Mas não são problemas legais. Porque não há leis prevendo crime no que é feito nestas empresas. É um dilema ético, sim, porque redefine os conceitos de privacidade”, diz Edney, que explica que os dados colhidos são analisados em grandes volumes, e a partir deles criados processos automáticos. 

Ainda que ainda não seja um texto convidativo para a era da velocidade, vale lembrar que as empresas também disponibilizam termos de uso e política de privacidade, no qual especificam sobre o que os usuários estão abrindo mão ou para que estão dando permissão. Ainda assim, algumas regras estão sendo oficializadas para contornar as brechas no sistema, incentivar autonomia ao usuário e prevenir casos como o Cambridge Analytica, reforçando a regulamentação e fiscalização.

Baseada na lei europeia, em vigor desde 2018, a Lei Geral de Proteção de Dados (LGPD) começou a ser implementada no Brasil este ano. “Ambas as legislações definem que os usuários devem ter acesso aos próprios dados na plataforma e ter liberdade de deletá-los. Ele pode permitir, ter clareza sobre o que vai ser feito e decidir se quer que se faça ou não. Meus dados serão utilizados para definir quais propagandas vão ser direcionadas a mim, então a plataforma tem que deixar isso claro”, explica o diretor acadêmico.


Bem-estar digital

  • Termos e privacidade do Google
    Termos e privacidade do Google Google/Reprodução
  • Termos atualizados do YouTube
    Termos atualizados do YouTube YouTube/Reprodução
  • Botões de gerenciamento de notificações e sugestões do YouTube
    Botões de gerenciamento de notificações e sugestões do YouTube YouTube/Reprodução
  • Verificação de privacidade
    Verificação de privacidade Facebook/Reprodução
  • Política de dados no Facebook
    Política de dados no Facebook Facebook/Reprodução
  • Termos de serviço do Twitter
    Termos de serviço do Twitter Twitter/Reprodução
  • Em 2018, Apple e Google atualizaram seus sistemas operacionais móveis, iOS e Android, com uma ferramenta que informa ao usuário como ele usa o dispositivo.
    Em 2018, Apple e Google atualizaram seus sistemas operacionais móveis, iOS e Android, com uma ferramenta que informa ao usuário como ele usa o dispositivo. Android/Reprodução

Os especialistas e críticos concordam que, apesar de ser um recorte da realidade, o filme contribui trazendo perguntas e inquietações para que, a partir delas, o público debata, busque informações e reflita sobre a ocupação do espaço digital. Para isso, o Correio listou algumas sugestões de como gerenciar a experiência com as plataformas e utilizar melhor as facilidades. Confira:

Em caso de dúvidas, Ctrl+f nos termos de uso e política de privacidade:
Ao instalar um aplicativo ou adentrar um site, o usuário normalmente quer agilidade no acesso. Com isso, o processo de aceitar termos de uso, ou cookies, é automático e instantâneo, e não consiste na leitura do longo texto. Entretanto, é importante saber como esse processo funciona, o que muda e quais são suas opções quando precisar gerenciar seus dados no Twitter, Instagram, Facebook, YouTube, contas de e-mail, buscadores, e websites. Caso não queira ler o texto todo, a busca por palavras-chave pode ajudar.

Gerenciar as notificações e sugestões
Quando não gerenciadas pelo próprio usuário, as notificações podem ser distrativas e tentadoras. Nos aplicativos mais usados pelos brasileiros, YouTube, Facebook, WhatsApp, Instagram e Twitter, e outros, é possível gerenciar que tipos de notificações deseja receber e quais deseja desativar. O benefício é o de autonomia para as escolhas, e diversidade, dos conteúdos, o que gera impacto na configuração do algoritmo.

Gerenciar tempo
É uma hábito, mas também é um recurso. Esse recurso está  presente nas plataformas para mobile, algumas delas apenas mostra quanto tempo o usuário passa na plataforma, outras permitem que você crie notificação para um tempo limite que deseja passar nesses espaços. O usuário também pode colocar alarmes no celular.

Seguir assuntos e perfis diversificados
A polarização é um dos fortes efeitos colaterais potencializado pela forma como as redes selecionam, e usuários propagam as informações, e pode levar a extremismos, impasses e prejudicar democracia. Esse é um problema estrutural, mas é utilizado como estratégia para distorcer informações. Conhecer e se expor a diversos temas e opiniões contribui para uma visão ampliada da realidade e por consequência estar menos suscetível a conteúdos falsos ou adulterados.

Denunciar conteúdos impróprios
O usuário pode contribuir para diminuir as (ocasionais) limitações do algoritmo, que engaja publicações e páginas apenas pela quantidade de visualizações e interações, e não pela qualidade da publicação. Para isso, é possível denunciar conteúdos que tenham cunho não humanitário, sensacionalista, extremista, preconceituoso e violento. As plataformas contam com alguns filtros, mas o julgamento ainda não é totalmente eficiente.

Procurar outras fontes de informação e questionar
Para as pesquisas ou informações recebidas, é importante procurar mais de uma fonte (perfis e sites oficiais ou especialistas e fontes off-line). Também vale para o processo prévio ao de compartilhar algo ou ser influenciado digitalmente. É importante refletir sobre como, por que e com que frequência alguns conteúdos estão sendo expostos nesses espaços. E, caso queria, pode diversificá-lo indo atrás de novos assuntos .

Reflita como se sente em relação ao dispositivo e às plataformas
A autorreflexão é sempre importante, mas no contexto das redes sociais pode contribuir para entender o quanto o uso desse espaço pode estar sendo responsável por consequências psicológicas, e evitar a dependência.

*Estagiária sob supervisão de Adriana Izel

Os comentários não representam a opinião do jornal e são de responsabilidade do autor. As mensagens estão sujeitas a moderação prévia antes da publicação