É impressionante como tantos já viram O Dilema das Redes, o filme da Netflix sobre redes sociais e seus impactos nas pessoas e na sociedade em geral. Mas é bom levar em conta que o problema das redes sociais não cabe num filme. As redes sociais e seus algoritmos de recomendação não estão isentas da responsabilidade por alguns dos ambientes mais ácidos que há na internet. Mas não podem ser confundidas com a rede. Em parte, é o que o filme faz, de certa forma desinformando e, aí, sofrendo do mesmo problema das redes.
As redes que usamos no Ocidente, como o Facebook e o YouTube, são uma criação de um tipo de investimento de risco, aliado a uma visão de mundo onde poucas empresas vencem a disputa pelo mundo em rede. De muitas formas, o capital criou e encontrou o trabalho para tal: empreendedores, colaboradores e influenciadores criaram um universo ao redor da atenção digital, que tem pouca relação com qualquer coisa que existia antes.
Apagar a conta das redes sociais não é solução e não ocorrerá em escala. O que precisamos é tratar é o conjunto de problemas associados à isenção, transparência e responsabilização de algoritmos e da regulação de certos mercados em rede – e disso pouca gente fala ou quer falar. Há uma questão essencial sobre algoritmos de recomendação em plataformas digitais: há, neles, papel editorial, escolhendo o que se lê, vê, consome? Se esse é o caso, a plataforma em questão deve ser tratada com as mesmas regras de sistemas editoriais como jornais e TV.
Para resolver uma parte dos problemas, seria necessário discutir uma ética para mediação. Os algoritmos estão se tornando a base dos processos de tomada de decisão em sociedades da informação. O espectro de preocupações aí envolvido é muito mais amplo do que o visto no filme – que por sinal nos é trazido por uma plataforma que usa e depende de algoritmos de recomendação para ordenar as ofertas de conteúdo aos seus usuários.
Esta mesma classe de algoritmos que sugere filmes toma outras decisões mais graves sobre as pessoas. No Judiciário, decide o risco que um cidadão representa. Será justo? Depende – inclusive do sistema social onde isso acontece. Certo é que sem transparência e mecanismo de responsabilização dos algoritmos, não é justo, nem está certo.
Vivemos o início de uma era onde código executável define contextos, modifica comportamentos e cria problemas que eram ficção até poucos anos. Seria muito bom se aprendêssemos a refletir sobre o futuro da sociedade da informação – e sem a pressa e falta de cuidado que vimos, por exemplo, na discussão sobre a Lei das Fake News. Aliás, está aí uma ocasião que um bom algoritmo de recomendação do futuro não mostrará a ninguém que queira aprender como leis devem ser discutidas.
É PROFESSOR EXTRAORDINÁRIO DA CESAR.SCHOOL, FUNDADOR E PRESIDENTE DO CONSELHO DO PORTO DIGITAL E CHIEF SCIENTIST NA TDS.COMPANY
Os comentários são exclusivos para assinantes do Estadão.
