Sirius

Sobre a autonomização das plataformas digitais, a liberdade de recusa e a construção de uma infraestrutura digital aberta.

Reportagens como a de Luciana Marschall e Pedro Prata, para o “Estadão Verifica” — Sri Lanka: contas lucram com polarização brasileira e usam IA para massificar produção de posts reforçam a importância de nos engajarmos contra as condições às quais estamos submetidos em certos ambientes digitais.

Descobrimos que um jovem morador de Colombo, no Sri Lanka, que sequer sabe falar português, sem qualquer inclinação ou interesse nos rumos políticos do Brasil, mantinha páginas no Facebook, postando conteúdos enganosos, gerados por IA, exaltando o clã Bolsonaro e até mesmo algumas exaltando Lula, com o único propósito de gerar renda por meio do programa de recompensa por criação de conteúdo da Meta.

Isso ocorre porque a remuneração que o Facebook paga pelas visualizações e cliques é maior para os conteúdos criados para o Brasil do que em relação aos conteúdos criados para o Sri Lanka.

Natalia Vianna, da Pública, sintetizou a questão ao analisar a reportagem:

Quem mais paga e quem mais lucra com a desinformação, seja sobre um golpe localizado mirando velhinhos, seja sobre um candidato da República, são elas (As Big Techs). É essa a resposta, pura e simples.

Sem me estender sobre as crises e prejuízos sociais já produzidos ou amplificados por essas plataformas, quero me concentrar em um fenômeno específico: a autonomização das instituições criadas pela atividade humana.

Quando refletia sobre o fenômeno do bolsonarismo, pensava que estávamos diante de um movimento político que mostrou um grande domínio das redes sociais, bem como uma sofisticadíssima propaganda e capacidade de canalizar e alimentar os ressentimentos de uma sociedade segregacionista, falsa moralista, sofrendo principalmente com questões de segurança pública. Parecia-me uma engenharia política cuidadosamente elaborada para dialogar tanto com parcelas das classes subordinadas quanto com setores das elites econômicas brasileiras.

Todavia, hoje desconfio que talvez não seja o caso de engenheiros políticos dominando as redes com maestria, mas um domínio da arquitetura das plataformas digitais sobre a política.

Vejamos Renato Lessa, em seu ensaio chamado Homo Bolsonarus, que descreve como a instituição do libertarismo bolsonarista (um animal artificial oposto ao Leviatã Estatal ou a outras formas normativas racionais), promove o descolamento da sociedade do marco normativo estatal, em um movimento oposto ao fascismo histórico ou ao republicanismo brasileiro pós 1930:

Não se trata de pôr a sociedade dentro do Estado, mas de devolver a sociedade ao estado de natureza; de retirar da sociedade os graus de “estatalidade” que ela contém, para fazer com se aproxime cada vez mais de um ideal de estado de natureza espontâneo: um cenário no qual as interações humanas são governadas pelas vontades, pelos instintos, pelas pulsões, e no qual a mediação artificial é mínima, ou mesmo inexistente.

Poucas coisas expressam melhor esse cenário de interação governada por vontades, instintos e pulsões do que a lógica algorítmica da indústria da atenção. São as relações sociais objetivadas nessas plataformas, por meio da recompensa a conteúdos que mobilizam sentimentos mais viscerais e enganosos, que favorecem o florescimento de formas de política como o bolsonarismo.

Nisso consiste a autonomização das instituições: as redes sociais deixam de funcionar como meros instrumentos e se tornam estruturas dotadas de uma lógica própria, à qual os indivíduos precisam continuamente adaptar suas condutas, da mesma forma como Marx descreve o mercado, o dinheiro e o capital como formas sociais que adquirem autonomia relativa diante dos próprios indivíduos. A política, a comunicação, o trabalho, os empresários e os governos estão cada vez mais submetidos à lógica algorítmica das plataformas digitais de propriedade capitalista.

Ser parte das engrenagens de instituições como a bolsonarista, portanto, não é apenas uma questão de ideal ou de compromisso político. Também envolve a reprodução da própria vida material: uma atividade voltada à obtenção de sustento.

A ideia de que as plataformas seriam um instrumento neutro que também pode ser utilizado para boas ações, como, por exemplo, organização social e atividades proveitosas em grupos, também esbarra na lógica do lucro para a qual foram desenhadas, diante do fato de a moderação e o combate ativos contra usos inadequados serem dispendiosos e trabalhosos para as corporações proprietárias. Assim, por mais que exista empenho institucional para regulamentar as redes, tais redes frequentemente resistem ao cumprimento das regulamentações, como se estivessem acima das legislações domésticas dos países.

Recentemente, a Meta foi condenada por uma Corte estadual do Novo México, nos Estados Unidos, a pagar US$ 567 milhões e a alterar o funcionamento de suas plataformas para jovens, após a Justiça considerar que a empresa havia adotado práticas de design que contribuíam para o uso viciante por jovens e falhado na proteção de crianças contra danos em suas plataformas.

No Brasil, uma adolescente de 13 anos em Naviraí/MS foi induzida a transmitir ao vivo atos de automutilação e o próprio suicídio em um servidor da plataforma do Discord, para dezenas de pessoas. Isso levou o Advogado-Geral da União a afirmar que vai ajuizar uma ação civil pública contra o Discord, requerendo a responsabilização e a retirada da plataforma no Brasil por não cumprir as regras de verificação de idade previstas no ECA Digital e nem as recentes alterações no Marco Civil da Internet. O Telegram também está sendo investigado e acusado pelo Ministério da Justiça pelo descumprimento das normas, por não adotar medidas para impedir a circulação de conteúdos criminosos compartilhados em grupos abertos.

Não se pode, portanto, atribuir esses problemas tão somente aos indivíduos, mas também às próprias escolhas de desenho, aos mecanismos de proteção e aos incentivos das plataformas. Hans Jonas, em sua obra “O Princípio da Responsabilidade”, argumentava que a tecnologia moderna não é um instrumento neutro que depende exclusivamente da vontade dos indivíduos que a utilizam, pois cria novas formas de poder que alteram profundamente a relação entre os seres humanos e a experiência vivida, produzindo riscos de grande escala. A responsabilidade, portanto, não pode ser pensada apenas em relação ao uso individual dos instrumentos, mas também em relação às estruturas que eles produzem e aos comportamentos que passam a induzir.

A lógica estrutural dessas plataformas tende a capturar e instigar comportamentos capazes de maximizar a retenção e, consequentemente, o lucro. A presença massiva de brasileiros nesses ambientes significa submeter parcela expressiva da sociabilidade nacional a uma estrutura que, embora possa contribuir em alguma medida para usos socialmente benéficos, como o aprimoramento da inteligência social, do discurso público franco e da divulgação científica, oferece incentivos econômicos muito mais fortes à exploração do medo, do ódio, da fabricação de inimigos existenciais e de outras pulsões autodestrutivas.

Ações de Recusa e Construção

Não estamos, todavia, fadados a nos adequar a esferas digitais de convívio social que não foram projetadas por nós mesmos e acabam por incentivar e lucrar com uma fragmentação na comunicação pública, criando bolhas dentro de seus ambientes.

Infelizmente, não é um processo fácil. As redes sociais não começam a oferecer seus serviços repletas de propagandas de Bets, vendendo verificação, monetizando e incentivando discursos de neonazistas ou privilegiando a disseminação de desinformação por seus algoritmos. A arquitetura dessas redes compreende que os seres humanos desenvolvem hábitos e relações sociais e que, uma vez sedimentadas essas experiências, o ambiente de suas redes se torna mais difícil de ser abandonado. Facebook é o lugar onde muitos amigos e familiares se adicionaram, Instagram se tornou um ponto de encontro de celebridades e pessoas divulgando estilos de vida cativantes, e o antigo Twitter era uma rede muito melhor antes de ser comprado e administrado pelo trilionário incel Elon Musk.

Essas plataformas digitais costumam começar como um agradável jardim murado, atrativo, onde se desenvolve uma sociabilidade proveitosa, até que as regras do jogo comecem a se modificar. Os fortes hábitos e laços afetivos desenvolvidos nesse ambiente permitem às redes submeter seus usuários e criadores de conteúdo, em um momento posterior, a um gradativo processo de maus-tratos, tendo em vista o lucro dos acionistas, processo que Cory Doctorow denominou enshitification (embostificação ou bostificação).

Apenas abandonar tais redes geralmente implica o sentimento de perda de um lar do qual se tem boas recordações e que se tornou tóxico com o tempo. Será que pode melhorar? Será que poderá voltar a ser como antes? Perderei meus contatos, meus seguidores, meus likes, minha turma?

Mas esse sentimento de perda esconde o fato de que a plataforma não é um mundo construído para nós, mas um mundo que nós mesmos construímos dentro de uma esfera de propriedade privada.

A dedicação de tempo e esforço criativo dos usuários nessas redes pode ser descrita como uma das maiores formas contemporâneas de apropriação de trabalho social por grupos privados. Cada meme, cada notícia, cada vídeo, cada foto e cada texto agrega valor à plataforma, enquanto os conteúdos, relações e dados produzidos por essa atividade passam a constituir ativos econômicos que contribuíram para erigir alguns empresários do setor de tecnologia entre os indivíduos mais ricos e poderosos do mundo.

Quando a ausência de moderação eficaz e determinadas formas de extração de lucro das plataformas produzem efeitos destrutivos ao tecido social e entram em conflito com as legislações locais, como no recente caso do Discord, e as autoridades buscam inclusive medidas de bloqueio da rede no território nacional, não é raro observar reclamações de usuários que usam a rede de forma legal, no sentido de que perderão seus contatos, suas relações e atividades da qual dependem inclusive para a sua subsistência financeira.

Mas a causa do problema reside justamente no fato de as plataformas adotarem uma lógica de mercado que produz uma dependência institucional e um estado de natureza digital, que exploram financeiramente. A ausência de portabilidade de identidade, contatos e dados de publicações deve ser compreendida como uma restrição à liberdade dos usuários, uma prática anticompetitiva de retenção de trabalho criativo social, que inclusive serve de instrumentalização da dependência que enraíza em seus usuários contra as autoridades domésticas.

Em outros ramos de atividade econômica isso é impensável. Toda empresa de telefonia que opere no País, por exemplo, é obrigada a fornecer portabilidade de número de linha. Do mesmo modo seria inconcebível uma instituição financeira que se negasse a participar da infraestrutura pública do PIX, ou que retenha para si os investimentos, aplicações e dados dos correntistas, negando a possibilidade de portabilidade e interoperabilidade entre contas de outras instituições financeiras.

Assim, a ação de Recusa exige um processo que vai além dos esforços individuais, demandando institucionalidade estatal; envolve compreender que não precisamos submeter nossas atividades criativas e nossas relações a uma estrutura privada, e que a tecnologia e a interface digital disponibilizadas para essa troca não justificam a apropriação privada do trabalho e das relações que nós mesmos produzimos. Essa lógica se liga aos princípios de interoperabilidade e de portabilidade dos dados e das identidades digitais. Se uma rede social se “embostifica” ao ponto de não haver um mínimo de salubridade, por que se deve admitir que a migração para outra rede importe na perda dos seguidores, do conteúdo criado e das próprias relações construídas, sobretudo quando, muitas vezes, um criador de conteúdo depende de suas redes sociais para garantir a sua subsistência?

Essa institucionalidade estatal, contudo, não significa abandonar os meios digitais e as tecnologias, mas construir novos modelos de institucionalidade e reintroduzir estatalidade como antídoto à lógica de mercado que produz e reproduz esse estado de natureza digital.

Entre as regulamentações que os Estados nacionais discutem, talvez uma das mais relevantes seja a obrigatoriedade da adoção de protocolos abertos que permitam a interoperabilidade entre redes e aplicações, viabilizando a liberdade de migrar a identidade, o conteúdo e as relações construídas. Cabe ressaltar que, em países como o Brasil, isso não é algo inovador, mas um objetivo basilar, embora frequentemente esquecido, da disciplina do uso da internet, conforme se verifica no artigo 4º do Marco Civil da Internet (Lei n. 12.965/2014):

Art. 4º A disciplina do uso da internet no Brasil tem por objetivo a promoção: I – do direito de acesso à internet a todos; II – do acesso à informação, ao conhecimento e à participação na vida cultural e na condução dos assuntos públicos; III – da inovação e do fomento à ampla difusão de novas tecnologias e modelos de uso e acesso; e IV – da adesão a padrões tecnológicos abertos que permitam a comunicação, a acessibilidade e a interoperabilidade entre aplicações e bases de dados.

Um exemplo empírico demonstra que tais princípios não são uma mera possibilidade teórica. No âmbito da Comissão Europeia, o Digital Markets Act (DMA), em seu artigo 7º, estabeleceu obrigações de interoperabilidade para os serviços de mensagem dos chamados gatekeepers – que devem abrir suas redes, possibilitando que outros provedores de serviços de mensagem possam solicitar sua interoperabilidade. A regulamentação já produziu mecanismos de comunicação direta entre diferentes serviços e vem sendo implementada progressivamente, incluindo conversas em grupo e, futuramente, chamadas de áudio e vídeo.

Embora a extensão dessas regras às redes sociais das Big Techs tenha sido considerada prematura pela Comissão Europeia, o debate regulatório aponta para a superação da prática anticompetitiva de estabelecer jardins murados que causam dependência institucional, garantindo aos indivíduos a liberdade de escolher as condições técnicas e institucionais da própria sociabilidade e de não permanecerem presos às plataformas de agentes que descumpram as normas legais de moderação, proteção social da infância e adolescência e combate à desinformação.

É nesse sentido que vêm sendo desenvolvidos protocolos abertos e interoperáveis, como o ActivityPub e o AT Protocol, utilizado pelo Bluesky. O primeiro já sustenta uma rede federada mais madura, embora a portabilidade integral de identidades, conteúdos e relações entre servidores ainda apresente limitações práticas. O segundo foi concebido desde o início com a portabilidade de contas como uma de suas características fundamentais, permitindo migrar uma identidade e seus dados entre diferentes servidores, embora sua arquitetura e seu ecossistema ainda estejam em desenvolvimento. Cabe ressaltar que a própria Meta, sem qualquer obrigação legal, desenvolveu um meio de interoperabilidade parcial entre o Threads e o Fediverso, mostrando a viabilidade técnica de medidas do tipo.

É aqui que fica mais claro o aspecto de Construção da atividade de recusa. Ela não se restringe à construção normativa e jurídica, mas se articula com a investigação, a experimentação e o desenvolvimento tecnológico de protocolos abertos. Por mais que o ActivityPub seja um protocolo mais maduro e descentralizado, o AT Protocol constitui atualmente um importante laboratório experimental: além de ser um protocolo aberto, possui dezenas de desenvolvedores, fora da empresa do Bluesky, criando novas soluções, aplicações e servidores PDS. Essa experimentação revela, na prática, que padrões abertos e interoperáveis para identidades, histórico, posts, contatos e dados não são uma ideia distante, mas uma possibilidade tecnológica concreta.

O Brasil pode e deve dar um passo à frente da União Europeia ao estabelecer a efetivação do art. 4º, IV, do Marco Civil, vedando o cercamento das identidades e determinando que as plataformas sociais adotem um padrão aberto que permita a interoperabilidade e a portabilidade.

Convido vocês, portanto, ao engajamento na construção de uma normatividade pública que caminhe de mãos dadas com o incentivo aos desenvolvedores dos protocolos públicos, abertos e suas aplicações, para que tenhamos mais agência sobre a arquitetura de nossas redes e o nosso debate público deixe de ser moldado pelos incentivos que uma corporação oferece a um jovem do Sri Lanka, que nem sabe o que está em jogo. Trata-se de Soberania Digital, ou, se me permitem, descolonização digital.

---

Comentários e críticas são sempre bem-vindos. Mastodon · Matrix (@sirius:nope.chat)