Algoritmos novamente na berlinda: regular ou liberar?

O debate sobre os limites, benefícios e riscos no uso de algoritmos voltou com força às manchetes. Há cerca de um mês, entrou em vigor na China a regulamentação sobre as recomendações baseadas em algoritmos. Na semana passada, foi a vez do milionário Elon Musk voltar às manchetes defendendo o uso de algoritmo com código aberto ao fazer uma oferta pela compra do Twitter. Há dois dias, a União Europeia (UE) chegou a um acordo sobre a legislação para uso de algoritmos pelas gigantes de tecnologia.

O diretor-presidente da Tesla surpreendeu a todos ao fazer uma oferta e comprar o Twitter por de US$ 44 bilhões. Seguindo seu estilo polêmico, anunciou seu plano de “desbloquear o extraordinário potencial da plataforma” abrindo os códigos dos algoritmos e permitindo que os posts sejam editados por qualquer usuário. Embora ninguém saiba como ele pretende fazê-lo nem as consequências exatas disso, o assunto logo entrou nos trending topics, com milhares de posts e memes.

Na direção oposta, os legisladores da União Europeia chegaram a um acordo sobre a nova regulação de conteúdo nas plataformas digitais. O Ato de Serviços Digitais (ou Digital Service Act – DSA, em inglês) determina que as gigantes de tecnologia terão que abrir seus algoritmos para os reguladores. Caso não o façam, poderão ser multadas. Os especialistas consideram essa a resposta da UE ao fracasso das big techs no combate ao conteúdo ilegal em suas plataformas. O acordo, que ainda precisa ser assinado pelos 27 países membros, entrará em vigor em 2023.

Há algumas semanas, foi a China que aditou uma regulamentação sobre recomendações baseadas em algoritmos. As novas regras também determinam que as empresas expliquem o funcionamento de seus algoritmos ao fazerem recomendações aos usuários, promoverem conteúdo, ofertas, serviços e preços.

A nova legislação estabelece, por exemplo, a possibilidade de o usuário optar por não receber recomendações feitas por algoritmos, deixando de receber publicidade ou conteúdo personalizado.

A regulação sobre algoritmos é um desafio global. Embora esteja longe de um consenso, muitos legisladores e especialistas defendem a necessidade de estabelecer limites para evitar que a tecnologia alimente vícios no uso de serviços, compras compulsivas pela internet, práticas inadequadas para crianças, perfis falsos, fake news e comportamentos abusivos de empresas que detêm fatias muito grandes do mercado. Por outro lado, há a preocupação em não inibir a inovação, os investimentos e a geração de valor num setor crucial para a economia e para a sociedade.

Regular algumas das novas tecnologias, como os algoritmos, não é tarefa fácil e as primeiras medidas terão que ser acompanhadas para avaliar seus impactos no mercado. Em termos gerais, os algoritmos devem seguir os mesmos princípios de qualquer negócio, como ética e transparência.

“Um aspecto pouco evidente nas discussões e decisões é que algoritmos são sistemas tão complexos que muitas vezes é difícil até mesmo para as empresas de tecnologia explicar a lógica pela qual o software seleciona um ou outro conteúdo”, explica Arie Halpern, especialista em tecnologias disruptivas.

A aprendizagem de máquina é uma forma muito sofisticada de reconhecimento de padrões. Um programa de computador não pode dizer se um tweet específico é engraçado, interessante ou valioso. Mas ao avaliar milhões de tweets e aspectos como quantos gostaram, compartilharam e retuítaram, pode identificar quais tweets provavelmente chamarão a atenção.