Descrição
The article outlines the role that AI currently plays in the dynamics of production, distribution and consumption of content on the internet. As user-generated content reaches unprecedented volume, AI emerges as an indispensable tool for creating, filtering, organizing, and evaluating vast amounts of information. However, the continuous emergence of this technology brings significant challenges, including the risk of perpetuating biases and systemic injustices. The paper explains the different impact axes of AI and delves into its use for content moderation on the internet, which is crucial for user safety and protection of human rights. Addressing risks and their mitigation, it presents an overview of the ongoing conversations on the subject, especially as large language models are considered potential allies for internet platforms in their efforts to enforce rules for user-generated content.||O artigo organiza o papel que a IA tem e pode ter sobre a circulação de conteúdos na internet. À medida que a produção de conteúdo gerado por usuários atinge volumes sem precedentes, a IA emerge como uma ferramenta indispensável para criar, filtrar, organizar e avaliar a vasta quantidade de informações. De sua parte, a emergência contínua dessa tecnologia traz consigo desafios significativos, incluindo o risco de perpetuar vieses e injustiças sistêmicas. O trabalho explica os diferentes eixos de impacto da IA e mergulha no seu uso para a moderação de conteúdos na internet, crucial para a segurança de usuários e proteção a direitos. Abordando riscos e formas de proteção e mitigação, expõe um panorama dos debates sobre o tema no momento em que os grandes modelos de linguagem passam a ser considerados como possíveis aliados de plataformas de internet em seu trabalho de aplicar regras para conteúdos gerados por usuários.
