Investigação revela esquema de venda de drogas usando narração de IA

Uma investigação da Business Insider descobriu mais de 200 podcasts falsos no Spotify que anunciam abertamente a venda de opioides e outras drogas controladas. Os conteúdos, muitos com apenas 10 segundos de duração e narrados por inteligência artificial, direcionam ouvintes para sites que se passam por farmácias online, onde medicamentos são vendidos sem a exigência de receita médica, agravando a já preocupante crise dos opioides nos Estados Unidos.

Como funcionam os podcasts falsos

O esquema identificado pela Business Insider utiliza uma abordagem simples, mas eficaz para burlar os sistemas de moderação do Spotify. Os criadores publicam episódios extremamente curtos, geralmente com cerca de 10 segundos, utilizando vozes geradas por inteligência artificial para narrar mensagens diretas sobre a venda de medicamentos controlados.

“Esses podcasts são criados especificamente para aparecerem nos resultados de busca de pessoas que procuram por termos relacionados a medicamentos específicos”, explica Ricardo Martins, especialista em segurança digital. “Uma vez que o usuário encontra o podcast, ele é direcionado através da descrição do episódio ou do próprio áudio para sites fraudulentos.”

A CNN, que também investigou o caso após a denúncia inicial, conseguiu encontrar facilmente esses conteúdos usando a ferramenta de busca do aplicativo, mesmo depois de o Spotify ter iniciado a remoção de parte dos podcasts identificados pela Business Insider.

Os sites para os quais os ouvintes são direcionados se passam por farmácias online legítimas, mas vendem medicamentos controlados sem exigir receita médica. Entre os produtos anunciados estão opioides como oxicodona, hidrocodona e fentanil, substâncias altamente viciantes e responsáveis por milhares de mortes por overdose anualmente nos Estados Unidos.

Falhas na moderação de conteúdo

O caso levanta sérias questões sobre a eficácia dos sistemas de moderação do Spotify, especialmente considerando a natureza relativamente simples dos conteúdos fraudulentos. Especialistas apontam que a detecção de episódios curtos com narração artificial deveria ser uma tarefa relativamente simples para algoritmos de moderação.

“É surpreendente que conteúdos tão obviamente problemáticos consigam passar pelos filtros de uma plataforma do porte do Spotify”, comenta Carla Mendes, consultora em governança digital. “Episódios de 10 segundos com padrões de narração artificial e termos relacionados a medicamentos controlados deveriam acionar alertas automáticos.”

Após ser notificado sobre a investigação, o Spotify iniciou a remoção dos podcasts identificados, mas a CNN constatou que novos conteúdos similares continuavam surgindo na plataforma. Isso sugere uma abordagem reativa, em vez de preventiva, para lidar com o problema.

“As plataformas digitais geralmente operam em um modelo de moderação baseado em denúncias, o que é insuficiente para conter problemas como este”, explica Paulo Santos, professor de direito digital. “Um sistema proativo de detecção deveria identificar e bloquear esse tipo de conteúdo antes mesmo de ele ser publicado.”

Contexto da crise dos opioides

A venda ilegal de opioides através de plataformas digitais agrava uma crise de saúde pública que já dura décadas nos Estados Unidos. O que começou como um problema de prescrição excessiva de analgésicos se transformou em uma epidemia de dependência química, com consequências devastadoras.

Segundo dados do Centro de Controle e Prevenção de Doenças (CDC), mais de 500 mil americanos morreram de overdose relacionada a opioides entre 1999 e 2024. Somente em 2024, foram registradas aproximadamente 80 mil mortes por overdose no país, com opioides envolvidos em cerca de 75% dos casos.

“A facilidade de acesso a esses medicamentos sem supervisão médica é um dos principais fatores que alimentam a crise”, afirma a Dra. Luciana Oliveira, especialista em dependência química. “Quando plataformas populares como o Spotify são utilizadas para promover a venda ilegal dessas substâncias, o problema se agrava significativamente.”

A crise dos opioides não se limita aos Estados Unidos. No Brasil, autoridades de saúde têm observado um aumento preocupante no uso não médico de opioides, especialmente entre jovens. A Agência Nacional de Vigilância Sanitária (Anvisa) intensificou o controle sobre esses medicamentos nos últimos anos, mas a venda ilegal pela internet continua sendo um desafio.

Responsabilidade das plataformas digitais

O Spotify, assim como outras plataformas digitais, se isenta da responsabilidade civil pelo conteúdo criado por usuários em seus termos de uso. Nos Estados Unidos, essa posição é respaldada pela Seção 230 do Communications Decency Act, que protege as plataformas de serem responsabilizadas pelo conteúdo de terceiros.

“A Section 230 foi criada para proteger a inovação na internet, mas tem sido usada como escudo por empresas que não investem adequadamente em moderação de conteúdo”, explica Santos. “No entanto, isso não isenta as plataformas da responsabilidade ética de proteger seus usuários.”

No Brasil, a situação é semelhante. O Marco Civil da Internet (Lei 12.965/2014) estabelece que provedores de aplicações só podem ser responsabilizados por conteúdos de terceiros se não removerem o material após ordem judicial específica.

Especialistas defendem uma revisão dessas proteções legais, argumentando que as plataformas deveriam ter maior responsabilidade pelo conteúdo que hospedam, especialmente quando envolve atividades potencialmente letais como a venda ilegal de medicamentos controlados.

“É necessário um equilíbrio entre liberdade de expressão e segurança pública”, defende Mendes. “Plataformas com bilhões de usuários têm recursos para implementar sistemas de moderação mais eficazes, especialmente para conteúdos claramente ilegais.”

Medidas de prevenção e conscientização

Para os usuários, é importante estar atento a sinais de podcasts potencialmente fraudulentos, como:

• Episódios muito curtos (menos de um minuto)
• Narração que soa artificial ou robótica
• Descrições com links para sites externos de venda de medicamentos
• Promessas de medicamentos controlados sem necessidade de receita
• Ausência de episódios regulares ou de um histórico consistente

Especialistas recomendam denunciar imediatamente conteúdos suspeitos às plataformas e, se necessário, às autoridades competentes. No Brasil, denúncias podem ser feitas à Anvisa e à Polícia Federal, que investigam crimes relacionados à venda ilegal de medicamentos controlados.

“A conscientização dos usuários é fundamental, mas a responsabilidade principal deve ser das plataformas”, conclui Martins. “Empresas como o Spotify precisam investir mais em sistemas proativos de detecção e remoção de conteúdos potencialmente perigosos.”

O Spotify foi procurado para comentar o caso e informou que “está trabalhando continuamente para melhorar seus sistemas de detecção de conteúdo que viola suas diretrizes”. A empresa também afirmou que “remove imediatamente qualquer podcast identificado como meio para atividades ilegais”.

Última atualização: 19 de maio de 2025