Erros Bizarros: TikTok Desativa Recurso de IA Após Descrições Absurdas

O TikTok está desativando um recurso de inteligência artificial que gerou erros grosseiros em vídeos, associando pessoas e situações a objetos e cenas que não tinham relação com o conteúdo exibido.

O Que Aconteceu

O sistema, chamado de "AI overviews", funcionava como um resumo gerado automaticamente para contextualizar o que aparecia nos vídeos, mas produziu descrições sem qualquer relação com as imagens. Por exemplo, um vídeo da influenciadora Charli D'Amelio foi descrito como "uma coleção de mirtilos variados com diferentes coberturas".

Reações e Consequências

O recurso estava disponível para um grupo restrito de usuários nos Estados Unidos e em alguns outros mercados, e após as reclamações dos usuários, foi reformulado. A versão atual se limita a identificar produtos que aparecem nos vídeos, sem tentar descriver o conteúdo completo da cena.

Lições Aprendidas

Os erros registrados lembram episódios semelhantes vividos por outras empresas, como o Google, que lançou seu próprio "AI Overviews" e o sistema afirmou, com confiança, que um cachorro havia jogado na NHL. Isso mostra que a inteligência artificial ainda tem muito a aprender e melhorar.

Conclusão

A desativação do recurso de IA do TikTok é um lembrete de que a tecnologia ainda está em desenvolvimento e que é importante testar e avaliar cuidadosamente as ferramentas antes de liberá-las ao público. Segundo o Porto Tech, "a tecnologia é uma ferramenta poderosa, mas é importante usá-la com responsabilidade e cuidado".