TikTok marca automaticamente conteúdos: inteligência artificial gerativos (Deepfakes, enganosos) usando Firefly e Dall-E. Ferramentas de detecção e classificação invisíveis para imagens.
Diante do avanço acelerado da tecnologia de inteligência artificial generativa e das crescentes preocupações com desinformação online e deepfakes, o TikTok implementará a rotulagem automática de conteúdos criados por inteligência artificial para garantir transparência e autenticidade na plataforma, valores essenciais para a comunidade do TikTok.
Essa iniciativa visa fortalecer a confiança dos usuários ao identificar de forma clara os conteúdos gerados por IA, reforçando a importância da inteligência e da autenticidade na era da tecnologia artificial.
Inteligência Artificial: Novas Fronteiras e Desafios
Plataformas como TikTok, Meta, X e YouTube têm explorado o uso de IA generativa para oferecer novas ferramentas e recursos aos usuários, mas também encaram o desafio de lidar com conteúdo gerado por IA de baixa qualidade e os potenciais abusos, como deepfakes enganosos, principalmente no atual período eleitoral no Brasil, Estados Unidos e outras partes do mundo.
Nesse sentido, o TikTok anunciou ontem (9) a adesão a uma coalizão com a OpenAI e Adobe para incorporar credenciais de conteúdo em produções feitas por inteligência artificial. Essa medida irá abranger conteúdos criados a partir da ferramenta Firefly da Adobe, os geradores de imagens do TikTok e o Dall-E da OpenAI.
Artigos Relacionados
A iniciativa, que reforça o compromisso das empresas para enfrentar os desafios impostos pelas novas tecnologias, promete garantir a autenticidade do conteúdo.
No mesmo sentido, recentemente a Meta anunciou que marcará conteúdos gerados por inteligência artificial com o selo ‘Made by AI’ (do inglês, ‘Feito por IA’), que funciona por meio da detecção de marcadores invisíveis colocados pelas gigantes da tecnologia, como Adobe, Microsoft, Midjourney, Google, OpenAI e outras.
A empresa de Mark Zuckerberg também está desenvolvendo um sistema que detecta e classifica deepfakes. Apesar dos esforços contínuos das empresas, é importante reconhecer que a detecção e marcação de conteúdos gerados por IA é um campo em constante evolução, e que atores mal-intencionados podem buscar maneiras de contornar essas medidas.
Desafios e Inovações na Era da Inteligência Artificial
A inteligência artificial tem se destacado cada vez mais no cenário tecnológico, impulsionando a criação de ferramentas e recursos inovadores em plataformas como TikTok, Meta, X e YouTube. No entanto, junto com os benefícios surgem desafios, como a proliferação de deepfakes enganosos, especialmente durante períodos eleitorais em países como Brasil, Estados Unidos e outros.
Diante desse cenário, o TikTok anunciou sua parceria com a OpenAI e Adobe para implementar credenciais de conteúdo em produções feitas por inteligência artificial. Essa iniciativa abrangerá conteúdos gerados pela ferramenta Firefly da Adobe, os geradores de imagens do TikTok e o Dall-E da OpenAI.
A Meta, por sua vez, adotou a prática de marcar conteúdos produzidos por IA com o selo ‘Made by AI’, utilizando detecção de marcadores invisíveis fornecidos por empresas como Adobe, Microsoft, Midjourney, Google, OpenAI, entre outras.
Além disso, a empresa de Mark Zuckerberg está investindo no desenvolvimento de um sistema de detecção e classificação de deepfakes. Apesar dos avanços, é fundamental reconhecer que a detecção e marcação de conteúdos gerados por IA é um campo em constante evolução, sujeito a tentativas de contorno por parte de indivíduos mal-intencionados.
Fonte: @ Ad News
Comentários sobre este artigo