A Administração do Ciberespaço da China está considerando rotular todo o conteúdo criado por inteligência artificial como parte de um novo rascunho de regra. De acordo com relatos, o regulador, que é a autoridade chinesa da internet, já preparou um rascunho de plano solicitando que todas as plataformas digitais e provedores de serviços online adicionem a marca AI ao conteúdo gerado por IA.
Em um anúncio em 14 de setembro, o regulador disse que essa medida padronizaria o processo de identificação de conteúdo gerado por IA e protegeria a segurança nacional e os interesses de indivíduos e organizações que usam as plataformas.
O regulador divulgou um projeto de lei aberto para comentários públicos até 14 de outubro. De acordo com o anúncio, o público pode enviar comentários por e-mail para biaoshi@cac.gov.cn ou por carta para o Network Management Technology Bureau do State Internet Information Office.
Embora os comentários públicos possam impactar o rascunho final das regras, especialistas acreditam que as regras propostas provavelmente seriam aprovadas em sua forma atual, com alterações mínimas, já que as autoridades chinesas não são conhecidas por fazer mudanças drásticas em rascunhos de regras com base em comentários.
As regras do rascunho exigem a adição de logotipos e comandos de voz ao conteúdo de IA
O rascunho da regra propõe que qualquer arquivo de texto, vídeo ou imagem criado por IA deve incluir um logotipo para significar que ele é gerado por IA, notificando efetivamente qualquer um que se depare com tal conteúdo. Para garantir que os usuários notem o rótulo, a regra quer que ele seja exibido no início, no fim e em outros momentos relevantes dentro de um vídeo.
Para arquivos de áudio, os criadores devem adicionar avisos de voz que informem os usuários quando eles estão prestes a ouvir o conteúdo gerado por IA, com tais avisos notificando-os sobre várias partes do conteúdo de áudio. Todos os softwares que reproduzem conteúdo de áudio também seriam obrigados a ter avisos que informassem aos usuários quando eles começassem a ouvir o conteúdo de IA.
O artigo 4º das regras propostas diz:
“Se o serviço de síntese de geração fornecido pelo provedor de serviços se enquadrar no primeiro parágrafo do Artigo 17 do Regulamento sobre a Gestão de Síntese Profunda de Serviços de Informação da Internet, um logotipo explícito deverá ser adicionado ao conteúdo de síntese gerado de acordo com os seguintes requisitos.”
Enquanto isso, o rascunho da regra também exige metadados incorporados em um arquivo para refletir que ele é gerado por IA, tornando possível rotular tal conteúdo. No entanto, onde não há metadados, caberia aos provedores de serviço analisar o conteúdo e rotulá-lo como tal se houver suspeita de que ele seja gerado por IA.
As regras também se aplicam a usuários chineses da internet. Indivíduos que postam conteúdo gerado por IA precisam rotulá-lo. Quando eles usam ferramentas de IA em outras plataformas, a lei proposta exige que eles forneçam suas informações pessoais, e a plataforma de geração de IA manterá um registro de suas atividades por seis meses.
China exige que plataformas de internet compartilhem tecnologia
Enquanto isso, o rascunho do plano também inclui requisitos de que a plataforma de mídia social deve compartilhar sua tecnologia para detectar conteúdo de IA com outras pessoas, uma medida projetada para padronizar o processo e melhorar a capacidade de detectar conteúdo de IA.
As novas regras não são uma surpresa, dado que a moderação de conteúdo sempre foi uma parte crucial do uso da internet na China. No entanto, o foco no conteúdo de IA parece ser mais relevante diante de deepfakes e outros conteúdos gerados por IA sendo usados por muitos para cometer fraudes e outras ilegalidades.
Várias plataformas populares de mídia social fora da China, incluindo Facebook, Instagram e TikTok, já rotulam conteúdo de IA como parte de sua moderação de conteúdo. No entanto, suas ferramentas de detecção não têm sido perfeitas, pois vários conteúdos hiper-realistas ainda escapam das tags de IA nessas plataformas
