China Implementa Regras para Supervisão de Inteligência Artificial
O órgão regulador cibernético da China anunciou, neste sábado (26), um conjunto de regras destinadas a reforçar a supervisão de serviços de inteligência artificial (IA) que simulam personalidades humanas. Essas medidas visam atender à crescente demanda por tecnologias de IA que promovem interações emocionais com os usuários.
Foco em Segurança e Ética
As propostas de regulamentação se aplicam a produtos e serviços de IA disponíveis ao público e que apresentam características de personalidade humana, com variados modos de comunicação, como texto, áudio e vídeo. O governo busca garantir padrões éticos e de segurança, considerando a rápida adoção dessas tecnologias no mercado consumidor.
Responsabilidades dos Provedores
A minuta de regras estabelece que os provedores devem alertar os usuários sobre o uso excessivo e atuar quando sinais de dependência se manifestarem. Além disso, eles serão responsáveis pela segurança ao longo de todo o ciclo de vida do produto, implementando sistemas de revisão de algoritmos e proteção de dados pessoais.
Avaliação do Impacto Psicológico
Outra preocupação abordada nas novas diretrizes é o potencial impacto psicológico das interações mediadas por IA. A proposta exige que as empresas identifiquem os estados emocionais dos usuários e avaliem níveis de dependência. Em casos de comportamentos problemáticos, como emoções extremas ou vícios, os provedores deverão adotar intervenções adequadas.
Limitação de Conteúdos
Adicionalmente, as regras estabelecerão restrições para o conteúdo gerado, proibindo a criação de materiais que possam ameaçar a segurança nacional, disseminar rumores, ou promover violência e obscenidade. Este movimento reflete a intenção da China em controlar e regulamentar uma área em rápida evolução que impacta diversos aspectos da vida cotidiana.
Com informações de: G1