A China deu mais um passo no reforço da supervisão da inteligência artificial. No sábado, o regulador do ciberespaço chinês divulgou um projecto de regras para consulta pública que aperta o controlo sobre sistemas de IA com personalidade humana, de acordo com a Reuters.
As propostas visam produtos e serviços de inteligência artificial disponibilizados ao público que simulam traços de personalidade, padrões de pensamento e estilos de comunicação humanos. Além disso, abrangem soluções capazes de interagir emocionalmente com os utilizadores através de texto, imagens, áudio ou vídeo.
Segundo a Reuters, a iniciativa reflecte a estratégia de Pequim para orientar a rápida expansão da IA dirigida ao consumidor. Para isso, o regulador pretende reforçar requisitos de segurança, ética e responsabilidade ao longo de todo o ciclo de vida dos produtos.
Regras mais exigentes para fornecedores de IA
O projecto estabelece que os fornecedores de IA com personalidade humana devem assumir responsabilidades claras desde o desenvolvimento até à operação dos sistemas. Entre as exigências, constam mecanismos de revisão de algoritmos, medidas de segurança de dados e protecção de informações pessoais.
Além disso, as regras determinam que os prestadores devem alertar os utilizadores contra o uso excessivo destas tecnologias. Caso sejam detectados sinais de dependência, os operadores devem intervir de forma activa.
Veja também: China propõe organismo global para governar a IA
Atenção aos riscos psicológicos
Outro ponto central da proposta é a mitigação de riscos psicológicos. Os fornecedores terão de identificar o estado emocional dos utilizadores e avaliar o seu nível de dependência em relação ao serviço. Se forem observadas emoções extremas ou comportamentos aditivos, deverão ser adoptadas medidas correctivas.
Segundo a Reuters, o regulador procura assim limitar impactos negativos associados à interacção prolongada com sistemas de IA com personalidade humana.
Linhas vermelhas para conteúdos gerados por IA
As regras preliminares também definem limites claros ao conteúdo gerado. Os serviços não podem produzir materiais que ameacem a segurança nacional, difundam rumores ou promovam violência ou obscenidade.
Com esta proposta, a China reforça o seu enquadramento regulatório para a inteligência artificial, procurando equilibrar inovação tecnológica com controlo social e protecção dos utilizadores.