Associação de consumidores alerta contra serviços de IA enganosos

A Associação de Consumidores Chinesa emitiu um aviso sobre os riscos associados ao uso de serviços de inteligência artificial (IA), aconselhando os consumidores a serem cautelosos e a verificar informações críticas antes de tomar decisões. A associação destaca que o conteúdo gerado por IA não deve ser utilizado para aspectos importantes, como preços, termos contratuais, serviços pós-venda e responsabilidades legais. Os consumidores são aconselhados a verificar tais informações através de canais oficiais, contratos e autoridades reguladoras. A tecnologia de IA, particularmente os modelos de linguagem, está cada vez mais integrada em cenários de consumo, melhorando a conveniência e a eficiência. No entanto, a incerteza na geração de informações pode levar a imprecisões, declarações ambíguas e promessas inconsistentes. Exemplos incluem informações enganosas sobre taxas, reclamações de compensação não cumpridas e aconselhamento jurídico não confiável, o que pode enganar os consumidores e resultar em perdas financeiras. A associação destaca que os serviços de IA se enquadram em duas categorias principais: ferramentas de IA de uso geral acessíveis ao público, que geram respostas com base em dados disponíveis e consultas do utilizador, e ferramentas de atendimento ao cliente de IA utilizadas por empresas, que interagem diretamente com descrições de produtos, explicações de taxas e suporte pós-venda. A IA de uso geral não é um representante oficial de empresas específicas e o seu conteúdo não deve ser considerado como compromissos formais ou substitutos de contratos ou aconselhamento jurídico. Os consumidores podem enfrentar riscos se confiarem exclusivamente no conteúdo gerado por IA sem verificação. Por exemplo, a IA pode oferecer garantias infundadas, orientação jurídica incorreta ou inventar detalhes de pagamento inexistentes. A associação enfatiza a necessidade de que os prestadores de serviços de IA melhorem a transparência, a precisão e a fiabilidade, conforme definido nas 'Medidas Temporárias para a Gestão de Serviços de IA Generativa'. A associação aconselha os prestadores de serviços de IA a melhorarem os avisos de risco e a qualidade das informações, especialmente nas áreas de serviços financeiros e direitos do consumidor. Eles devem comunicar claramente as limitações do conteúdo gerado por IA e garantir a precisão das respostas. Além disso, as empresas que utilizam atendimento ao cliente de IA devem garantir que as informações fornecidas estejam de acordo com os serviços, preços e termos contratuais reais, e devem oferecer canais de suporte humano e resolução de disputas acessíveis. A associação apela aos reguladores para refinarem as diretrizes para o uso da IA em contextos de consumo, definindo claramente as responsabilidades e os requisitos de governança para prestadores de serviços e empresas. Também lembra aos consumidores que devem abordar as informações geradas por IA com cautela, especialmente no que diz respeito a detalhes críticos do consumidor, e que devem verificar tais informações através de fontes oficiais e autoritativas.