La asociación de consumidores advierte sobre los riesgos de los servicios de IA engañosos

La Asociación de Consumidores de China ha emitido una advertencia sobre los riesgos asociados con el uso de servicios de inteligencia artificial (IA), instando a los consumidores a ser cautelosos y a verificar la información crítica antes de tomar decisiones. La asociación destaca que el contenido generado por la IA no debe utilizarse para aspectos importantes como los precios, los términos contractuales, el servicio postventa y las responsabilidades legales. Se aconseja a los consumidores que verifiquen dicha información a través de canales oficiales, contratos y autoridades reguladoras. La tecnología de IA, particularmente los modelos de lenguaje grandes, se está integrando cada vez más en los escenarios de consumo, mejorando la comodidad y la eficiencia. Sin embargo, la incertidumbre en la generación de información puede provocar inexactitudes, declaraciones ambiguas y promesas inconsistentes. Ejemplos incluyen información de tarifas engañosa, reclamaciones de compensación incumplidas y asesoramiento legal poco fiable, lo que puede engañar a los consumidores y provocar pérdidas financieras. La asociación señala que los servicios de IA se dividen en dos categorías principales: herramientas de IA de uso general accesibles al público, que generan respuestas basadas en los datos y las consultas de los usuarios disponibles, y herramientas de servicio al cliente de IA utilizadas por las empresas, que interactúan directamente con las descripciones de los productos, las explicaciones de las tarifas y el soporte postventa. La IA de uso general no es un representante oficial de empresas específicas y su contenido no debe considerarse como compromisos formales o sustitutos de contratos o asesoramiento legal. Los consumidores pueden enfrentarse a riesgos si confían únicamente en el contenido generado por la IA sin verificación. Por ejemplo, la IA podría ofrecer garantías infundadas, orientación legal incorrecta o fabricar detalles de pago inexistentes. La asociación enfatiza la necesidad de que los proveedores de servicios de IA mejoren la transparencia, la precisión y la fiabilidad, tal como se establece en las 'Medidas provisionales para la gestión de los servicios de IA generativa'. La asociación insta a los proveedores de servicios de IA a mejorar las advertencias de riesgos y la calidad de la información, especialmente en áreas como los servicios financieros y los derechos de los consumidores. Deben comunicar claramente las limitaciones del contenido generado por la IA y garantizar la precisión de las respuestas. Además, las empresas que utilizan servicios de atención al cliente de IA deben asegurarse de que la información proporcionada se alinee con los servicios, los precios y los términos contractuales reales, y deben ofrecer canales de soporte humano y resolución de disputas accesibles. La asociación solicita a los reguladores que refinen las directrices para el uso de la IA en los contextos de consumo, definiendo claramente las responsabilidades y los requisitos de gobernanza para los proveedores de servicios y las empresas. También recuerda a los consumidores que se acerquen con precaución a la información generada por la IA, especialmente en lo que respecta a los detalles de consumo críticos, y que verifiquen dicha información a través de fuentes oficiales y autorizadas.