Establecer la confianza en la IA a través de límites claros entre humanos y IA

Un nuevo informe de Adobe revela que el 56% de los consumidores esperan que la IA mejore su experiencia de cliente, con un 43% dispuesto a probar un asistente virtual con IA. Sin embargo, solo el 19% desea que la IA sea su principal punto de contacto con las marcas. El informe destaca que los clientes priorizan la capacidad de cambiar a un humano en cualquier momento, lo que indica un deseo de límites claros en las interacciones con la IA. Michael Schreibmann, CEO de Star, enfatiza que la confianza en la IA se construye a través de límites claros entre humanos y IA. Argumenta que, si bien la IA puede mejorar las interacciones rutinarias, las situaciones más complejas o personales requieren el juicio humano. Por ejemplo, en la banca privada, la IA puede apoyar a los gestores de inversión proporcionando información mejorada y reduciendo las tareas administrativas, pero la relación humana sigue siendo esencial. Schreibmann aboga por un 'diseño de confianza', donde los sistemas de IA se desarrollan teniendo en cuenta la transparencia y el control del usuario. Enfatiza que la gobernanza no debe obstaculizar la innovación, sino que debe servir como un diferenciador, brindando a los clientes confianza en sus interacciones con la IA. El informe destaca la importancia de establecer límites claros para la autoridad de la IA, garantizando que los usuarios conserven el control y tengan acceso al juicio humano cuando sea necesario.