Estabelecer a confiança em IA através de limites definidos entre humanos e IA

Um novo relatório da Adobe revela que 56% dos consumidores esperam que a IA melhore a sua experiência como cliente, com 43% dispostos a experimentar um assistente de IA. No entanto, apenas 19% desejam que a IA seja o principal ponto de contacto com as marcas. O relatório destaca que os clientes priorizam a capacidade de mudar para um humano a qualquer momento, indicando um desejo por limites claros nas interações com a IA. Michael Schreibmann, CEO da Star, enfatiza que a confiança na IA é construída através de limites definidos entre humanos e IA. Ele argumenta que, embora a IA possa melhorar as interações rotineiras, situações mais complexas ou pessoais exigem julgamento humano. Por exemplo, no setor bancário privado, a IA pode apoiar os gestores de investimento, fornecendo informações melhores e reduzindo tarefas administrativas, mas a relação humana continua essencial. Schreibmann defende a 'confiança por design', onde os sistemas de IA são desenvolvidos com transparência e controlo do utilizador em mente. Ele enfatiza que a governança não deve dificultar a inovação, mas sim servir como um diferenciador, dando aos clientes confiança nas suas interações com a IA. O relatório sublinha a importância de definir limites claros para a autoridade da IA, garantindo que os utilizadores mantêm o controlo e o acesso ao julgamento humano quando necessário.