Uso indevido da IA gera preocupações sobre a reputação no conselho consultivo global

Isabel Guzman, presidente do Conselho Consultivo para a Sala de Situação Global, alertou que o uso indevido da IA representa riscos de reputação para as empresas. Ela destacou o potencial acelerado da IA para fraudes e má conduta, ameaçando os consumidores. Apesar dos avanços online no setor financeiro, os clientes ainda procuram interação humana para obter assistência bancária. Os comentários de Guzman refletem uma mudança mais ampla na indústria em direção ao equilíbrio entre inovação e confiança e segurança do consumidor. A declaração ocorre em meio ao crescente escrutínio do impacto da IA nas práticas comerciais e na percepção pública. Transparência e responsabilidade permanecem fundamentais à medida que as empresas navegam na integração da IA. O setor de serviços financeiros enfrenta um escrutínio mais intenso à medida que utiliza a IA para eficiência, mantendo a confiança do cliente. Guzman enfatizou que os avanços digitais não devem substituir a interação pessoal. Isso está alinhado com uma tendência crescente de consumidores priorizando o suporte humano em decisões financeiras críticas. A recomendação do conselho destaca a importância de práticas éticas de IA para preservar a reputação da marca e promover a confiança. À medida que a IA evolui, as empresas devem garantir a inovação responsável, alinhada com as expectativas e os padrões regulatórios do consumidor.