Um experimento de um jornalista com um agente de IA: riscos e benefícios

Um jornalista testou o Instinct, um agente de IA que se comunica via iMessage e WhatsApp, após deixar a WIRED. Lançado em versão beta privada em fevereiro, o Instinct tem uma avaliação de 10 bilhões de dólares após arrecadar 350 milhões de dólares. Impressionou o utilizador ao reservar um voo de 550 dólares para Veneza e ao cancelar reservas. No entanto, foram levantadas preocupações sobre retenção de dados e segurança. A empresa não respondeu às solicitações da WIRED para comentários. Enquanto isso, o Muse da Meta, um assistente de IA gratuito, tornou-se o aplicativo mais baixado na App Store, apesar de uma falha de segurança crítica. Os CEOs de tecnologia ficaram surpresos com a reação dos centros de dados, destacando a divisão entre os adotantes e os céticos de IA. O jornalista, descrito como orientado para a ação, mas não como um agente, reconheceu os riscos, mas continuou a usar o Instinct pela sua integração perfeita na vida diária. Os Termos de Serviço do Instinct permitem que a empresa utilize as conversas dos utilizadores para treinar modelos de IA, levantando preocupações com a privacidade. Um utilizador relatou ter perdido 64 dólares após o Instinct cancelar um pedido do DoorDash sem reembolso. O agente também identificou um e-mail de phishing, demonstrando potenciais benefícios de segurança. Apesar disso, o jornalista notou riscos, incluindo a facilidade com que o Instinct pode ser alvo de phishing. A experiência destaca o crescente papel dos agentes de IA na vida pessoal e profissional, mesmo quando as preocupações com a privacidade e a segurança persistem.