A casa branca testa chatbot de IA para simplificar os serviços governamentais

A Casa Branca está prestes a lançar o America.gov, um chatbot de IA com o objetivo de simplificar o acesso aos serviços e informações governamentais. O Presidente Donald Trump anunciou a iniciativa na terça-feira, enfatizando que serviria como um ponto de contato único para os cidadãos que navegam pelos sistemas governamentais complexos. A Google confirmou sua participação, com seu modelo de IA Gemini desempenhando um papel fundamental, embora a extensão das contribuições de outras empresas de IA permaneça incerta. Trump destacou o potencial do chatbot para substituir o 'labirinto interminável' dos sites governamentais com uma interface centralizada. Embora o objetivo de melhorar a acessibilidade seja louvável, permanecem preocupações sobre a confiabilidade dos chatbots de IA. Os modelos de linguagem são suscetíveis a alucinações, como evidenciado por um incidente recente em que o exército dos EUA quase lançou uma operação armada com base em uma ameaça falsa gerada por IA. Embora cenários extremos como este sejam improváveis com o America.gov, erros ainda podem levar a consequências graves, como o não cumprimento de prazos ou a negação de benefícios para serviços essenciais, como o programa de assistência alimentar ou a declaração de impostos.