La casa blanca prueba un chatbot de IA para simplificar los servicios gubernamentales

La Casa Blanca está a punto de lanzar America.gov, un chatbot de IA con el objetivo de simplificar el acceso a los servicios e información gubernamentales. El presidente Donald Trump anunció la iniciativa el martes, destacando que serviría como un punto de contacto único para los ciudadanos que navegan por los complejos sistemas gubernamentales. Google confirmó su participación, con su modelo de IA Gemini desempeñando un papel clave, aunque el alcance de las contribuciones de otras empresas de IA sigue siendo incierto. Trump destacó el potencial del chatbot para reemplazar el 'laberinto interminable' de los sitios web gubernamentales con una interfaz centralizada. Si bien el objetivo de mejorar la accesibilidad es encomiable, persisten las preocupaciones sobre la fiabilidad de los chatbots de IA. Los modelos de lenguaje son susceptibles a las alucinaciones, como se evidenció en un incidente reciente en el que el ejército de EE. UU. estuvo a punto de lanzar una operación armada basada en una amenaza falsa generada por la IA. Aunque es poco probable que ocurran escenarios tan extremos con America.gov, los errores aún podrían tener consecuencias graves, como la pérdida de plazos o la denegación de beneficios para servicios esenciales como los cupones de alimentos o la presentación de impuestos.