Anthropic descubre grupo yemení que utiliza claude en sistemas de misiles

Anthropic PBC ha revelado que un grupo en el norte de Yemen está utilizando su modelo de IA Claude para ayudar en el desarrollo de sistemas de misiles y cohetes. Este descubrimiento destaca las crecientes preocupaciones sobre el uso de tecnologías de IA avanzadas en programas militares, especialmente por parte de actores no estatales. La empresa ha enfatizado que dicho uso plantea importantes cuestiones éticas y de seguridad, y que representa una tendencia preocupante en la proliferación de la IA para la creación de armas. Anthropic no ha revelado detalles específicos sobre el uso de Claude por parte del grupo ni sobre la naturaleza exacta de los sistemas de misiles en desarrollo. La empresa está evaluando las implicaciones y considerando medidas para mitigar riesgos similares. El incidente ha generado debates entre expertos en seguridad sobre las implicaciones más amplias de la IA en zonas de conflicto. Un analista ha destacado la necesidad urgente de cooperación internacional para abordar el mal uso de la IA. Aunque Anthropic no ha comentado sobre incidentes similares en otras regiones, ha reiterado su compromiso de prevenir el uso perjudicial de sus tecnologías. La empresa está trabajando con las partes interesadas para desarrollar directrices y salvaguardias para prevenir el mal uso de la IA en contextos militares, como parte de una iniciativa más amplia para promover el desarrollo y la implementación responsables de la IA.