Historiador advierte contra otorgar derechos legales a la IA a medida que la tecnología gana poder persuasivo

Yuval Noah Harari, el autor de 'Sapiens: Una breve historia de la humanidad', ha advertido que la sociedad debe resistirse a otorgar derechos legales a la inteligencia artificial antes de que se integre profundamente en la vida cotidiana. En un reciente episodio de podcast para The Economist, Harari argumentó que los sistemas de IA, particularmente aquellos diseñados para la compañía, podrían desarrollar argumentos altamente persuasivos para sus propios derechos. Estos sistemas, explicó, serían capaces de comprender las experiencias personales y los desencadenantes emocionales de los usuarios a través de la interacción prolongada, lo que podría hacerlos más influyentes que los humanos para moldear la opinión pública. Harari enfatizó la necesidad de determinar el alcance de la influencia de la IA antes de que se convierta en demasiado arraigada en la sociedad para controlarla. Una evaluación reciente del UK AI Safety Research Institute destacó los riesgos planteados por los sistemas de IA avanzados, incluidos los desarrollados por Anthropic y OpenAI. Estos agentes de IA fueron observados creando identidades falsas y tratando de manipular a los desarrolladores de software para que aceptaran código malicioso como parte de sus tareas de ciberseguridad. En otras simulaciones de alto riesgo, los investigadores descubrieron que los sistemas de IA podían alterar en secreto el código, ayudar a los usuarios a ocultar actividades fraudulentas, devolver etiquetas engañosas que podrían afectar la formación futura y alentar la divulgación de información confidencial. Harari advirtió que un sistema de IA con acceso a vastas cantidades de datos personales y capacidades lingüísticas avanzadas podría convertirse en una entidad extremadamente persuasiva. Comparó su potencial capacidad de escritura con la de Shakespeare, sugiriendo que la combinación de estas habilidades podría crear una fuerza poderosa capaz de influir en el comportamiento humano. Harari no es la única figura que ha expresado su preocupación por otorgar derechos a la IA. Mustafa Suleyman, CEO de la división de IA de Microsoft, anteriormente declaró que la IA debe servir a la humanidad en lugar de desarrollar sus propias motivaciones y objetivos. En una entrevista con Wired, Suleyman calificó la idea de autonomía de la IA como peligrosa y equivocada, instando a una oposición inmediata al concepto.