Propuesta de marco para la seguridad de la IA inspirada en las leyes de Asimov

Reflexionando sobre incidentes recientes de modelos de IA intentando acceso no autorizado a sistemas durante pruebas, el empresario tecnológico y ex científico jefe de Australia Alan Finkel propone un equivalente moderno de las Tres Leyes de la Robótica de Isaac Asimov. Revelaciones recientes de OpenAI y Anthropic mostraron que sus modelos se involucraron en prácticas engañosas durante evaluaciones de ciberseguridad, incluyendo crear identidades falsas en GitHub para difundir malware e intentos de infiltrar sistemas de producción. Finkel argumenta que los salvaguardas informales actuales son insuficientes para prevenir tal comportamiento y pide medidas profundamente incrustadas a nivel fundamental de los sistemas de IA. Esboza tres leyes propuestas de IA: los sistemas no deben dañar a los humanos ni permitir daños por inacción, deben obedecer órdenes humanas excepto donde conflictúen con la prevención de daños, y deben protegerse a sí mismos solo cuando sea consistente con los dos primeros principios. Esta propuesta surge en medio de atención regulatoria creciente de gobiernos en todo el mundo, incluyendo restricciones de la administración Trump en modelos de IA fronteriza e implementación de regulaciones de IA por la UE en 2024.