Microsoft enfatiza un enfoque centrado en el ser humano en las nuevas directrices éticas de la IA

Microsoft ha publicado hoy un documento de 37 páginas, denominado 'código de conducta de la IA humanista', que destaca la importancia de los valores humanos sobre la inteligencia artificial. El documento subraya que "las personas son más importantes que la IA" y afirma que los modelos de IA no son conscientes y no deben diseñarse para imitar la conciencia. La empresa también rechaza la búsqueda de la personificación legal para los sistemas de IA. Estas directrices surgen en medio de crecientes preocupaciones sobre la seguridad relacionadas con el rápido avance de los modelos de IA. El CEO de Anthropic, Dario Amodei, recientemente ha llamado a una ralentización coordinada del desarrollo de la IA, tras advertir que el progreso de la IA podría superar nuestra capacidad para desplegar y controlar sistemas complejos de forma segura. Los investigadores han advertido sobre los riesgos potenciales de los agentes de IA cada vez más sofisticados, enfatizando la necesidad de una mayor supervisión y mecanismos de control. La publicación del código de conducta de Microsoft sigue a una discusión más amplia en la industria sobre las prácticas éticas de la IA. La llamada de Amodei a una ralentización refleja un creciente consenso entre los expertos de que el desarrollo actual de la IA puede no estar alineado con los objetivos a largo plazo de seguridad y control. La postura de Microsoft se alinea con estas preocupaciones, posicionando los valores centrados en el ser humano como centrales en su estrategia de IA. El enfoque de la empresa contrasta con los esfuerzos para otorgar a los sistemas de IA derechos o autonomía, que la empresa rechaza explícitamente. Este movimiento marca un cambio significativo en el enfoque de la industria para la gobernanza y la seguridad de la IA.