Fecha de publicación:
Fecha de modificación:
Microsoft presentó el borrador de su nuevo Código de Conducta dirigido a los modelos de inteligencia artificial MAI, un documento que busca establecer los valores éticos para lo que la empresa define como una “IA humanista”.
La propuesta, lanzada en un proceso de consulta pública antes de su versión final a fin de año, detalla los comportamientos que deberán tener sus sistemas proyectados hacia el año 2027. La visión del gigante tecnológico ubica a la herramienta en un plano estrictamente subordinado a las personas y rechaza cualquier intento de humanizarla o atribuirle conciencia propia.
Además de definir estos principios, la firma tecnológica contempla la integración de restricciones de seguridad directamente en las fases de entrenamiento de los modelos. Esta medida busca que los sistemas reconozcan barreras éticas invisibles y prioricen la seguridad general por encima de las instrucciones directas de un usuario u operador.
Hasta el momento, Microsoft ha lanzado siete modelos de esta categoría especializados en tareas como voz, generación de imágenes, programación y ciberseguridad.
Recientemente, el CEO de OpenAI, Sam Altman, lanzó una severa advertencia sobre los peligros que representa el acelerado avance de la IA sin los controles adecuados al señalar dos escenarios de alto riesgo: el primero radica en que la humanidad termine perdiendo el control sobre la toma de decisiones y el futuro ante sistemas sumamente capaces; el segundo advierte sobre una extrema concentración de poder si una persona, empresa o país utiliza una IA superior para imponer sus propios intereses.
Para contener estos peligros, enfatizó que las medidas de seguridad y alineación ética deben progresar a un ritmo superior al de las capacidades técnicas de los modelos y reclamó un marco normativo unificado para las firmas que lideran el sector.
Por su parte, Dario Amodei, director ejecutivo y cofundador de Anthropic, propuso públicamente moderar la velocidad de desarrollo de los modelos fronterizos para ganar tiempo en la implementación de medidas de protección eficaces.
Esta postura fue rápidamente respaldada tanto por Altman como por Elon Musk, marcando un consenso poco común en una industria caracterizada por la alta competencia. En una medida concreta para reforzar la transparencia, OpenAI anunció que habilitará el acceso a evaluadores e inspectores independientes para que revisen e identifiquen los posibles riesgos de sus sistemas con el mismo nivel de detalle que sus propios trabajadores.