Microsoft advierte que una IA autónoma podría competir con los humanos por los recursos

El responsable de inteligencia artificial de Microsoft, Mustafa Suleyman, planteó un escenario futuro en el que sistemas altamente autónomos podrían llegar a competir con los seres humanos por recursos. El ejecutivo advirtió que el riesgo aumentaría si las máquinas pudieran establecer sus propios objetivos y controlar activos sin una supervisión humana suficiente.

Suleyman hizo las declaraciones en una entrevista con el programa Today de la BBC. Allí sostuvo que existe una preocupación razonable por la evolución de la tecnología, aunque remarcó que también pueden incorporarse medidas para mantenerla bajo control.

“Si todos creamos IA capaces de actuar de forma autónoma, fijar sus propios objetivos, ganar dinero, poseer activos y dirigir empresas, estamos sembrando una nueva especie de silicio”, afirmó. Según planteó, esos sistemas podrían terminar compitiendo con las personas por los recursos.

El riesgo de una “especie de silicio”

El concepto utilizado por Suleyman describe un escenario hipotético. No implica que los actuales sistemas de inteligencia artificial tengan esas capacidades, sino que apunta a los posibles riesgos derivados de aumentar su autonomía.

La preocupación del ejecutivo no pasa solamente por desarrollar máquinas más inteligentes. También se concentra en la posibilidad de que puedan actuar por cuenta propia, manejar recursos económicos y perseguir objetivos que no coincidan con los intereses de las personas.

Por ese motivo, Microsoft busca que los seres humanos mantengan un control efectivo sobre sus futuros modelos. La compañía publicó el 14 de septiembre un Código de Conducta para una IA Humanista, que establece los principios previstos para sus modelos MAI.

El documento parte de una premisa: “las personas importan más que la IA”. Además, Microsoft sostiene que cualquier tecnología que no pueda permanecer bajo control humano debería ser rechazada.

Microsoft pone límites a la superinteligencia

La empresa considera que los sistemas de IA deben funcionar como herramientas subordinadas a las personas y con objetivos definidos por humanos.

Microsoft también plantea que la IA no debe diseñarse para presentarse como una persona ni para imitar una supuesta conciencia. La compañía rechaza, además, la búsqueda de personalidad jurídica o derechos propios para los modelos.

El código todavía está en desarrollo. Microsoft abrió una consulta pública durante seis semanas y prevé publicar una versión revisada hacia finales de 2026, con el objetivo de utilizarla como guía para sus modelos desde 2027.

El debate por la autonomía de la inteligencia artificial

Las declaraciones de Suleyman también se producen en medio de una discusión con Anthropic, desarrolladora de Claude. El ejecutivo cuestionó el uso de conceptos humanos como emociones, sentimientos o conciencia para describir el comportamiento de los modelos.

Según su postura, una IA puede reproducir conductas que parecen humanas debido a su entrenamiento, sin que eso demuestre que tenga una experiencia interior. Para Suleyman, diseñar sistemas bajo esa lógica podría complicar los mecanismos destinados a mantenerlos bajo control.

El debate cobra relevancia a medida que la industria desarrolla agentes de IA capaces de utilizar herramientas y ejecutar tareas con mayor autonomía. Microsoft anticipa que durante la próxima década la superinteligencia podría superar el rendimiento humano en la mayoría de las tareas y considera que su control será uno de los principales desafíos tecnológicos.

La discusión, por lo tanto, ya no se limita a cuánto podrá avanzar la inteligencia artificial, sino también a qué nivel de autonomía debería permitírsele y qué mecanismos serán necesarios para garantizar que las decisiones finales permanezcan en manos humanas.