Satya Nadella puso un límite al avance de la inteligencia artificial: “Debe estar bajo control humano”

El CEO de Microsoft, Satya Nadella, planteó una condición central para avanzar hacia sistemas de inteligencia artificial cada vez más poderosos: la tecnología debe beneficiar a la humanidad y permanecer bajo control humano. De lo contrario, sostuvo, no tiene sentido continuar esa carrera.

“Si la IA que construimos no ayuda a la humanidad y no está bajo control humano, no vale la pena perseguirla”, afirmó Nadella en una publicación en la red social X.

El ejecutivo también pidió acelerar y distribuir los beneficios de la inteligencia artificial entre países, comunidades y empresas. Para lograrlo, consideró necesario un ecosistema en el que puedan desarrollarse tanto modelos cerrados como alternativas de código abierto.

Además, sostuvo que las empresas deberían conservar el control sobre su conocimiento y evitar una dependencia absoluta de un único proveedor de modelos de IA.

El debate sobre el control de la inteligencia artificial

Las declaraciones de Nadella aparecen en medio de una discusión creciente dentro de la industria tecnológica sobre la velocidad con la que avanzan los sistemas de IA avanzada y superinteligencia.

El CEO de Microsoft respaldó un desarrollo más cuidadoso cuando sea necesario para garantizar el llamado “alineamiento”: que los sistemas de inteligencia artificial actúen de acuerdo con objetivos y límites establecidos por las personas.

También apoyó propuestas como los “evaluadores integrados”, mecanismos destinados a supervisar el funcionamiento de los modelos y detectar riesgos a medida que aumenta su capacidad.

Sin embargo, Nadella advirtió que esas decisiones no deberían quedar concentradas en unas pocas compañías. Según explicó, el proceso necesita una representación amplia que incluya distintos países, sectores tecnológicos y ámbitos académicos.

Microsoft publicará las reglas de sus modelos de IA

Como parte de esa estrategia, Nadella anunció que Microsoft publicará el Código de Conducta de sus modelos propios MAI para someterlo a consulta pública.

La compañía busca combinar el acceso a diferentes tecnologías con la posibilidad de que las organizaciones mantengan el control de sus propios modelos, datos y procesos de aprendizaje.

El planteo coincide con un debate que tomó fuerza en los últimos días. Dario Amodei, CEO de Anthropic, reclamó desacelerar determinados desarrollos para disponer de más tiempo para implementar medidas de seguridad.

Otros referentes de la industria también participaron de la discusión sobre cómo evitar que el desarrollo tecnológico avance más rápido que los mecanismos destinados a controlarlo.

Una discusión que involucra a empresas y gobiernos

El debate ya excede a las compañías tecnológicas. Uno de los puntos centrales es determinar qué papel deben tener los gobiernos y qué mecanismos internacionales podrían aplicarse frente a sistemas de inteligencia artificial cada vez más capaces.

Nadella planteó que el desafío no consiste solamente en desarrollar modelos más avanzados. También implica definir quién los controla, cómo se evalúan sus riesgos y de qué manera se distribuyen sus beneficios.

La posición del CEO de Microsoft marca así una condición para la próxima etapa de la carrera tecnológica: avanzar hacia una inteligencia artificial más potente, pero con supervisión humana, controles y una participación amplia en la definición de sus reglas.