India ordenó a la red social X frenar la creación de contenido obsceno con su IA Grok

El Ministerio de Electrónica de la India exigió a la plataforma X (antes Twitter) que implemente cambios urgentes en su inteligencia artificial, Grok. La medida busca detener la generación de imágenes falsas y contenido explícito que involucra a figuras públicas.

Las autoridades detectaron recientemente una ola de deepfakes creados por la herramienta de IA de la compañía. Estas imágenes, generadas sin consentimiento, afectaban principalmente a políticos y celebridades locales.

Por este motivo, el gobierno decidió intervenir directamente ante la empresa propiedad de Elon Musk. El objetivo es proteger la integridad digital de los ciudadanos frente al uso indebido de la tecnología.

Exigencias de seguridad

El Ministerio de Electrónica y Tecnología de la Información (MeitY) emitió la orden formal durante esta semana. Según reportes del sector, X debe modificar los algoritmos de Grok para bloquear resultados considerados “obscenos”.

Además, los funcionarios solicitaron la implementación de filtros de seguridad más estrictos dentro de la aplicación. La plataforma deberá demostrar que sus herramientas ya no pueden crear este tipo de material.

Esta acción responde a la creciente preocupación global sobre la desinformación visual. En un año electoral clave para varias regiones, la manipulación de imágenes es un tema sensible.

El problema de la moderación

Grok, desarrollado por la subsidiaria xAI, se caracteriza en el mercado por tener menos restricciones que otras inteligencias artificiales. Esta “libertad” en el chatbot fue un punto de venta clave para Musk.

Sin embargo, esta falta de barreras permitió la creación de material ofensivo que viola las normativas de India. La facilidad para generar contenido sexualmente explícito de personas reales encendió las alarmas.

Por lo tanto, la red social enfrenta ahora el desafío de equilibrar su política de libertad de expresión con las leyes locales de seguridad.

Antecedentes y regulación

India es uno de los mercados digitales más grandes del mundo y mantiene una postura firme sobre la regulación tecnológica. No es la primera vez que el gobierno local presiona a las “Big Tech” para controlar los contenidos.

Hasta el momento, la compañía no emitió un comunicado oficial detallando los plazos técnicos para aplicar estos parches. Se espera que los cambios se reflejen en la próxima actualización de la herramienta.

Esta decisión marca un nuevo precedente en la regulación global de la inteligencia artificial generativa y la responsabilidad de las plataformas.