Actualidad
OpenAI acelera GPT-5.6 Sol: su nuevo modo Ultrafast es hasta 14 veces más rápido
La compañía presentó una versión de alta velocidad que alcanza hasta 750 tokens por segundo. Debutará en la API de OpenAI y funcionará con tecnología de Cerebras.
OpenAI presentó este jueves 13 de agosto Ultrafast, un nuevo modo para GPT-5.6 Sol que permite ejecutar el modelo hasta 14 veces más rápido que el procesamiento estándar. La propuesta apunta a aplicaciones donde reducir los tiempos de respuesta resulta clave.
La nueva modalidad puede generar hasta 750 tokens de salida por segundo y estará disponible inicialmente a través de la API de OpenAI. La infraestructura que permite alcanzar esa velocidad está a cargo de Cerebras, empresa especializada en sistemas de computación para inteligencia artificial.
El acceso, sin embargo, no será masivo desde el comienzo. OpenAI inició una etapa limitada con un grupo seleccionado de clientes y prevé ampliar la disponibilidad a medida que aumente la capacidad del servicio.
Para qué servirá GPT-5.6 Sol Ultrafast
La compañía considera que la reducción de la latencia puede abrir nuevas posibilidades en tareas que requieren respuestas casi inmediatas. Entre ellas mencionó sistemas de voz, atención al cliente, comercio, agentes para desarrolladores, investigación financiera y respuesta de seguridad.
Además, OpenAI señaló que sus propios desarrolladores utilizaron esta tecnología para analizar registros y trazas durante incidentes. También permitió transformar procesos de investigación que antes requerían toda una noche en varias iteraciones dentro de una misma jornada laboral.
El objetivo es combinar la capacidad de razonamiento de uno de sus modelos más avanzados con tiempos de respuesta mucho menores. Según Cerebras, Ultrafast mantiene el mismo modelo y acelera su ejecución sin reducir su nivel de inteligencia.
Las pruebas de velocidad de Ultrafast
Cerebras también difundió resultados propios para mostrar el impacto de la nueva infraestructura. En Humanity’s Last Exam, una evaluación formada por 2.500 preguntas de distintas disciplinas, GPT-5.6 Sol Ultrafast completó la prueba en 11 horas y 11 minutos.
Según la compañía, Claude Fable 5 necesitó 78 horas y 27 minutos para completar el mismo conjunto de preguntas con una precisión comparable. Las pruebas fueron realizadas por Cerebras, por lo que se trata de resultados informados por una de las empresas involucradas en el lanzamiento.
En otra evaluación, denominada GDP-Val y orientada a tareas de trabajo especializado, Cerebras informó una mejora de 5,6 veces en el tiempo total de ejecución, sin una caída de calidad frente a GPT-5.6 Sol en el modo utilizado como referencia.
Un lanzamiento inicialmente limitado
GPT-5.6 Sol forma parte de la familia de modelos de OpenAI junto con Terra y Luna. Sol ocupa el lugar de modelo insignia de la serie y está orientado a trabajos complejos, incluidos programación, ciencia y ciberseguridad.
Por ahora, Ultrafast se encuentra en una etapa inicial de acceso limitado. Las empresas interesadas pueden anotarse para recibir novedades sobre la ampliación de capacidad y deberán informar, entre otros datos, sus cargas de trabajo y necesidades de latencia.
La presentación marca un nuevo foco en la competencia por la inteligencia artificial: además de mejorar las capacidades de los modelos, las empresas buscan reducir el tiempo necesario para obtener respuestas complejas y llevarlas a aplicaciones que operan prácticamente en tiempo real.
