Sursă: Mediafax.ro
OpenAI a prezentat un nou mod de funcționare pentru modelul său de vârf, GPT-5.6 Sol, numit „Ultrafast”, care permite generarea de răspunsuri cu viteze de până la 750 de tokenuri pe secundă.
Citește și: Oglinzi orbitale: compania vrea să trimită 50.000 de sateliți pentru iluminarea Pământului noaptea
Acest mod a fost dezvoltat pentru a crește semnificativ viteza de procesare, fiind destinat situațiilor în care timpul de răspuns trebuie să fie minim. Compania afirmă că noua tehnologie accelerează de până la 14 ori modul standard, fără a compromite performanța modelului în sarcini complexe.
Ce înseamnă modul ultrarapid pentru utilizatori și aplicații
Implementarea „Ultrafast” permite companiilor și dezvoltatorilor să execute fluxuri de lucru în timp real, precum răspunsul la incidente, analiza piețelor financiare sau servicii pentru clienți, mult mai rapid. Procesarea de până la 750 de tokenuri pe secundă devine astfel posibilă prin infrastructura dezvoltată împreună cu producătorul de cipuri Cerebras.
- Viteza de procesare a fost crescută de la 2,5 ori în modul rapid anterior
- Se poate aplica în situații critice, precum răspunsuri în timp real la incidente
- Accelerează fluxurile de lucru complexe, precum programare și analiză științifică
- Este destinat utilizării în domenii unde timpul de răspuns are impact direct asupra rezultatelor
- OpenAI oferă deja un mod rapid pentru GPT-5.6, cu viteze de până la 2,5 ori mai mari decât modul standard
Contextul și impactul noii tehnologii în domeniul AI
Noua strategie de accelerare vine într-un context de competiție acerbă între furnizorii de modele AI pentru reducerea latenței. OpenAI indică faptul că infrastructura bazată pe cipurile Cerebras permite viteze de procesare semnificativ peste cele obișnuite, fiind destinată în special pentru aplicații critice și fluxuri de lucru în timp real.
Experții consideră că această tehnologie va avea un impact major în domenii precum securitatea cibernetică, analiza financiară și servicii de asistență, unde fiecare secundă contează. În plus, funcția „ultra” folosește mai mulți agenți paralel pentru a accelera sarcinile complexe, sporind eficiența și performanța AI-ului.
OpenAI continuă să își extindă capacitățile și să concureze cu rivalii în domeniul modelelor rapide, oferind deja pentru GPT-5.6 Sol un mod de procesare rapidă la costuri mai mari, dar cu rezultate superioare în performanță.