OpenAI оголосила про початок тестування нового режиму Ultrafast для свого API, який працює з мовною моделлю GPT-5.6 Sol і забезпечує суттєве зростання швидкості генерації відповідей. За офіційною інформацією компанії, Ultrafast дозволяє досягати швидкості до 750 токенів за секунду, що є одним із найвищих показників серед сучасних великих мовних моделей.
Впровадження цього режиму стало можливим завдяки співпраці OpenAI з компанією Cerebras, яка спеціалізується на апаратних рішеннях для штучного інтелекту. На даний момент Ultrafast доступний лише для обмеженого кола корпоративних користувачів API, які вже можуть оцінити переваги надшвидкої обробки даних, повідомляє OpenAI.
Розробники компанії підкреслюють, що Ultrafast — це не просто черговий рекорд у тестах швидкодії, а інструмент для створення справді інтерактивних сценаріїв. Серед потенційних сфер застосування нового режиму називають:
- аналіз системних журналів у реальному часі під час збоїв,
- фінансовий моніторинг,
- голосові помічники без затримок,
- сучасну підтримку клієнтів,
- оптимізацію обробки запитів в онлайн-магазинах.
Власні команди OpenAI також активно тестують Ultrafast для внутрішніх потреб: розробники використовують його для детального аналізу логів і трасувань, а дослідники — для пришвидшення експериментів, на результати яких раніше доводилося чекати значно довше.
"Якщо заявлена швидкість підтвердиться у широкому використанні, це може помітно змінити сприйняття штучного інтелекту: замість відчуття «запит — очікування — відповідь» взаємодія з великими моделями стане набагато ближчою до звичайної людської розмови".
Надшвидкий режим Ultrafast може стати важливим кроком у розвитку більш природних і зручних інтерфейсів для взаємодії зі штучним інтелектом, підкреслюючи прагнення OpenAI до інновацій у сфері високопродуктивних цифрових технологій.