Стартап General Compute, що спеціалізується на хмарних рішеннях для AI inference, отримав кредит на $400 мільйонів від інвестиційної компанії Upper90. Це може бути перша угода, де в заставу передано чипи, спеціально створені для швидкого виконання вже навчених моделей штучного інтелекту.

General Compute, заснований генеральним директором Фінном Пукловським, у травні залучив $15 мільйонів на створення inference neocloud на базі чипів SambaNova — виробника, підтримуваного Intel. Neocloud — це інфраструктура, оптимізована під AI-навантаження, на відміну від універсальних рішень таких гіперскейлерів, як AWS чи Azure.

Чипи SN50 компанії розроблені саме для inference: вони енергоефективні та не потребують дорогих систем водяного охолодження, що дозволяє швидше розгортати їх у різних дата-центрах порівняно з GPU. General Compute заявляє, що їхні чипи забезпечують у 16 разів швидший inference, ніж хмарні рішення на базі GPU.

Головною проблемою для нової компанії є закупівля великої кількості таких чипів. Співзасновник і CEO Upper90 Біллі Ліббі, колишній квантитативний трейдер Goldman Sachs, мав досвід у цьому питанні: у 2021 році його компанія профінансувала купівлю GPU для стартапу Crusoe, що працює у сфері енергетичних дата-центрів. Тоді це був перший кредит під заставу просунутих чипів.

Традиційні кредитори уникали таких угод через ризики швидкої амортизації GPU. Проте після того, як CoreWeave зробив кредити під заставу чипів основою бізнес-моделі і провів успішне IPO, подібне фінансування стало звичним.

За словами Ліббі, "коли ми фінансували Nvidia GPU першими, ринок був неефективним. Ми змогли скласти угоду як ранні учасники і отримати винагороду за ризик". Тепер, коли GPU стали більш зрозумілими і, можливо, надмірно купленими, Upper90 звертає увагу на компанії, як General Compute, щоб скористатися наступною хвилею AI-буму.

"Ми вважаємо, що відкриті моделі будуть важливими, і минулого року шукали гравця в inference," — пояснив Ліббі. — "Не всім потрібен суперкомп’ютер, але всім потрібен inference і AI".

Ця теза підтверджується успіхами компаній, що надають доступ до відкритих моделей, таких як OpenRouter і Fireworks, які залучають великі інвестиції. Нові моделі, як Kimi K3, демонструють конкурентоспроможність із продуктами Anthropic та OpenAI у тестах на кодування. Також нові виробники чипів, як Groq і Cerebras, привертають увагу покупців і публічних ринків.

Для General Compute важливо мати доступ до чипів поза екосистемою Nvidia. Інша компанія TensorWave робить ставку на партнерство з AMD. З появою альтернатив Nvidia, провайдери обчислень, які не залежать від Nvidia, можуть отримати перевагу в наданні більш економічного inference.

Фінн Пукловський зазначив: "Є багато чипів, які починають масштабуватися і мають чудову загальну вартість володіння або можуть працювати швидше за Nvidia, але покупців для них небагато. Співпраця з Upper90 — це не просто, що стартап отримав гроші на купівлю обчислювальних потужностей. Це перший сигнал, що капітал організовується і монополія Nvidia починає розпадатися".