Компанія Infinity, що спеціалізується на інфраструктурі для штучного інтелекту, оголосила про залучення $15 мільйонів інвестицій при оцінці у $100 мільйонів. Серед інвесторів — Touring Capital, Principal VC, а також дослідники з OpenAI та Anthropic.

Infinity розробляє програмне забезпечення, яке спрощує запуск AI-моделей на різних типах AI-чіпів. Відомо, що Nvidia здобула лідерство не лише завдяки потужним чіпам, а й через програмний стек CUDA, який дозволяє її GPU працювати як універсальні процесори. Найпопулярніші AI-фреймворки PyTorch і TensorFlow побудовані на базі CUDA, що дає змогу розробникам запускати додатки на Nvidia-чіпах без додаткових зусиль.

Однак більшість стартапів, які працюють на рівні додатків, не мають ресурсів чи знань для створення власних ядерних модулів (kernels) — низькорівневого програмного забезпечення для управління чіпами — та адаптації своїх додатків до інших AI-чіпів. Infinity прагне створити альтернативу CUDA, яка працюватиме з будь-якими типами чіпів, включно з SRAM, GPU, мобільними процесорами та Systolic Arrays. Таким чином компанія намагається поступово зменшити домінування Nvidia на ринку.

Заснований минулого року Джеремі Ніксон, колишній дослідник Google Brain і творець спільноти AGI House, стартап розробляє універсальну бібліотеку для AI-інференсу, що працюватиме на всіх типах чіпів і автоматизуватиме відтворення передових наукових результатів. Ніксон пояснив, що ідея компанії виникла з його захоплення концепцією «автоматизованого винаходу» — переконання, що AI-системи можуть бути метатехнологією. Він створив алгоритм машинного навчання Omega, який генерує нові алгоритми та оцінює їх у циклі зворотного зв’язку.

Infinity використовує AI-дослідницького агента Ignition, який пише низькорівневий код для AI-інференсу на чіпах, альтернативних Nvidia. Агент тестує, налагоджує і вимірює продуктивність апаратного забезпечення, а за потреби автоматично переписує код для підвищення ефективності. Система самовдосконалюється і адаптується до різних архітектур чіпів, незалежно від їхніх пропрієтарних особливостей. За словами Ніксона, результатом є програмний стек рівня CUDA.

Клієнтами Infinity є виробник AI-чіпів D-Matrix, який претендує на конкуренцію з Nvidia. Компанія також веде переговори з іншими великими виробниками чіпів і хмарними провайдерами. При цьому люди залишаються у процесі, керуючи загальним напрямком, тоді як агент виконує рутинну роботу. У одному з кейсів агент працював значно швидше за людину, скоротивши процес з місяців або років до кількох годин чи днів.

Infinity не стягує початкову ліцензійну плату, а отримує частку від виграшів у продуктивності та економії коштів, вимірюючи зміни у кількості оброблених токенів за секунду. Наразі в компанії працює 26 співробітників, включно з дизайнерами, операційним персоналом та інженерами.