Провідні компанії у сфері штучного інтелекту звернулися до Qualcomm із проханням розробити мобільні чипи, здатні запускати локальні ШІ-моделі з обсягом не менше 100 млрд параметрів до 2028 року. Про це розповів генеральний директор Qualcomm Крістіано Амон у подкасті Sources з Алексом Гітом.

За словами Амона, локальні моделі такого масштабу стануть основою для персональних ШІ-агентів. Вони зможуть враховувати індивідуальний контекст користувача, взаємодіяти з уже встановленими застосунками та виконувати завдання самостійно. Керівник Qualcomm вважає, що поява таких можливостей може призвести до нового масового оновлення смартфонів, подібного до того, що відбулося після виходу перших iPhone. Тоді розвиток платформи визначили сторонні застосунки, а тепер аналогічну роль можуть відіграти ШІ-агенти.

Наразі навіть найсучасніші мобільні процесори значно поступаються цим вимогам. Наприклад, представлений у вересні Snapdragon 8 Elite Extreme Gen 6 підтримує локальні моделі Mixture of Experts із понад 30 млрд параметрів. Щоб досягти позначки у 100 млрд, Qualcomm та виробникам смартфонів доведеться суттєво наростити обчислювальні потужності та пропускну здатність пам’яті, не допустивши перегріву пристроїв.

Особливу складність становить потреба у великому обсязі оперативної пам’яті: навіть після 4-бітного стиснення ваги моделі займуть близько 50 ГБ. Це не враховуючи додаткових потреб операційної системи та обчислень. Як зазначає Амон, попит на такі рішення вже спричинив дефіцит і зростання цін на пам’ять, тож смартфони з подібними можливостями можуть виявитися дуже дорогими.

«Найбільші перспективи я бачу у розумних окулярах, адже вони дають асистенту доступ до того, що бачить і чує користувач», — заявив Крістіано Амон.

Водночас він очікує появи нових форматів ШІ-пристроїв — навушників із камерами, кулонів, значків та інших аксесуарів. Проте, на його думку, смартфони залишаться центром персональної ШІ-системи.

Серед можливих нових пристроїв — смартфон OpenAI, який розробляється у партнерстві з Qualcomm та іншими компаніями. Очікується, що його масове виробництво розпочнеться у 2027–2028 роках.