Армія США вичерпала річний ліміт у 100 мільйонів токенів для використання інструменту штучного інтелекту Ask Sage, що призвело до обмежень у подальшому застосуванні цієї технології.
Токени, які є одиницею обробки тексту або зображень у великих мовних моделях (LLM), для Ask Sage відповідають приблизно 3,7 символам. За даними Breaking Defense, під час 38-денної операції Epic Fury в Ірані Міністерство оборони США витрачало близько 20 мільярдів токенів щодня. Це значно перевищило річний ліміт, передбачений підпискою на «enterprise pack».
Представники Армії та Міністерства оборони не надали коментарів щодо ситуації, як і розробники Ask Sage. Невідомо, чи використовуються токени для роботи з секретною інформацією з того самого пулу, що й для звичайних співробітників.
Попри це, Пентагон продовжує активно впроваджувати штучний інтелект. За повідомленням The Intercept, одночасно зі скороченням персоналу Центру досконалості цивільного захисту, який займався запобіганням жертв серед мирного населення, у Міноборони розробляють AI-інструмент для прискорення оцінок, які раніше виконували співробітники цього центру.
Армія США не єдина організація, яка стикається з проблемою надмірного використання токенів. Meta, після заохочення співробітників до максимального використання AI, приховано видалила рейтинг споживання токенів і тепер намагається обмежити їх використання. Керівник Instagram Адам Моссері запропонував встановити ліміт на токени для інженерів. За даними Fortune, Uber вичерпав річний запас токенів за чотири місяці.
Один із співробітників Армії США зазначив, що інструменти генеративного AI не виявилися особливо корисними у їхній роботі і часто були ненадійними. За його словами, одна з моделей навіть стверджувала, що виконала завдання, якого насправді не було. "Я думаю, що є кілька аспектів бюрократії федерального уряду США, де ці інструменти можуть бути корисними. Але бездумне застосування не призведе до ефективного, дієвого та надійного впровадження", — додав він.