Фізик і дослідник штучного інтелекту Макс Теґмарк з Массачусетського технологічного інституту (MIT) презентував новий підхід до контролю нейронних мереж на семінарі Інституту чистої та прикладної математики (IPAM). Він запропонував не аналізувати складну внутрішню структуру ШІ, а математично перевіряти зрозумілий код, який система може самостійно генерувати.

У своєму виступі Теґмарк окреслив два можливі шляхи до створення «надійного ШІ». Перший — це глибоке дослідження механістичної інтерпретованості, тобто спроба повністю зрозуміти, як працює нейромережа зсередини. Другий підхід, який він вважає перспективнішим, полягає у формальній верифікації програмного коду, який ШІ здатен експортувати зі своїх знань. Про це повідомляє zn.ua з посиланням на виступ вченого.

Теґмарк пояснив, що здатність нейромереж до узагальнення виникає завдяки тому, що вони самостійно відкривають геометричні структури під час навчання. Наприклад, під час розв’язання задач на модульне додавання або оперування днями тижня всередині мережі формується коло, а числа від 0 до 99 шикуються у тривимірну спіраль. Дослідник називає цей процес «інтелектом через голодування» — коли обмежені ресурси змушують ШІ знаходити оптимальні способи вирішення завдань.

«Якщо у вас дуже обмежені ресурси, можливо, єдиний спосіб виконати інтелектуальне завдання — це знайти розумний спосіб його вирішення», — зазначив Макс Теґмарк.

Команда Теґмарка вже створила алгоритми, які автоматично аналізують внутрішню структуру нейромереж (наприклад, операції бінарного додавання) і перетворюють її на зрозумілий людині код мовою Python. Це відкриває можливість формальної математичної перевірки такого коду на безпечність і надійність, що особливо актуально для розробників та регуляторів.

Для Європейського Союзу цей підхід може стати ключовим з огляду на впровадження Закону про штучний інтелект (AI Act). Математична перевірка згенерованого коду дозволить компаніям відповідати вимогам щодо надійності систем без надмірних витрат і ризиків неконтрольованої поведінки ШІ.

Водночас Теґмарк визнає, що частина його висновків наразі є гіпотезами. У внутрішній геометрії мереж досі фіксується багато «шуму» та аномалій: ШІ іноді будує неточні фігури або дублює одні й ті ж алгоритми. Також поки що немає чіткого шляху масштабування автоматичного експорту коду на сучасні великі мовні моделі без принципово нових рішень.