Вчені виявили, що сучасні моделі штучного інтелекту мають серйозну вразливість при розпізнаванні об’єктів, які відрізняються від даних, на яких їх навчали. Це ставить під загрозу пошук позаземного життя за допомогою космічних апаратів із ІІ.
Головна проблема, на яку звертають увагу дослідники, полягає у роботі з так званими «внерасподіленими» зразками — об’єктами, які суттєво відрізняються від навчальних даних алгоритму. За словами обчислювального біолога Кристофа Адамі, штучний інтелект дуже легко ввести в оману. Він визначає життя через здатність кодувати та відтворювати інформацію.
«Оскільки біологія на інших планетах може кардинально відрізнятись від земної, космічні апарати будуть покладатися саме на такі універсальні маркери», — пояснює Адамі.
Для перевірки надійності ІІ вчені Кристоф Адамі та Анкит Гупта провели експеримент із використанням комп’ютерної програми Avida. Ця платформа моделює цифрові організми за допомогою програмного коду, здатного мутувати, самовідтворюватись і конкурувати за процесорний час.
Тестування тривало три місяці на 1000 паралельних комп’ютерах. Завданням штучного інтелекту було відрізнити цифрові організми зі властивостями життя від неживого коду. Спочатку алгоритм отримував послідовності, що імітують випадковий набір молекул. Вчені поступово змінювали структуру коду, спостерігаючи за «впевненістю» нейромережі.
В результаті точкових коригувань дослідникам вдалося повністю обдурити штучний інтелект, змусивши його визнати неживий програмний код повноцінним живим організмом.
Виявлена вразливість свідчить про те, що роботи і марсоходи, оснащені штучним інтелектом, можуть видавати хибнопозитивні результати. Помилкова ідентифікація біомаркерів на інших планетах загрожує марним витрачанням ресурсів і часу на дослідження об’єктів, які насправді не мають жодного стосунку до позаземного життя.