Що таке галюцинація штучного інтелекту і як її помітити?

Генеративний ШІ чудовий, але він завжди подає свою інформацію з абсолютним авторитетом. Що чудово, якщо це не галюцинація правди.

Галюцинації штучного інтелекту (ШІ) звучать дивно. Ви, мабуть, думаєте: «Хіба галюцинації не є людським явищем?» Ну, так, раніше це було винятково людське явище, поки штучний інтелект не почав демонструвати людські характеристики, такі як розпізнавання обличчя, самонавчання та розпізнавання мови.

На жаль, штучний інтелект отримав деякі негативні властивості, зокрема галюцинації. Отже, чи подібні галюцинації штучного інтелекту до галюцинацій, які відчувають люди?

Що таке AI галюцинації?

Галюцинація штучного інтелекту виникає, коли модель ШІ генерує результати, відмінні від очікуваних. Зауважте, що деякі моделі штучного інтелекту навчені навмисно генерувати результати, не пов’язані з будь-яким реальним введенням (даними).

Наприклад, найпопулярніші генератори штучного інтелекту, які перетворюють текст у зображення , такі як DALL-E 2, можуть креативно генерувати нові зображення, які ми можемо позначити як «галюцинації», оскільки вони не базуються на даних реального світу.

Галюцинація ШІ у великих моделях обробки мови

Давайте розглянемо, як би виглядала галюцинація ШІ у великій моделі обробки мови, такій як ChatGPT. Галюцинація ChatGPT призведе до того, що бот надасть вам невірний факт із деякими твердженнями, так що ви, природно, сприймете такі факти як правду.

Простіше кажучи, це вигадані заяви чат-бота зі штучним інтелектом. Ось приклад:

ШІ галюцинації в комп’ютерному зорі

Давайте розглянемо іншу область штучного інтелекту, яка може відчувати галюцинації ШІ: комп’ютерний зір . Тест нижче показує монтаж 4×4 з двома сутностями, які дуже схожі. Зображення являють собою суміш картопляних чіпсів для барбекю та листя.

Завдання полягає в тому, щоб вибрати картопляні чіпси, не зачепивши жодного листя в монтажі. Це зображення може здатися комп’ютеру складним, і він може не відрізнити картопляні чіпси барбекю від листя.

Ось ще один монтаж із поєднанням зображень пуделя та свинячої нитки. Комп’ютер, швидше за все, не зможе відрізнити їх, отже змішуючи зображення.

Чому виникають галюцинації ШІ?

Галюцинація штучного інтелекту може виникнути через суперечливі приклади — вхідні дані, які змушують програму штучного інтелекту неправильно їх класифікувати. Наприклад, під час навчання додатків ШІ розробники використовують дані (зображення, текст чи інші); якщо дані змінені або спотворені, програма інтерпретує вхідні дані по-іншому, видаючи неправильний результат.

Навпаки, людина може точно розпізнавати та ідентифікувати дані, незважаючи на спотворення. Ми можемо назвати це здоровим глуздом — властивість людини, якою ШІ ще не володіє. 

Що стосується великих мовних моделей, таких як ChatGPT та його альтернатив , галюцинації можуть виникати через неточне декодування з трансформатора (модель машинного навчання).

Що стосується галюцинацій, якщо мовна модель була навчена на недостатніх і неточних даних і ресурсах, очікується, що результат буде вигаданим і неточним. Мовна модель може генерувати історію чи розповідь без логічних неузгодженостей чи нечітких зв’язків.

У наведеному нижче прикладі ChatGPT попросили назвати слово, схоже на «revolt», яке починається на «b». Ось його відповідь:

При подальшому дослідженні він продовжував давати неправильні відповіді з високим рівнем впевненості.

Чому ж ChatGPT не може дати точну відповідь на ці підказки?

Можливо, мовна модель не здатна обробляти такі складні підказки, як ці, або що вона не може точно інтерпретувати підказку, ігноруючи підказку щодо надання схожого слова з певним алфавітом.

Як розпізнати галюцинацію ШІ?

Зараз очевидно, що додатки штучного інтелекту можуть галюцинувати — генерувати відповіді, які відрізняються від очікуваного результату (факт чи правда) без будь-яких злих намірів. А помічати та розпізнавати галюцинації штучного інтелекту – справа користувачів таких додатків.

Ось кілька способів виявити галюцинації ШІ під час використання звичайних програм ШІ:

1. Великі моделі обробки мови

Хоча це рідко, але якщо ви помітили граматичну помилку у вмісті, створеному великою моделлю обробки, такою як ChatGPT, це повинно підняти брову та змусити вас запідозрити галюцинацію. Подібним чином, якщо створений текст не звучить логічно, не відповідає наданому контексту або не відповідає вхідним даним, слід запідозрити галюцинацію.

Використання людського судження чи здорового глузду може допомогти виявити галюцинації, оскільки люди можуть легко визначити, коли текст не має сенсу чи не відповідає дійсності.

2. Комп’ютерний зір

Як галузь штучного інтелекту, машинного навчання та інформатики, комп’ютерне зір дозволяє комп’ютерам розпізнавати та обробляти зображення, як очі людини. 

Відхилення від шаблонів зорових даних, які використовуються в навчанні, призведе до галюцинацій. Наприклад, якби комп’ютер не був навчений із зображеннями тенісного м’яча, він міг би визначити його як зелений апельсин. Або якщо комп’ютер розпізнає коня біля статуї людини як коня біля справжньої людини, то виникла галюцинація ШІ.

Тому, щоб виявити галюцинацію комп’ютерного зору, порівняйте отримані результати з тим, що очікується побачити [нормальною] людиною.

3. Безпілотні автомобілі

Завдяки ШІ безпілотні автомобілі поступово проникають на автомобільний ринок. Піонери, такі як Tesla Autopilot і Ford BlueCruise, відстоюють сцену безпілотних автомобілів. Ви можете перевірити, як і що бачить автопілот Tesla, щоб трохи зрозуміти, як штучний інтелект керує безпілотними автомобілями.

Якщо у вас є один із таких автомобілів, ви хотіли б знати, чи не галюцинує ваш автомобіль зі штучним інтелектом. Однією з ознак буде те, що ваш автомобіль відхиляється від нормальної поведінки під час руху. Наприклад, якщо транспортний засіб раптово гальмує або повертає без будь-якої очевидної причини, можливо, ваш автомобіль зі штучним інтелектом галюцинує.

Системи штучного інтелекту теж можуть галюцинувати

Люди та моделі ШІ відчувають галюцинації по-різному. Коли справа доходить до штучного інтелекту, галюцинації стосуються помилкових результатів, які відрізняються від реальності або не мають сенсу в контексті даної підказки. Наприклад, чат-бот штучного інтелекту може дати граматично чи логічно неправильну відповідь або неправильно ідентифікувати об’єкт через шум або інші структурні фактори.

Галюцинації штучного інтелекту не виникають у свідомості чи підсвідомості, як це можна спостерігати у людей. Швидше це є результатом неадекватності або недостатності даних, які використовуються під час навчання та програмування системи ШІ.