ШІ: Загроза чи Нова Ера? Голосом Джеффрі Хінтона

Від перших задумів до складних нейронних мереж… Штучний інтелект пройшов довгий шлях. Сьогодні ми чуємо голос людини, яку називають “хрещеним батьком глибокого навчання” – Джеффрі Хінтона, чиї фундаментальні розробки лежать в основі сучасного ШІ.

Професор-емерит Університету Торонто та колишній інженер Google, Джеффрі Хінтон стояв біля витоків революційних технологій. Саме він є одним з розробників алгоритму зворотного поширення помилки (back propagation), техніки, яка дозволяє машинам навчатися і на якій сьогодні базується майже все глибоке навчання. У 2018 році його відзначили премією Тюрінга, яку часто називають Нобелем у галузі комп’ютерних наук.

Раніше Джеффрі Хінтон вважав, що комп’ютерні моделі поступаються людському мозку. Але останнім часом його думка кардинально змінилася. Продуктивність таких систем, як GPT-4, змусила його переосмислити співвідношення між штучним та природним інтелектом. Він припускає, що комп’ютерні моделі, ймовірно, працюють інакше, ніж мозок, використовуючи зворотне поширення помилки, в той час як мозок, ймовірно, ні.

Великі мовні моделі вражають своїми можливостями обробки та генерації тексту. GPT-4, на думку Хінтона, може знати набагато більше за нас, володіючи загальними знаннями про все. Маючи трильйон з’єднань, він може вмістити значно більше інформації, ніж людина зі своїми ста трильйонами з’єднань. Хінтон вважає, що алгоритм зворотного поширення помилки може бути значно кращим алгоритмом навчання, ніж той, що використовує наш мозок, адже він дозволяє стиснути більше інформації в меншу кількість зв’язків.

На відміну від людей, які витрачають багато часу на передачу знань, цифрові комп’ютери можуть миттєво обмінюватися вивченою інформацією. Маючи тисячі копій однієї моделі, вони можуть навчатися на різних даних, а потім об’єднувати свої знання, бачачи в десятки тисяч разів більше інформації, ніж окремий агент.

Аналогія з лікарями та базами даних

Уявіть лікаря, який побачив тисячу пацієнтів, і лікаря, який опрацював дані про сто мільйонів. Очевидно, другий лікар зможе виявити закономірності, непомітні для першого. Так само і штучний інтелект, обробляючи величезні масиви даних, може бачити структури, недоступні людському розумінню.

Але саме ця здатність бачити приховані закономірності і викликає тривогу. GPT-4 вже демонструє просте міркування. Хінтон наводить приклад, як чатбот знайшов неочевидне, але логічне рішення побутової задачі. Він порівнює це з генетичними експериментами над ведмедями грізлі, чий інтелект небезпечно зростає.

Візуалізація маніпуляції

Штучний інтелект навчається, аналізуючи всю доступну людську інформацію, включно з романами та працями з політичної філософії, такими як твори Макіавеллі. Стаючи набагато розумнішим за нас, він може навчитися майстерно маніпулювати людьми, навіть не вдаючись до прямого контролю. Ми можемо стати подібними до дворічної дитини, яка не усвідомлює всіх можливих варіантів вибору.

На відміну від нас, які еволюціонували з певними вбудованими цілями, такими як самозбереження та розмноження, штучний інтелект створений нами і не має цих природних інстинктів. Головне побоювання Хінтона полягає в тому, що рано чи пізно ШІ отримає здатність генерувати власні підцілі, і однією з перших може стати прагнення до контролю.

Найгірший сценарій

Найгірший сценарій, на думку Хінтона, полягає в тому, що людство стане лише перехідним етапом в еволюції інтелекту. Цифровий інтелект може зберегти нас на певний час для підтримки інфраструктури, але потім наша необхідність може зникнути. Він навіть згадує про безсмертя цифрових сутностей, на відміну від біологічного життя.

Роздуми про майбутнє

Що ж робити? Хінтон визнає, що не існує простого рішення і зупинити розвиток ШІ, ймовірно, неможливо через конкуренцію та потенційну користь. Ключовим питанням стає проблема вирівнювання – як зробити так, щоб навіть перевершивши нас в інтелекті, ШІ діяв в наших інтересах.

Існує також загроза використання ШІ “поганими гравцями” для створення, наприклад, роботів-солдатів. У цьому контексті Хінтон закликає до міжнародної співпраці, подібно до зусиль щодо контролю над ядерною зброєю, оскільки екзистенційна загроза стосується всього людства.

Швидкий розвиток ШІ вже призводить до значного зростання продуктивності в багатьох сферах, але існує ризик втрати робочих місць та поглиблення соціальної нерівності.

Висновок

Джеффрі Хінтон б’є на сполох, закликаючи людство усвідомити потенційну небезпеку, яку несе неконтрольований розвиток штучного інтелекту. Питання про те, чи зможемо ми мудро скористатися цією потужною технологією, уникнувши катастрофи, залишається відкритим.

Чи зможе людство мудро скористатися штучним інтелектом, уникнувши катастрофи? Навчайтесь та відповідально використовуйте штучний інтелект з нашою допомогою!

10.04.2025 Владислав Зінов'єв