6 слабких місць ChatGPT, про які варто знати

ChatGPT — новий потужний чат-бот зі штучним інтелектом, який швидко справляє враження, але багато людей зазначають, що він має серйозні підводні камені. Запитайте, що завгодно, і ви отримаєте відповідь, яка звучить так, ніби її написала людина, яка навчилася своїм знанням і навичкам письма, навчаючись на величезній кількості даних в Інтернеті.

Однак, як і в Інтернеті, межа між правдою та фантазією, безумовно, непостійна, і ChatGPT неодноразово помилявся. Оскільки ChatGPT має намір змінити наше майбутнє, ось деякі з наших найбільших проблем.

Що таке ChatGPT?

ChatGPT — це велика мовна модель, розроблена для створення природної людської мови. Так само, як під час розмови з кимось, ви можете поговорити з ChatGPT, і він запам’ятає те, що ви сказали в минулому, а також зможе виправити себе, коли вам буде викликано.

Його навчали на різного роду текстах з Інтернету, наприклад Вікіпедії, публікаціях у блогах, книгах і наукових статтях. Це означає, що, поряд із відповіддю вам у людський спосіб, він може згадати інформацію про наш сучасний світ, а також отримати історичну інформацію з нашого минулого.

Навчитися користуватися ChatGPT просто, і легко обдурити, подумавши, що система штучного інтелекту працює без будь-яких проблем. Однак протягом кількох місяців після його випуску люди по всьому світу довели чат-бот ШІ до своїх можливостей, щоб виявити деякі ключові проблеми.

1. ChatGPT генерує неправильні відповіді

Він погано справляється з елементарною математикою, не може відповісти на прості логічні запитання і навіть заходить так далеко, що аргументує зовсім невірні факти. Як засвідчать люди в соціальних мережах, ChatGPT може помилятися неодноразово.

OpenAI знає про це обмеження, написавши, що: «ChatGPT іноді пише правдоподібні, але неправильні або безглузді відповіді». Ця «галюцинація» фактів і вигадки, як її називають, особливо небезпечна, коли мова йде про такі речі, як медичні поради чи отримання правдивих фактів щодо ключових історичних подій.

На відміну від інших помічників ШІ, таких як Siri або Alexa, ChatGPT не використовує Інтернет для пошуку відповідей. Натомість він будує речення слово за словом, вибираючи найбільш вірогідну «лексему», яка має бути наступною, на основі свого навчання. Іншими словами, ChatGPT приходить до відповіді, роблячи серію припущень, що частково є причиною того, що він може аргументувати неправильні відповіді так, ніби вони абсолютно правдиві.

Хоча він чудово пояснює складні концепції, що робить його потужним інструментом для навчання, важливо не вірити всьому, що він говорить. ChatGPT не завжди правильний — принаймні, поки що.

2. ChatGPT має упередженість у своїй системі

ChatGPT навчався колективному письму людей у ​​всьому світі, минулого та теперішнього. На жаль, це означає, що ті самі упередження, які існують у реальному світі, також можуть з’явитися в моделі.

Було показано, що ChatGPT дає кілька жахливих відповідей, які дискримінують гендерні, расові та меншини, що компанія намагається пом’якшити.

Один із способів пояснити цю проблему — вказати на дані як на проблему, звинувачуючи людство в упередженнях, які є вбудованими в Інтернеті та за його межами. Але частина відповідальності також лежить на OpenAI, чиї дослідники та розробники відбирають дані, які використовуються для навчання ChatGPT.

Знову ж таки, OpenAI знає, що це проблема, і сказав, що вони вирішують те, що вони називають «упередженою поведінкою», збираючи відгуки від користувачів, яких заохочують позначати результати ChatGPT як погані.

Оскільки ChatGPT може завдати шкоди людям, ви можете стверджувати, що ChatGPT не слід було оприлюднювати для громадськості, доки ці проблеми не будуть вивчені та вирішені. Але гонки за те, щоб стати першою компанією, яка випустить найпотужніші інструменти штучного інтелекту, може бути достатньо для OpenAI, щоб відмовитися від обережності.

3. ChatGPT може забрати роботу у людей

Пил ще не влягся після швидкої розробки та розгортання ChatGPT, а базова технологія, що лежить в його основі, вже вбудована в низку комерційних програм. Серед програм, які інтегрували GPT-4, є Duolingo та Khan Academy.

Перший – це додаток для вивчення мови, а другий – різноманітний навчальний інструмент. Обидва пропонують те, що по суті є репетитором ШІ, або у формі персонажа на основі штучного інтелекту, з яким можна розмовляти мовою, яку ви вивчаєте. Або як репетитор зі штучним інтелектом, який може дати вам індивідуальний відгук про ваше навчання.

З одного боку, це може змінити спосіб навчання, потенційно зробивши освіту доступнішою, а процес навчання трохи легшим. Але недоліком є ​​те, що це забирає робочі місця, які люди обіймали протягом тривалого часу.

Технологічний прогрес завжди призводив до втрати робочих місць, але швидкість розвитку штучного інтелекту означає, що багато галузей стикаються з тією ж проблемою. Від освіти до ілюстрації та ролі обслуговування клієнтів, ChatGPT і його базова технологія кардинально змінить наш сучасний світ.

4. ChatGPT може кинути виклик українській мові у школі

Ви можете попросити ChatGPT відредагувати ваш текст або вказати, як покращити абзац. Або ви можете повністю вилучити себе з рівняння та попросити ChatGPT написати все за вас.

Вчителі експериментували з подачею завдань з української мови в ChatGPT і отримали відповіді, кращі за те, що могли б зробити багато їхніх учнів. Від написання супровідних листів до опису основних тем у відомому літературному творі – ChatGPT може зробити все без вагань.

Виникає запитання: якщо ChatGPT зможе писати для нас, чи потрібно буде учням вчитися писати в майбутньому? Це може здатися екзистенційним питанням, але коли учні почнуть використовувати ChatGPT для написання своїх есе, школам доведеться швидко придумати відповідь. Швидке розгортання штучного інтелекту в останні роки шокує багато галузей, і освіта є лише однією з них.

5. ChatGPT може завдати реальної шкоди

Раніше ми згадували, як неправильна інформація від ChatGPT може завдати реальної шкоди, одним із прикладів є неправильна медична порада. Але є й інші проблеми.

Швидкість, з якою може бути створений текст, що звучить природно, робить це легким завданням для шахраїв, які видають себе за когось, кого ви знаєте в соціальних мережах. Подібним чином виявлення фішингового електронного листа , призначеного для отримання конфіденційної інформації, спрощено, а додаткова перевага полягає в тому, що ChatGPT може створювати текст без граматичних помилок, що раніше було очевидним червоним прапорцем.

Поширення фейкової інформації також викликає серйозне занепокоєння. Масштаб, у якому ChatGPT може створювати текст, у поєднанні з можливістю зробити так, щоб навіть неправильна інформація звучала переконливо правильно, безумовно, зробить інформацію в Інтернеті ще більш сумнівною.

Швидкість, з якою ChatGPT може створювати інформацію, вже спричинила проблеми для Stack Exchange, веб-сайту, який надає правильні відповіді на повсякденні запитання. Невдовзі після випуску ChatGPT користувачі почали заповнювати сайт відповідями, які вони просили згенерувати ChatGPT.

Без достатньої кількості добровольців, які б розбирали залишені запити, було б неможливо підтримувати високий рівень якості відповідей. Не кажучи вже про те, що багато відповідей були просто неправильними. Щоб уникнути пошкодження веб-сайту, було накладено заборону на всі відповіді, згенеровані за допомогою ChatGPT.

6. OpenAI має всю силу

З великою силою пов’язана велика відповідальність, і OpenAI має велику силу. Це одна з перших компаній штучного інтелекту, яка по-справжньому сколихнула світ не однією, а кількома генеративними моделями штучного інтелекту, включаючи Dall-E 2, GPT-3 і GPT-4.

OpenAI вибирає, які дані використовуватимуться для навчання ChatGPT, але ця інформація недоступна для громадськості. Ми просто не знаємо подробиць про те, як навчається ChatGPT, які дані використовувалися, звідки надходять дані або як у подробицях виглядає архітектура системи.

Хоча OpenAI вважає безпеку найвищим пріоритетом, ми багато чого не знаємо про те, як працюють самі моделі, на краще чи гірше. Незалежно від того, чи вважаєте ви, що код має бути відкритим, чи погоджуєтеся, що його частини повинні зберігатися в секреті, ми мало що можемо з цим зробити.

Зрештою, ми повинні сліпо вірити, що OpenAI відповідально досліджуватиме, розроблятиме та використовуватиме ChatGPT. Незалежно від того, погоджуємося ми з цими методами чи ні, OpenAI продовжуватиме розробляти ChatGPT відповідно до власних цілей і етичних стандартів.

Вирішення найбільших проблем ШІ

У ChatGPT є чимало цікавих причин, але, крім безпосереднього використання, є деякі серйозні проблеми, які варто зрозуміти. OpenAI визнає, що ChatGPT може давати шкідливі та упереджені відповіді, сподіваючись пом’якшити проблему шляхом збору відгуків користувачів. Але його здатність створювати переконливий текст, навіть якщо факти не відповідають дійсності, може бути легко використана людьми з поганими намірами.

З абсолютно новою технологією важко передбачити, які проблеми виникнуть у майбутньому. Тож, хоча це може бути цікаво використовувати, не вірте всьому, що говорить ChatGPT.

Для тих, хто прагне глибше освоїти технології штучного інтелекту та інтегрувати їх у власне життя і бізнес, Академія CGPT пропонує широкий вибір навчальних програм і курсів. Вони допоможуть не лише опанувати інструменти, як-от ChatGPT, а й розкрити потенціал штучного інтелекту для максимального покращення продуктивності та розвитку.

Розпочніть свій шлях до продуктивності вже сьогодні разом з Академією CGPT!

Приєднуйтесь до навчальних програм від AcademyCGPT.

Щоб отримати докладні статті про штучний інтелект, відвідайте наш блог, який ми створюємо з любов’ю до технологій, людей та їхніх потреб.