Чи вчиться ChatGPT на розмовах користувачів?

Чи ChatGPT зберігає написане вами в центральній пам’яті для подальшого використання?

З мільйонами користувачів ChatGPT ви можете задатися питанням, що OpenAI робить з усіма своїми розмовами. Він постійно аналізує те, про що ви говорите в ChatGPT?

Відповідь на це питання: так, ChatGPT вчиться на основі даних користувача, але не так, як думає більшість людей. Ось докладний посібник, який пояснює, чому ChatGPT відстежує розмови, як він їх використовує та чи не порушено вашу безпеку.

Чи запам’ятовує ChatGPT розмови?

ChatGPT не приймає підказки за чисту монету. Він використовує контекстну пам’ять для запам’ятовування та посилань на попередні вхідні дані, забезпечуючи релевантні послідовні відповіді.

Візьміть наведену нижче розмову як приклад. Коли ми попросили ChatGPT надати ідеї рецептів, він врахував наше попереднє повідомлення про алергію на арахіс…

Ось безпечний рецепт ChatGPT.

Контекстна пам’ять також дозволяє ШІ виконувати багатоетапні завдання. На зображенні нижче показано, що ChatGPT залишається актуальним навіть після введення нового запиту.

ChatGPT може запам’ятати десятки інструкцій у розмовах. Його результат фактично покращується в точності та точності, оскільки ви надаєте більше контексту. Просто переконайтеся, що ви чітко пояснюєте свої інструкції.

Ви також повинні контролювати свої очікування, оскільки контекстна пам’ять ChatGPT все ще має обмеження.

Розмови ChatGPT мають обмежений об’єм пам’яті

Контекстна пам’ять обмежена. ChatGPT має обмежені апаратні ресурси, тому запам’ятовує лише певні моменти поточних розмов. Платформа забуває попередні підказки, коли ви досягаєте обсягу її пам’яті.

У цій розмові ми доручили ChatGPT зіграти роль вигаданого персонажа на ім’я Томі.

Він почав відповідати на підказки як Tomie, а не ChatGPT.

Незважаючи на те, що наш запит спрацював, ChatGPT зламав попередню історію після отримання підказки з 1000 слів.

OpenAI ніколи не розкривав точні обмеження ChatGPT, але, за чутками, він може обробляти лише 3000 слів за раз. У нашому експерименті ChatGPT вийшов із ладу лише після 2800+ слів.

Ви можете розбити свої підказки на два набори по 1500 слів, але ChatGPT, швидше за все, не збереже всі ваші інструкції. Просто почніть інший чат. В іншому випадку вам доведеться повторювати конкретні деталі кілька разів протягом вашої розмови.

ChatGPT запам’ятовує лише введені дані, що стосуються теми

ChatGPT використовує контекстну пам’ять для підвищення точності виведення. Він не просто зберігає інформацію заради її збору. Платформа майже автоматично забуває неважливі деталі, навіть якщо ви далекі від досягнення ліміту токенів.

В ідеалі кожен діалог має бути присвячений одній темі, щоб підтримувати точні та релевантні результати. Ви все ще можете вводити кілька інструкцій одночасно. Просто переконайтеся, що вони відповідають загальній темі, інакше ChatGPT може відкинути інструкції, які вважає нерелевантними.

Навчальні інструкції переважають введення користувача

ChatGPT завжди надаватиме пріоритет заздалегідь визначеним інструкціям над введеними користувачами. Він зупиняє незаконну діяльність через обмеження. Платформа відхиляє будь-які підказки, які вона вважає небезпечними або шкідливими для інших.

Візьміть запити на рольову гру як приклад. Хоча вони перекривають певні обмеження на мову та формулювання, ви не можете використовувати їх для вчинення незаконної діяльності.

Звичайно, не всі обмеження розумні. Якщо жорсткі вказівки ускладнюють виконання конкретних завдань, продовжуйте переписувати свої підказки. Вибір слів і тон сильно впливають на результат. Ви можете черпати натхнення з найефективніших детальних підказок на GitHub .

Як OpenAI вивчає розмови користувачів?

Контекстна пам’ять застосовується лише до вашої поточної розмови. Архітектура без збереження стану в ChatGPT розглядає розмови як незалежні екземпляри; він не може посилатися на інформацію з попередніх. Початок нових чатів завжди скидає стан моделі.

Це не означає, що ChatGPT миттєво знімає розмови користувачів. Умови використання OpenAI стверджують, що компанія збирає дані від споживчих служб, які не належать до API, як-от ChatGPT і Dall-E. Ви навіть можете попросити копії своєї історії чату.

Хоча ChatGPT має вільний доступ до розмов, політика конфіденційності OpenAI забороняє дії, які можуть скомпрометувати користувачів. Тренери можуть використовувати ваші дані лише для дослідження та розробки продуктів.

Розробники шукають лазівки

OpenAI шукає в розмовах лазівки. Він аналізує випадки, коли ChatGPT демонструє упередженість даних, створює шкідливу інформацію або допомагає здійснювати незаконні дії. Етичні принципи платформи постійно оновлюються.

Наприклад, перші версії ChatGPT відкрито відповідали на запитання про кодування шкідливих програм або створення вибухівки. Ці випадки викликали у користувачів відчуття, що OpenAI не контролює ChatGPT . Щоб повернути довіру громадськості, він навчив чат-бота відхиляти будь-які запитання, які можуть суперечити його вказівкам.

Тренери збирають і аналізують дані

ChatGPT використовує методи навчання під наглядом. Хоча платформа запам’ятовує всі вхідні дані, вона не навчається на них у режимі реального часу. Тренери OpenAI спочатку збирають і аналізують їх. Це гарантує, що ChatGPT ніколи не поглинає шкідливу, шкідливу інформацію, яку він отримує.

Контрольоване навчання вимагає більше часу та енергії, ніж неконтрольоване навчання. Проте вже доведено, що залишати штучний інтелект самостійно аналізувати дані.

Візьмемо Microsoft Tay як приклад — один із випадків, коли машинне навчання пішло не так . Оскільки він постійно аналізував твіти без вказівок розробника, зловмисники зрештою навчили його висловлювати расистські стереотипні думки.

Розробники постійно стежать за упередженнями

Кілька зовнішніх факторів викликають упередження в ШІ . Неусвідомлені упередження можуть виникати через відмінності в моделях навчання, помилки набору даних і погано сформульовані обмеження. Ви помітите їх у різних додатках ШІ.

На щастя, ChatGPT ніколи не демонстрував дискримінаційних чи расових упереджень. Згідно зі звітом New York Post, можливо, найгіршим упередженням, яке помітили користувачі, є схильність ChatGPT до лівих ідеологій . Платформа більш відкрито пише на ліберальні теми, ніж на консервативні.

Щоб усунути ці упередження, OpenAI взагалі заборонив ChatGPT надавати політичну інформацію. Він може відповідати лише на загальні факти.

Модератори оглядають продуктивність ChatGPT

Користувачі можуть залишати відгуки про результати ChatGPT. Праворуч від кожної відповіді ви знайдете кнопки «подобається» та «не подобається». Перше свідчить про позитивну реакцію. Після натискання кнопки «подобається» або «не подобається» з’явиться вікно, у якому ви можете надіслати відгук своїми словами.

Система зворотного зв’язку є корисною. Просто дайте OpenAI трохи часу, щоб просіяти коментарі. Мільйони користувачів регулярно коментують ChatGPT — його розробники, ймовірно, віддають перевагу серйозним випадкам упередженості та створенню шкідливих результатів.

Чи безпечні ваші розмови в ChatGPT?

Беручи до уваги політику конфіденційності OpenAI, ви можете бути впевнені, що ваші дані залишаться в безпеці. ChatGPT використовує розмови лише для навчання даних. Його розробники вивчають зібрану інформацію, щоб підвищити точність і надійність вихідних даних, а не викрадати особисті дані.

З огляду на це, жодна система ШІ не є ідеальною. ChatGPT за своєю суттю не є упередженим, але зловмисники все одно можуть використовувати його вразливості, наприклад, помилки набору даних, недбале навчання та лазівки в безпеці. Щоб захистити себе, навчіться боротися з цими ризиками.