Поширити
Штучний інтелект ChatGPT знов опинився у центрі обговорень після того, як користувачі зауважили незвичайну поведінку мовної моделі. Компанія OpenAI вже опублікувала офіційну заяву з цього приводу.
Основні тези:
- ChatGPT став посилатися на “гоблінів” на 175% частіше, ніж раніше, а на “гремлінів” – на 52%.
- Команда OpenAI визнала свою причетність до того, що відбувається.
Що знову не так з ChatGPT?
Безліч питань у користувачів виникає під час роботи з мовними моделями лінійки GPT-5.
Основна проблема полягає в тому, що в розмовах вони все частіше почали використовувати алегорії з "гоблінами", "гремлінами" та іншими казковими персонажами.
У зв’язку з цим юзери почали нарікати на надмірну "розкутість" відповідей чат-бота.
Команда OpenAI зрештою вирішила пояснити, що насправді трапилось.
Зі слів представників компанії, головною причиною подібної поведінки бота став алгоритм навчання моделей під конкретні типи "характеру", які користувачі потім могли вибирати для взаємодії з ChatGPT.
Особливо чітко проблема проявилася у бота з типом характеру Nerdy (сленговий "зубрила"). Хоча на характер Nerdy припадало лише 2,5% відповідей ChatGPT, саме ця версія виявилася відповідальною за 66,7% всіх згадок гоблінів.
Поширити
Як відзначають розробники, коли тренували версію Nerdy під специфічну "зубрильську" манеру спілкування, їй мимоволі прописали особливо високий пріоритет вживання "метафор з істотами".
Звідти поширилися гобліни, — офіційно констатувала компанія OpenAI.
Поширити