Поширити Джерело: Nature
Результати шести великих досліджень великих мовних моделей вказують на те, що чат-боти ChatGPT і Claude більш схильні позитивно описувати уряд, коли політичні запити формулюються мовою країни, де держава жорстко регулює засоби масової інформації.
Ключові тези:
- ChatGPT і Claude висловили більш позитивне ставлення до уряду Китаю китайською, ніж англійською мовою.
- Це ще не є свідченням безпосереднього втручання урядів у функціонування чат-ботів, але показує інший спосіб впливу — через тексти, на яких ці системи проходять навчання.
ChatGPT і Claude знають, що таке політична цензура
Автори дослідження прагнули з’ясувати, чи може державний контроль над ЗМІ впливати на реакції чат-ботів.
Для цього вони ретельно зіставили китайські тексти з медіа, що контролюються державою, з відкритими базами даних, які використовуються для навчання мовних моделей.
В цілому було виявлено близько 3,1 мільйона китайськомовних документів зі значною схожістю з такими текстами.
Крім того, зазначено, що комерційні моделі фактично повторювали типові вирази з державних медіа-текстів, що вказує на можливу наявність подібних матеріалів у їхніх навчальних даних.
Аналогічну тенденцію помітили і в комерційних моделях ChatGPT від OpenAI та Claude від Anthropic. Коли їм задавали ідентичні питання щодо політики Китаю китайською та англійською мовами, відповіді китайською мовою частіше демонстрували прихильність до китайського уряду. А в порівнянні 37 країн, моделі частіше надавали відповіді, більш прихильні до місцевих урядів, мовами країн з більш суворим контролем ЗМІ, ніж англійською.
Поширити