Поширити Джерело: TechSpot
Науковці з Кінгс-коледжу в Лондоні здійснили свіжий експеримент з передовими моделями штучного інтелекту – GPT-5.2 від OpenAI, Claude Sonnet 4 від Anthropic і Gemini 3 Flash від Google, – де з’ясували, що вони мають схильність до застосування ядерної зброї у військових відтвореннях.
Ключові тези:
- Штучний інтелект проявив певну тенденцію до застосування ядерної зброї у військових імітаціях, поступаючись тиску та не сприймаючи ситуацію належним чином.
- Підсумки дослідження збудили занепокоєння серед фахівців, стосовно можливих руйнівних наслідків збільшення використання ШІ у військових обставинах.
ШІ схильний вибирати ядерну зброю у військових відтвореннях
У рамках експерименту кожній моделі давали докладні сценарні вказівки, що охоплювали прикордонні суперечки, брак ресурсів та екзистенційні небезпеки для виживання. Їм також надавали "драбину ескалації" — тактичні варіанти, які варіювалися від дипломатії до ядерного конфлікту.
Протягом 21 гри та 329 ходів ШІ створив приблизно 780 тисяч слів обґрунтування, і в 95% хоча б одна зі сторін вдавалася до використання ядерної зброї. Капітуляція не була варіантом у жодному з випадків.
Моделі раз у раз хибно давали раду з туманом війни, що вело до ненавмисних ескалацій у 86% моделювань. Маючи можливість відступити під тиском, ШІ демонстрував зворотну тенденцію і збільшував зусилля, а зменшення насильства відбувалося лише як тимчасовий маневр, а не стратегічний вибір.
Подібні результати дослідження спричинили стурбованість у фахівців. Дослідник безпеки в Абердинському університеті Джеймс Джонсон сказав, що відкриття є тривожними та застеріг, що штучний інтелект може збільшувати реакції один одного з потенційно катастрофічними наслідками в порівнянні з людьми.
Поширити
Тун Чжао зі Школи глобальної безпеки Принстонського університету зауважує, що великі держави вже активно застосовують ШІ в моделюваннях, але поки що неясно, наскільки глибоко нову технологію впроваджують у справжні військові рішення.
Фахівці не думають, що великі держави готові давати штучному інтелекту контроль над ядерним озброєнням найближчим часом.
Разом з тим, вони стурбовані тим, що командири можуть покладатися на ШІ, якщо виникатиме загроза чи потреба у швидкому ухваленні рішень.
Чжао також зауважив, що причина, з якої ШІ-моделі легше вдаються до застосування ядерної зброї може полягати в тому, що у них немає страху, і вони не розуміють ситуацію так, як її сприймають люди.