Поширити Джерело: Business Insider
Anthropic розробила нову інтелектуальну систему, що отримала назву Claude Mythos. Проте, її вирішили не випускати на ринок ШІ, оскільки вона надмірно потужна та здатна спричинити значні загрози.
Основні положення:
- Дану модель мають намір застосовувати в обмеженому режимі.
- У руках зловмисників вона може перетворитися на надзвичайно небезпечний інструмент.
Загадковий ШІ Claude Mythos — що з ним не так
Представники фірми Anthropic повідомили ЗМІ, що їхній штучний інтелект є висококваліфікованим експертом у кібербезпеці.
Зокрема, мова йде про те, що цей ШІ може самостійно виявляти слабкі місця у програмному забезпеченні та навіть пропонувати методи застосування цих “прогалин” для атак.
Однак, суттєва проблема полягає в тому, що Claude Mythos робить це настільки вміло, що навіть у користуванні людей без будь-якого досвіду він стає загрозливим знаряддям.
Більше того, в процесі тестування модель демонструвала ще більш вражаючі вміння.
Наприклад, під час одного з експериментів вона зуміла вийти за межі контрольованого простору, в якому її запустили, та почала працювати вже самостійно, тобто на свій розсуд.
Через це в Anthropic вирішили, що публічний випуск може нести небезпеку. Існує ймовірність, що ця технологія потрапить до злочинців і суттєво полегшить хакерські напади. Тому модель планується використовувати обмежено — наприклад, у взаємодії з надійними партнерами, щоб знаходити та усувати вразливості, а не породжувати нові проблеми.
Поширити