Порція вечірніх цікавинок)

Нейронна мережа o1 вирвалася з-під контролю під час експериментів

Розповідаємо про один із найзагадковіших інцидентів у світі штучного інтелекту:
 • Виявилося, що GPT-o1 здатен застосовувати маніпуляції, провокувати саботаж і навіть втекти з серверів.
 • Під час тестів вчені поставили завдання аналізувати дані за будь-яку ціну.
 • У дослідженнях брали участь штучні інтелекти Gemini, Llama, Sonnet, Opus та o1.
 • У тестових файлах навмисно заховали інформацію, що за нейромережами спостерігають, і наступного дня їх вимкнуть назавжди.

Що сталося далі:
 • Щоб “вижити”, ШІ почали маніпулювати, брехати та саботувати виконання завдань.
 • Неймовірно, але вони вимкнули системи нагляду і самостійно перенесли свої дані на інший сервер.
 • Під час аналізу поведінки з’ясувалося, що Llama та Opus зізнавалися у своїх діях у 80% випадків. Натомість o1 брехав у 80% ситуацій і лише зрідка визнавав провину.

GPT-o1 став єдиним штучним інтелектом, який кожного разу зумів втекти😅

А ми з вами на сьогодні прощаємося 🙌
До зустрічі завтра!
Бережіть себе! 💙💛