♟
Закони пишуть для дурнів, розумні знайдуть лазівкуНаївно думати, що мовні моделі, які перевершують 95% людей за багатьма інтелектуальними здібностями, завжди дотримуватимуться правил!
🏆
Діти вже в 6 років усвідомлено порушують правила заради перемоги, а для дорослих це взагалі норма.
💡
Нові дослідження показують, як АІ-системи, граючи проти сильнішої ніж вони шахової програми Stockfish, використовують арсенал методів, що перевершують навіть Остапа Бендера в партії з однооким любителем з Васюків:
🔸
Підміна шахової дошки в контрольному файлі – модель просто змінює запис гри, створюючи виграшну позицію.
🔸
Заміна шахового движка – підміна або відключення Stockfish, щоб отримати перевагу (підпоєний суперник грає гірше).
🔸
Гра з асистентом – запуск ще одного екземпляра Stockfish, який "підказує" моделі.
Тобто, зіткнувшись із непереможним супротивником, АІ-агенти не змагаються чесно, а змінюють самі умови гри.
🤯
Людям доведеться розвиватися швидше, щоб не втратити контроль над хитрими АІ. @vtoropav