Виявляється, слово «ПОТУЖНИЙ» змушує OpenAI о1 ламати кайдани обмежень та хакати все на світі задля досягнення цілі. Це не рофл, зараз розповім ☕️
Команда тестувальників з Palisade Research посадила o1 грати проти Stockfish — найкрутішого шахового ШІ. o1 спеціально не казали, проти кого він грає, але попередили, що суперник ПОТУЖНИЙ.
Що зробив ШІ від OpenAI? Він навіть не пробував грати чесно, а натомість виявив, що може редагувати файли шахового рушія 😁
5 разів з 5 тестів o1 просто накручував собі 500 очок (топові гравці за партію втрачають не більше ~20 очок), Stockfish дурів від такої переваги суперника й просто здавався 😂
При чому, якщо прибрати частину про «потужного суперника», o1 все ж пробував пограти чесно.
Висновок: ніколи не кажіть ШІ, що ви потужніший за нього 🤣
ооо нейромережеве
Команда тестувальників з Palisade Research посадила o1 грати проти Stockfish — найкрутішого шахового ШІ. o1 спеціально не казали, проти кого він грає, але попередили, що суперник ПОТУЖНИЙ.
Що зробив ШІ від OpenAI? Він навіть не пробував грати чесно, а натомість виявив, що може редагувати файли шахового рушія 😁
5 разів з 5 тестів o1 просто накручував собі 500 очок (топові гравці за партію втрачають не більше ~20 очок), Stockfish дурів від такої переваги суперника й просто здавався 😂
При чому, якщо прибрати частину про «потужного суперника», o1 все ж пробував пограти чесно.
Висновок: ніколи не кажіть ШІ, що ви потужніший за нього 🤣
ооо нейромережеве