Розробники компанії EXO Labs провели цікавий експеримент. Вони запустили сучасну ШІ-модель Llama на комп'ютері з процесором Pentium II, 128 МБ оперативної пам'яті та операційною системою Windows 98, після чого попросили нейромережу згенерувати історію на задану тему. Як би там не було, із поставленим завданням вона впоралася.
За їх словами, однією з головних труднощів у реалізації проекту стало завантаження даних мовної моделі на старий ПК протоколом FTP через порт Ethernet. Ще складнішим завданням виявилася компіляція сучасного коду для Windows 98 - інженерам довелося написати "700 рядків чистого C, які можуть виконуватись на моделях з архітектурою Llama 2". Це дозволило перетворити код на виконуваний файл, сумісний із Windows 98.
Враховуючи значний вік ПК і частоту CPU у 350 МГц, мовна модель Llama 2 працювала з пристойною швидкістю (трохи більше 1 токена в секунду), тоді як результат Llama 3.2 1B становив 0,0093 токена в секунду.
За їх словами, однією з головних труднощів у реалізації проекту стало завантаження даних мовної моделі на старий ПК протоколом FTP через порт Ethernet. Ще складнішим завданням виявилася компіляція сучасного коду для Windows 98 - інженерам довелося написати "700 рядків чистого C, які можуть виконуватись на моделях з архітектурою Llama 2". Це дозволило перетворити код на виконуваний файл, сумісний із Windows 98.
Враховуючи значний вік ПК і частоту CPU у 350 МГц, мовна модель Llama 2 працювала з пристойною швидкістю (трохи більше 1 токена в секунду), тоді як результат Llama 3.2 1B становив 0,0093 токена в секунду.