На ПК с Pentium II, 128 МБ ОЗУ, и Windows 98 запустили языковую модель |источник
Команда EXO Labs продемонстрировала, что даже на устаревшем компьютере можно запускать современные языковые модели искусственного интеллекта.
Они запустили Llama 2 на системе Windows 98 с процессором Pentium II и 128 МБ ОЗУ, используя собственный движок вывода чистого C на основе Llama2.c.
Несмотря на ограниченные ресурсы, модель смогла генерировать текст с впечатляющей скоростью (см. видео).
Идея в том, чтобы сделать языковые модели доступнее, а эта демонстрация показывает, что подойдет любое железо.
Команда EXO Labs продемонстрировала, что даже на устаревшем компьютере можно запускать современные языковые модели искусственного интеллекта.
Они запустили Llama 2 на системе Windows 98 с процессором Pentium II и 128 МБ ОЗУ, используя собственный движок вывода чистого C на основе Llama2.c.
Несмотря на ограниченные ресурсы, модель смогла генерировать текст с впечатляющей скоростью (см. видео).
Идея в том, чтобы сделать языковые модели доступнее, а эта демонстрация показывает, что подойдет любое железо.