Великі мікросхеми Cerebras WSE-3 розміром з iPad здатні запускати найшвидшу на сьогодні нейромережу на швидкості, що на порядок вище, ніж найкращі хмарні сервери на основі GPU.
Як розповіла компанія Cerebras, вона запустила клієнтське робоче навантаження на новій моделі Llama 3.1 405B зі швидкістю 969 токенів/сек, і це новий рекорд для моделі Frontier. Щоб проілюструвати, наскільки це швидко, Cerebras доручила своєму сервесу створити шахову програму на Python. Cerebras Inference впорався приблизно за 3 секунди, а Fireworks – найшвидший хмарний ШІ сервіс, оснащений графічними процесорами – за 20 секунд.
Також компанія похвалилася, що лише одна мікросхема WSE-2 перевершила суперкомп'ютер Frontier у 768 разів у моделюванні молекулярної динаміки. А Frontier з 2021 року був найшвидшим суперкомп'ютером у світі і лише зараз його змістив El Capitan.
Нагадаємо, Cerebras WSE-3 містить 4 трлн транзисторів, 900 000 ядер та 44 ГБ пам'яті з пропускною здатністю 21 ПБ/с.
Як розповіла компанія Cerebras, вона запустила клієнтське робоче навантаження на новій моделі Llama 3.1 405B зі швидкістю 969 токенів/сек, і це новий рекорд для моделі Frontier. Щоб проілюструвати, наскільки це швидко, Cerebras доручила своєму сервесу створити шахову програму на Python. Cerebras Inference впорався приблизно за 3 секунди, а Fireworks – найшвидший хмарний ШІ сервіс, оснащений графічними процесорами – за 20 секунд.
Також компанія похвалилася, що лише одна мікросхема WSE-2 перевершила суперкомп'ютер Frontier у 768 разів у моделюванні молекулярної динаміки. А Frontier з 2021 року був найшвидшим суперкомп'ютером у світі і лише зараз його змістив El Capitan.
Нагадаємо, Cerebras WSE-3 містить 4 трлн транзисторів, 900 000 ядер та 44 ГБ пам'яті з пропускною здатністю 21 ПБ/с.