JustVugg/colibriC47.1k
GitHubで見る →

A hierarchical inference engine for frontier MoE models: hot experts on the GPU (CUDA, Vulkan), warm ones in RAM, cold ones streamed from NVMe. Written in C, runs on the hardware you already own.

技術情報

言語

C

ライセンス

Apache-2.0

最終更新

2026-11-03

スター数

47,076

フォーク数

5,439

Issue数

170

過去のトレンド履歴

関連リポジトリ