jundot/omlxPython19.2k
GitHubで見る →

LLM inference server with continuous batching & SSD caching for Apple Silicon — managed from the macOS menu bar

技術情報

言語

Python

ライセンス

Apache-2.0

最終更新

2026-08-18

スター数

19,158

フォーク数

1,648

Issue数

921

トピック

apple-siliconinference-serverllmmacosmlxopenai-api

関連リポジトリ