PrototypeCommune
infinigence/Semi-PD
A prefill & decode disaggregated LLM serving framework with shared GPU memory and fine-grained compute isolation.
- Propriétaire
- infinigence (organisation)
- Étoiles
- Étoiles : 141
- Forks
- Forks : 17
- Langage
- Python
- Licence
- Apache-2.0
- Création
- 2025
- Rang
- Prototype (100 à 249 ★) Ce que veut dire ce rang
Autres dépôts de infinigence
Les 5 dépôts de infinigence- infinigence/Infini-MegrezÉtoiles : 337Alpha
- infinigence/FlashOverlapÉtoiles : 252PythonAlpha
- infinigence/Infini-Megrez-OmniÉtoiles : 243PythonPrototype
- infinigence/FUSCOÉtoiles : 127PythonPrototype
D’autres dépôts Python
Tous les dépôts Python- ZiyuanDu/deepinfer-unpackedÉtoiles : 141PythonPrototype
- NewBeeM4n/codex-overload-fixÉtoiles : 141PythonPrototype
- zhtyyx/codex-seoÉtoiles : 141PythonPrototype
- pelme/django-compressÉtoiles : 141PythonPrototype
- simonw/ratelimitcacheÉtoiles : 141PythonPrototype
- lmacken/liveusb-creatorÉtoiles : 141PythonPrototype