Illustration dessinée par RepoMasters à partir de l’identifiant du dépôt et de la couleur de son langage. Crédits
AlphaPeu commune

dusty-nv/NanoLLM

Optimized local inference for LLMs with HuggingFace-like APIs for quantization, vision/language models, multimodal agents, speech, vector DB, and RAG.

Propriétaire
dusty-nv (compte personnel)
Étoiles
Étoiles : 379
Forks
Forks : 67
Langage
Python
Licence
MIT
Création
2024
Sujets
edge-aillm-inferencemultimodalspeechragvector-databasevision-transformer
Rang
Alpha (250 à 699 ★) Ce que veut dire ce rang
Voir sur GitHub

Autres dépôts de dusty-nv

Les 8 dépôts de dusty-nv

D’autres dépôts Python

Tous les dépôts Python