intel/intel-extension-for-transformers

⚡ Build your chatbot within minutes on your favorite device; offer SOTA compression techniques for LLMs; run LLMs efficiently on Intel Platforms⚡

Archivé : ce dépôt n’évolue plus

Propriétaire: intel (organisation)
Étoiles: Étoiles : 2 174
Forks: Forks : 214
Langage: Python
Licence: Apache-2.0
Création: 2022
Sujets: large-language-modelchatbot4-bitsllm-inferencellm-cpuchatpdfstreamingllmintel-optimized-llamacppspeculative-decodingneural-chat
Rang: RC (2 000 à 4 999 ★) Ce que veut dire ce rang

Autres dépôts de intel