# NVIDIA/TensorRT-LLM

<https://repo.masters-masters.com/repos/NVIDIA/TensorRT-LLM>

[Accueil](https://repo.masters-masters.com/) › [NVIDIA](https://repo.masters-masters.com/owners/NVIDIA) › [TensorRT-LLM](https://repo.masters-masters.com/repos/NVIDIA/TensorRT-LLM)

NVIDIA/TensorRT-LLM, dépôt open source à 14 990 étoiles sur GitHub. Carte Stable de RepoMasters. TensorRT LLM provides users with an easy-to-use Python API to…

| Champ | Valeur |
| --- | --- |
| Propriétaire | [NVIDIA](https://repo.masters-masters.com/owners/NVIDIA) |
| Étoiles | 14 990 |
| Forks | 2 897 |
| Langage | [Python](https://repo.masters-masters.com/languages/python) |
| Licence | Aucune |
| Création | 2023 |
| Sujets | blackwell, cuda, moe, pytorch, llm-serving |
| Rang | [Stable (5 000 à 19 999 ★)](https://repo.masters-masters.com/ranks/cult) |
| Voir sur GitHub | [NVIDIA/TensorRT-LLM](https://github.com/NVIDIA/TensorRT-LLM) |

## Fiche du dépôt

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execu…

Rang des dépôts qui ont 5 000 à 19 999 ★ sur GitHub. Probabilité publiée par carte tirée : 0,9 %. Rareté : Très rare.

## Autres dépôts de NVIDIA

- [NVIDIA/SkillSpector · ★ 23 897 · Python · LTS](https://repo.masters-masters.com/repos/NVIDIA/SkillSpector)
- [NVIDIA/NemoClaw · ★ 22 915 · TypeScript · LTS](https://repo.masters-masters.com/repos/NVIDIA/NemoClaw)
- [NVIDIA/OpenShell · ★ 20 930 · Rust · LTS](https://repo.masters-masters.com/repos/NVIDIA/OpenShell)
- [NVIDIA/Megatron-LM · ★ 18 312 · Python · Stable](https://repo.masters-masters.com/repos/NVIDIA/Megatron-LM)
- [NVIDIA/nvidia-docker · ★ 17 607 · Stable](https://repo.masters-masters.com/repos/NVIDIA/nvidia-docker)
- [NVIDIA/open-gpu-kernel-modules · ★ 17 544 · C · Stable](https://repo.masters-masters.com/repos/NVIDIA/open-gpu-kernel-modules)

## D’autres dépôts Python

- [maurosoria/dirsearch · ★ 15 033 · Python · Stable](https://repo.masters-masters.com/repos/maurosoria/dirsearch)
- [nikopueringer/CorridorKey · ★ 15 005 · Python · Stable](https://repo.masters-masters.com/repos/nikopueringer/CorridorKey)
- [optuna/optuna · ★ 15 001 · Python · Stable](https://repo.masters-masters.com/repos/optuna/optuna)
- [pjialin/py12306 · ★ 14 972 · Python · Stable](https://repo.masters-masters.com/repos/pjialin/py12306)
- [myhhub/stock · ★ 14 952 · Python · Stable](https://repo.masters-masters.com/repos/myhhub/stock)
- [wifiphisher/wifiphisher · ★ 14 932 · Python · Stable](https://repo.masters-masters.com/repos/wifiphisher/wifiphisher)

---
Données : GitHub · Illustration : image publique du projet, pixelisée par RepoMasters.