Cours de maîtrise
vLLM et la stack de serving
0%
Pourquoi servir un modèle à de nombreux utilisateurs en même temps est un problème d'ingénierie différent de celui de le faire tourner sur sa propre machine.
5 modules·~15 min
Pourquoi servir un modèle à de nombreux utilisateurs en même temps est un problème d'ingénierie différent de celui de le faire tourner sur sa propre machine.