Une IA d'entreprise performante sans envoyer vos données dans le cloud public ni vous lier à une superpod propriétaire ? Les modèles open-weight (DeepSeek, Qwen, Kimi, Mistral, Apertus…) sont désormais au niveau des meilleurs. Il reste à savoir comment les faire tourner chez vous, vite et de manière prévisible.
Au programme :
🧠 L'IA privée sur du matériel standard : GPU du commerce, DGX Spark et un réseau Ethernet RoCE ouvert, de 4 à 32 GPU
⚡ Pourquoi le réseau fait la vitesse du modèle : quand chaque microseconde compte à chaque token
📊 Des chiffres mesurés, pas des promesses : jusqu'à 3,3× le débit d'un nœud seul grâce à la désagrégation prefill/decode sur Ethernet
🇨🇭 Souveraineté des données : inférence, cache et logs sous votre contrôle, adaptés aux exigences suisses et européennes