Méthode de calcul
L'assistant part de la mémoire, car un GPU qui ne peut pas contenir le travail est inutile à n'importe quel prix. Pour exécuter un modèle, nous dimensionnons les poids à la précision qu'implique votre priorité — 4 bits pour le moins cher, 8 bits pour l'équilibre, 16 bits pour le plus rapide — plus le cache KV pour un contexte de 8K. Le fine-tuning utilise QLoRA (ou LoRA si vous choisissez le plus rapide), l'entraînement l'état complet en précision mixte, et les modèles d'image la VRAM habituelle de chaque famille.
Parmi les GPU qui conviennent et ont un prix actuel, le moins cher classe par tarif horaire, le plus rapide par bande passante mémoire (qui fixe la vitesse de génération) et équilibré par prix par unité de bande passante — le plus de vitesse par dollar. Si aucune carte seule ne convient, il affiche les plus petites configurations multi-GPU. Chaque résultat renvoie à la page du GPU avec tous les fournisseurs, car le moins cher n'est pas toujours le plus fiable.