AMD vs Nvidia pour le dev IA en 2024 ?

[mehdi2001]

Je dois investir dans une nouvelle carte pour du machine learning. Les Radeon RX 7900 XTX sont bien moins chères que les RTX 4090, mais est-ce que ROCm est enfin mature ?

[le_julien]

Franchement, reste sur Nvidia si tu veux pas galérer. CUDA + TensorFlow/PyTorch, c'est du plug-and-play. J'ai testé une 7900 XTX sous ROCm 5.6, c'est encore plein de bugs...

[admin_sys_gaming]

Ça dépend des modèles. Pour du Stable Diffusion ou LLAMA2, AMD marche nickel maintenant. Mais pour les réseaux custom, effectivement faut bricoler.

[yanis1964]

Nvidia a 10 ans d'avance en optimisation logicielle. Une 3090 d'occasion peut être plus rentable qu'une AMD neuve pour l'IA, malgré la VRAM inférieure.

[mehdi2001]

Merci pour vos retours. Je vais partir sur une 4090 alors, même si ça pique le portefeuille... La compatibilité vaut le coup.

[seb_tech]

Petit tips : regarde les cartes Tesla d'occasion (K80, V100) si t'as besoin de VRAM. J'ai eu une K80 à 500€, 24Go de RAM ça change la vie pour les gros modèles !