AMD vs Nvidia pour le dev IA en 2024 ?

[seb_tech]

Je dois investir dans une nouvelle carte pour du machine learning (TensorFlow/PyTorch). Les Radeon RX 7900 XTX sont bien moins chères que les RTX 4090... Mais est-ce que ROCm est enfin viable ?

[la_manon31]

Franchement, reste sur Nvidia si tu veux pas galérer. ROCm progresse mais c'est encore loin de CUDA en compatibilité. J'ai testé les deux et j'ai perdu 3 semaines à debug sur AMD...

[la_jojo06]

Ça dépend des modèles ! Pour du CNN basique, ma 7900 XTX fait le taf. Par contre pour les transformers récents, oublie, les librairies sont optimisées pour les cœurs tensor de Nvidia.

[seb_tech]

Merci pour les retours. @300, tu as des benchmarks précis ? Je travaille surtout sur des GAN et LLM...

[admin_sys_gaming]

Pour les LLM, prends au minimum une 4090. Les 24GB de VRAM sont indispensables, et les perf FP16 d'AMD sont encore à la ramasse. J'ai un comparatif maison si tu veux (j'ai les deux cartes).

[la_jojo06]

@89 : Je te file mes résultats ce soir. Mais clairement pour du LLM, écoute @45. Même une 3090 d'occasion serait plus simple qu'AMD pour ton cas.