Il me semble que tu peux faire ça avec OpenMP et le compilateur Clang d’AMD.
En gros il suffirait d’ajouter des #pragma omp à ton code et d’utiliser -fopenmp --offload-arch=<l’architecture AMD> à la ligne de commande clang, ou quelque chose comme ça.
Mais ça c’est une fonctionnalité de ROCm, et le sujet de la dépêche c’est RADV et donc en partie Vulkan compute. Et Vulkan compute c’est pas aussi intégré. En gros l’état des choses c’est que pour le codeur Vulkan compute c’est plus compliqué, mais pour l’utilisateur c’est mieux parce que ça marche partout.
Alors que les trucs à la ROCm, bah ça marche surtout sur la machine du développeur en mode chezmoiçamarcheTM. CUDA a en partie le même problème, mais son écrasante domination et la maturité du bousin, contrairement à ROCm, fait que ça marche quand même mieux chez les autres.
Typiquement pour Whisper, j’ai arrêté d’utiliser ROCm, ça marchait sur une carte et demi. Et en plus ça mettait des plombes rien qu’à démarrer le python... Alors qu’avec whisper.cpp en Vulkan sur RADV, ça marche partout. Pour l’utilisateur c’est royal.
ce commentaire est sous licence cc by 4 et précédentes
[^] # Re: Comment ça se programme ?
Posté par Thomas Debesse (site web personnel, Mastodon) . En réponse à la dépêche AMD mise tout sur RADV. Évalué à 7.
Il me semble que tu peux faire ça avec OpenMP et le compilateur Clang d’AMD.
En gros il suffirait d’ajouter des
#pragma ompà ton code et d’utiliser-fopenmp --offload-arch=<l’architecture AMD>à la ligne de commande clang, ou quelque chose comme ça.Mais ça c’est une fonctionnalité de ROCm, et le sujet de la dépêche c’est RADV et donc en partie Vulkan compute. Et Vulkan compute c’est pas aussi intégré. En gros l’état des choses c’est que pour le codeur Vulkan compute c’est plus compliqué, mais pour l’utilisateur c’est mieux parce que ça marche partout.
Alors que les trucs à la ROCm, bah ça marche surtout sur la machine du développeur en mode chezmoiçamarcheTM. CUDA a en partie le même problème, mais son écrasante domination et la maturité du bousin, contrairement à ROCm, fait que ça marche quand même mieux chez les autres.
Typiquement pour Whisper, j’ai arrêté d’utiliser ROCm, ça marchait sur une carte et demi. Et en plus ça mettait des plombes rien qu’à démarrer le python... Alors qu’avec whisper.cpp en Vulkan sur RADV, ça marche partout. Pour l’utilisateur c’est royal.
ce commentaire est sous licence cc by 4 et précédentes