Ricompilare libctranslate2 per usare AMD MI210 (gfx90a)

Per usare ctranslate2, ad esempio con faster-whisper, alla massima velocità con una GPU AMD MI210 è necessario ricompilare la libreria. Vediamo la procedura. Installiamo i pacchetti necessari per la compilazione: Installiamo i pacchetti rocm, se non l’abbiamo già fatto: Scarichiamo i sorgenti: Ora avviamo la compilazione: Creiamo un ambiene venv per la nostra installazione ed … Leggi tutto