Benvenuti nella rubrica ASSEMBLO BUILD! 🤓
Come di consueto, ogni Mercoledì verrà presentata una build d’esempio che potrete replicare ed assemblare! Oggi parliamo di THOTH, un AI PC di fascia molto alta, perfetto per la creazione in locale di contenuti di ogni tipo con l’Intelligenza Artificiale, come Immagini, Testi, Musica e non solo, in quanto la potenza a disposizione è così tanta che ci troviamo di fronte ad una vera e propria Workstation AI a tutti gli effetti.
THOTH è in grado di far girare velocemente in locale più macchine virtuali, docker, container e, grazie anche al grande spazio di archiviazione veloce e non a disposizione, permette di salvare una grande quantità di dati relativi ai vostri lavori con l’IA, come i vari modelli LLM, gli environment Python e i vari SO che andrete ad installare sulla macchina.
Ma parliamo dei componenti 👇
CPU: AMD Ryzen 9 7950X
DISSIPATORE: Arctic Liquid Freezer III 420mm
SCHEDA MADRE: Gigabyte X670 AORUS ELITE AX
RAM: 2x G.Skill Trident Z5 64GB (2x32GB) DDR5-6000 CL30
STORAGE: Crucial T700 2TB
STORAGE #2: 2x Seagate Exos X16 12TB 7200rpm
GPU: Gigabyte WINDFORCE V2 GeForce RTX 4080 SUPER 16GB
CASE: Lian Li LANCOOL III
ALIMENTATORE: SeaSonic VERTEX GX-1200 80+ Gold
Come possiamo vedere, parliamo di una macchina della fascia Enthusiast. La scelta del 7950x e della RTX 4080 Super è stata presa in quanto abbiamo bisogno di tanta potenza computazionale di base per far girare in maniera sempre fluida e reattiva i nostri ambienti di lavoro per l’IA, nonché una piena compatibilità con tutti i framework di base come CUDA, cuDNN, Python, ecc.
Il Ryzen 9 7950X, infatti, è una CPU in configurazione 16 Core e 32 Thread, con frequenza di base di 4.5 GHz e 5.7GHz in Boost, il tutto in un TDP di default di 170W. Per dissiparlo a dovere è stato associato al nuovo AiO Arctic Liquid Freezer III da 420mm, uno dei pochi modelli di dissipatori in grado di tenerlo sempre nell’intorno del boost clock in full load tenendolo sotto la temperatura target di 95°C (come conferma anche techpowerup nella review del processore usando il vecchio modello freezer ii; quindi questi dati possono solo che migliorare col nuovo modello, ndr).
La grande quantità di RAM è utile per contenere in memoria tutti i nostri framework e le eventuali virtual machine, mentre a livello di archiviazione è stata scelta una configurazione ibrida. Infatti, per gli SO ci affideremo ad un Crucial T700 da 2TB, ovvero un SSD NVME Gen5 con velocità sequenziali di lettura/scrittura di, rispettivamente, 12.4GB/s e 11.8GB/s, che ci garantiranno, grazie anche ad una resistenza di 600TBW, tanta longevità e tempi di caricamento rapidi e reattivi.
Per l’archiviazione pura, invece, ci affidiamo a 2 dischi rigidi da 7200rpm di Seagate, gli Exos X16 da ben 12TB ognuno. Questi dischi, nati per ambienti cloud/data center, sono dotati di 256MB di cache e una latenza media di circa 4ms, con un MTBF (Mean Time Before Failure) di 2.5M di ore. Tutto questo spazio, per quanto ci possa sembrare tantissimo, è una soluzione di storage in locale appena ideale per tutto il materiale che genererete dai vostri modelli, nonché per i modelli stessi. Basti pensare che, ad esempio, usando Stable Diffusion in locale, un solo modello può pesare dai 2 ai 5GB, se non di più, e per ogni stile che vorremo provare, ci saranno, quindi, altrettanti file da scaricare (i famosi .ckpt, ndr). Quanti ce ne sono là fuori? TANTI! Ecco 2 siti dove potersi fare un’idea dell’entità della cosa: Civitai e Hugging Face. Buona visione 🙂
Come GPU è stata scelta la nuova RTX 4080 Super. Su questa fascia di prezzo avremmo potuto optare per la RTX 4090, ma il prezzo totale sarebbe lievitato di circa 700/800€, andando su una fascia di prezzo di quasi 5k €. Quindi, al netto del prezzo della 4080 Super e al netto delle prestazioni della 4090, ad esempio, in SD (come evidenzia anche Puget System), avremmo avuto un boost prestazionale del 20/25% ma a fronte di un aumento del costo sostenuto per la GPU di più del 70% rispetto alla 4080!
Questa comparazione non include, poi, il consumo. In Full Load, la 4090 può consumare anche quasi 500W, mentre la 4080 Super si ferma intorno ai 300W, e questo significa ridurre il consumo totale di più del 60% sulla GPU. Quindi la soluzione che risiede nella RTX 4080 Super risulta essere anche molto più efficiente in termini di Content Generation, pertanto rappresenta, in questo contesto e secondo l’opinione di Assemblo Computer, un approccio migliore.
THOTH, inoltre, è ospitato all’interno di un Lian Li Lancool III. Questo Mid Tower grosso e spazioso, è dotato di un airflow eccellente, nonché di una buona gestione del cable management e, soprattutto, di una grande espandibilità. Infatti in futuro, all’interno di questo case, potremo installare un massimo di 12 SSD da 2.5″ o 4 HDD da 3.5″ e 8 SSD da 2.5″. Questo significa che la build può trasformarsi in un PC in grado di ospitare anche più di 100TB di spazio di archiviazione in locale!
L’alimentatore invece, un SeaSonic VERTEX GX-1200, è una soluzione sovradimensionata sia a livello di Watt totali che di qualità, così da permettere l’espandibilità futura in termini di GPU e CPU (eventuali upgrade con modelli più potenti ed energivori) e una prolungata garanzia di funzionamento (12 anni del produttore, ndr).
Quanto costa? Mettendo insieme su Amazon tutti questi componenti, il totale è di circa 3800€ (prezzi aggiornati al 21 Maggio 2024, ndr).
Che ne pensate? Siete pronti a replicarla? Se siete interessati, trovate i link ai prodotti all’interno dell’articolo. Vi aspetto all’appuntamento di mercoledì prossimo con una nuova build tutta da approfondire. Stay tuned 💪
DISCLAIMER: Assemblo Computer non è un negozio e non vende i prodotti indicati sulle sue pagine. Le liste dei componenti possono essere intese come consigli per gli acquisti e Assemblo Computer non si assume, quindi, la responsabilità di eventuali problemi pre, durante e post acquisto o errori da parte dei rivenditori terzi interessati. Infatti, essendo Assemblo Computer iscritto al programma di Affiliazione di Amazon, qualora si decida di acquistare i componenti a partire da questi link si andrà a generare una commissione che sosterrà direttamente questo progetto. Grazie per l’attenzione.
