Ich habe schon einige PCs selbst gebaut, aber da ich kein Gamer bin, bin ich bisher mit der in der CPU integrierten GPU ausgekommen. Für den Alltag und Grafikanwendungen wie Gimp und Inkscape reicht das völlig aus. Seit einiger Zeit habe ich angefangen, mit Stable Diffusion zu experimentieren. Stable Diffusion kann man auch nur mit der CPU laufen lassen, leider ist dann die Bildgenerierung sehr langsam. Deshalb habe ich beschlossen, mir eine Grafikkarte zuzulegen.
Nur welche sollte es sein. Nach allem, was ich im Internet gefunden habe, ist es wichtig möglichst viel RAM zu haben, am besten 8 GB oder mehr. Da ich mit Linux arbeite, wurde mir auch eine NVIDIA Karte empfohlen, da für diese Karten die Treiberunterstützung am besten sei.
Also bin ich zum Händler meines Vertrauens und habe geschaut, was es gibt; die Auswahl ist riesig und in allen Preisklassen. Ich habe mich dann für eine Gigabyt Karte mit NVIDA GeForce RTX 3060 entschieden, da das Preisleistungsverhältnis meiner Meinung nach gut war. Die Karte besitzt 12 GB RAM.
Ich habe die Karte bestellt und am nächsten Tag war sie schon bei mir zu Hause. Als ich das Paket öffnete, war nur eine Karte drin. Aber wie baut man die jetzt richtig ein? Eine kleine Anleitung fehlt, anscheinend weiss jeder, der eine Karte bestell, wie man das macht, nur ich nicht.
Ok, dass sie in einen freien Slot auf dem Mainboard gehört war mir schon klar. Also PC aufschrauben, die hinteren Abdeckungen abnehmen und die Karten einstecken, beim Einstecken darauf achten, dass sie richtig einrasten. PC wieder zuschrauben und einschalten. Der Lüfter auf der Karte fängt an zu laufen, die Karte hat also Strom. Leider passiert danach nichts mehr. Woran kann das liegen? PC wieder aufschrauben und nachsehen. Zuerst habe ich nichts bemerkt. Dann habe ich bemerkt, dass die Karte oben noch eine Anschlussmöglichkeit hat.
Ich habe im Internet recherchiert, was man anschliessen muss. Ich finde Hunderte von Videos und Seiten zum Thema, aber die meisten beschäftigen sich nur mit Benchmarks und alle scheinen zu wissen, wie man eine Karte einbaut. Die Lösung des Rätsels war, die Grafikkarte muss noch Strom vom Netzteil bekommen. Also freien Stecker suchen und anschliessen.
PC wieder zusammenschrauben und starten. Nun startet er wieder und ich kann mich einloggen. Schnell die ersten Versuche mit Stable Diffusion machen. Das Generieren der Bilder ist immer noch so langsam wie vorher? Nach einer weiteren Suche im Internet finde ich den Hinweis, dass ich schauen soll, auf welcher GPU mein System läuft. Mit dem Befehl «inxi -G» lasse ich mir anzeigen, welche Grafikkarten im System sind. Dabei wird nur die interne GPU aus der CPU erkannt. Woran liegt das? Irgendwann finde ich den Hinweis, dass noch der NVIDIA-Treiber installiert werden müssen, ich bin davon ausgegangen, dass der Treiber im Kernel integriert ist. Also Treiberverwaltung aufrufen und den neuesten Treiber installieren. PC neu starten und siehe da, die Karte wird erkannt. Erneuter Versuch mit Stable Diffusion und jetzt geht es richtig schnell mit der Generierung der Bilder und macht Spass.
Was noch war. Am Anfang war die Bildschirmauflösung nach einem Stand-by des Systems nicht mehr richtig eingestellt, die Auflösung war dann immer VGA, was auf einem 4k Monitor keinen Spass macht. Ich musste dann jedes Mal das System neu starten, dann war alles wieder in Ordnung. Auf Nachfrage in diversen Foren bekam ich die Antwort, dass man das Problem nur mit einem neuen Kernel oder Treiber beheben kann. Da NVIDIA gefühlt jede Woche einen neuen Treiber herausbringt, ist das Problem in der zwischen Zeit tatsächlich gelöst.
Eigentlich ist der Einbau einer Grafikkarte in einen selbst gebauten PC ganz einfach, wenn man weiss wie. Die meisten, die solche Systeme bauen, wissen es wahrscheinlich auch, aber vielleicht hilft mein Bericht jemandem, der wie ich erst im Nachhinein eine Grafikkarte braucht.
Noch ein Hinweis, moderne Grafikkarten verbrauchen sehr viel Strom, daher sollte man darauf achten, dass das Netzteil zur Karte passt.
Bildnachweis: https://www.nvidia.com/de-de/geforce/graphics-cards/30-series/rtx-3060-3060ti/
Grafikkarten unter Linux. Glaubensfrage, eine Frage der Philosophie, freie Treiber oder doch proprietäre, welche der beiden Großen darf es sein, wird sie von meiner Distribution unterstützt, Kernel passt, ... alleine diese Odyssee ist alles andere als einfach. Derjenige wo sich unter Linux mit dem Thema bereits auseinander gesetzt hat, recherchiert das vorher und kauft nicht zuerst um dann beim oder nach dem Einbau fest zustellen, was alles noch getan werden muss damit sie läuft. Nichts für ungut! Aber tatsächlich realisiert man manche Dinge erst, wenn sie verbaut sind.
eben ... hab hier seit Jahren eine Investitionsruine rumliegen, eine schöne passiv gekühlte Geforce 1050GTX - hatte mir vorgestellt, damit darktable mit opencl-Unterstützung zu betreiben. Geht prinzipiell, aber nur solange, bis die Kiste das erste Mal in Bereitschaft geht. Danach kackt opencl ab und darktable rennt wieder auf der CPU. Dann kann ich mir den Extra-Strom für die GraKa auch sparen und das Ding wieder rauswerfen. Scheint ein Problem mit dem BIOS zu sein, zwei Mainboards unterschiedlicher Hersteller (Asus und Gigabyte), Intel Core i5-3570 CPU. Sowas kannst Du lange recherchieren, wirst Du kaum finden.
%s/inix/inxi/gc
%s/inix/inxi/gc
Befehl «inix -G» lasse ... => sollte das nicht >inxi -G< heißen?
Danke für den Hinweis. Du hast natürlich recht :-)
Wer hat dir das denn bitte erzählt? 😅 Im Gegensatz zu Nvidia sind AMDs offizielle Treiber frei und generell gibts signifikant weniger Probleme mit AMD-Karten. Umd nicht ohne Grund wird beim Steam Deck auf AMD-Grafik gesetzt.
Ja, es ist komplett andersrum. Die AMD-Treiber sind unter Linux in jeder Hinsicht besser.
Es kann aber sein, dass speziell für stable diffusion cuda mit reinspielt und dann mit nvidia selbst unter Linux besser funktioniert. Thomas, das wäre ein guter blogartikel, und könnte dir die Möglichkeit die nvidia-karte noch schnell zurückzugeben. Mit der wirst du ansonsten nur Ärger haben. Und verglichen mit den intel- und AMD-Karten ist die 3060 überteuert.
Das mag sein, dass AMD besser unterstützt wird. Aber wie ich geschrieben habe, möchte ich vor allem Stable Diffusion benützen. Nach allem was ich gelesen wird für dieses Anwenderszenario Nvidia empfohlen vor allem wegen CUDA.
Stable Diffusion und AMD auf Linux ist ein echtes Problem. Es gibt zwar den neuen open source MESA Driver Rusticl der OpenCL unterstützt (zumindest zu großen Teilen) aber dieser driver wird leider nicht von PYTorch und somit von so gut wie allen GUI Stable Diffusion Versionen: wie z.B. Automatic1111, EasyDiffusion, ComFy,... NICHT unterstützt.
Dann gibt es noch den rocm driver von AMD der open ist, aber eben nicht von den distributionen kommt sondern direkt von AMD. Dieser simuliert mit HIP ein Cuda für AMD Karten. Viele raten ab davor diesen zu installieren, da er den "Grafikstack überschreibt". Was auch immer das genau heißen mag. Aber dieser RocM Driver funktioniert leider auch nur für sehr wenige AMD Grafik-Karten. Denn ältere Karten werden in der Installation herausgenommen. Neueste Karten sind noch nicht drinnen. Ich habe zB eine RX580 und die ist einfach von AMD seit 1-2 Jahren aus dem rocM Driver rausgenommen worden. Obwohl sie theoretisch gehen würde. Einzige Abhilfe, man ändert einige Settings und kompiliert sich Driver und alles rundherum selbst für seine Distribution. Das dürfte in Arch gemacht worden sein, in Fedora rel. einfach gehen in Ubuntu/Linux Mint problematisch sein.
Definitiv sagt einem jeder der aus dem Umfeld Stable Diffusion und LINUX kommt, man ist fast gezwungen sich eine NVIDIA Karte zu kaufen, weil AMD nur die PRO Karten unterstützt und gewillt ist, hier die volle KI Unterstützung zu liefern.
Vielen Dank. Leider habe ich nur einen Laptop mit GPU. AMD 5500u , 16gb RAM , Radeon RX vega 7. Würde stable Defussion damit auch laufen?
Was wäre ich froh, wenn in meinen Rechnern eine Karte von AMD und nicht von NVIDIA steckte...
Aber welches Linux war es denn und welche Treiberverwaltung wurde wo aufgerufen? Hab ich was überlesen?
Hier noch die technischen Details für diejenigen dies interessiert. Intel Core i5-12400
Linux Mint 21.1 Cinnamon 32 GB Ram
Die Treiberverwaltung findet man im App Menü, am besten die Suche bemühen.
Ich denke bei andern OS ist es ähnlich, da kann ich leider nicht helfen.
Da hat dir jemand einen Bären aufgebunden. Wenn du nach "Nvidia Torvalds" suchst, findest du eine Reaktion von Linus Torvalds, die ziemlich gut vermitteln sollte, welchen Stand Nvidia in der Linux-Community hat.
ABER: Für deinen Einsatzzweck ist die Wahl von Nvidia aktuell keine Schlechte, denn hier ist ausnahmsweise der Aufwand bei AMD-Karten höher. Die Webseite zu ROCm von AMD listet zwar viele Karten, doch selbst wenn sie gelistet ist, kann es sein, dass PyTorch eine Karte noch nicht richtig unterstützt.
Im Handbuch eines Mainboards sollte dazu etwas stehen.
Siehe meine Antwort zum ersten Zitat. Die Konkurrenz (nicht nur AMD) hat meines Wissens nach Treiber im Kernel. Darüber hinaus gibt es proprietäre Treiber, die die meisten Nutzer jedoch nicht benötigen.
bulk oder Detail ware ist für PC Hersteller gedacht und fast immer ohne Anleitungen und Zubehör.
Augen auf beim Hardware Kauf. Nur unter linux geteeste HW verwenden und nur exakt diese kaufen.
Schau Dir mal die letzten folgenden von c't uplink an. Da wird darauf eingegangen.
Nvidea ist ein no go für Linux, solange diese nicht OSS Treiber anbieten. Die vorhandenen nachentwickelten unterstützen nur wenig Funktionen.
aktuell wird unter Linux AMD Radeon Grafik am besten unterstützt. Diese sollte aber min. 12GB für stabile diffusion haben.
Leider unterstützt so gut wie keine Stable Diffusion Version (bzw PyTorch) den offenen MESA Rusticl Driver. RocM unterstützt dafür nur eine handvoll AMD Karten - siehe auch mein Kommentar weiter oben. Für SD ist NVIDIA die einfachere Wahl, das kann man in allen GITHUB Issues diverser SD Projekte nachlesen.
Schöner Beitrag zu einem leidigen Thema was man kaufen sollte. Besonders bei den Laptops gibt es im Power GPU Sektor von AMD aktuell noch keine Varianten die kaufbar wären. Was bleibt sind proprietäre Nvidia GPUs, denn vor allem durch CUDA wird bedingt durch das lahme Engagement Seitens AMD in diesem speziellen Bereich AMD immer im Hintertreffen bleiben. Hier läuft noch eine alte NV GTX970 unter Ubuntu22.4.2 und das ohne Probleme ist aber für diesen Stable Diffusion Part viel zu lahm und geht in Richtung Radeon 580R. Mit der Kastration auf 3.8GB Speicher gewinnt man keinen Krieg in der heutigen Zeit in Sachen KI. Bedingt durch die alte i7 4970k wird über die Jahre irgendwann eine Neuanschaffung anstehen, da alle Komponenten in die Jahre kommen. Vor allem die Massenspeicher würden auch anstehen.