GPUs für künstliche Intelligenz und Mining

[ChaosTM]

AI-Einkaufsrausch: Chinesische Firmen wollen Nvidia-GPUs für 5 Mrd. US-Dollar (https://www.computerbase.de/2023-08/ai-einkaufsrausch-chinesische-firmen-wollen-nvidia-gpus-fuer-5-mrd-us-dollar/)

falls ich einen relevanten thread übersehen habe, sorry


Eine neue GPU Verknappung scheint fast unausweichlich.

[The_Invisible]

Hm, also noch schnell NV-GPU kaufen? Bin gsd mit der 4090 Mal gut eingedeckt :D

[Leonidas]

Eine neue GPU Verknappung scheint fast unausweichlich.

Eigentlich nicht. nVidias Umsatz das Jahr 2024 über dürfte bei größer als 50 Mrd liegen.

[Ganon]

KI dürfte eigentlich (eigentlich!) nicht so einen Run auf GPUs auslösen. Beim Crypto Mining resultiert(e) mehr Rechenleistung auch direkt und unmittelbar in mehr Geld / Sekunde. AI braucht zwar auch viel Rechenleistung, aber immer mehr Rechenleistung bringt nicht automatisch auch direkt mehr Einnahmen. Sprich: Man wird sich zwar vllt. einmal mit GPUs eindecken, aber das dann auch dabei belassen. Der Stromverbrauch gegengerechnet mit den zu erwarteten Erfolgen dürfte relativ schnell ins negative gehen, wenn man es da übertreibt.

[][immy]

Welche Nvidia GPUs dürfen die überhaupt kaufen? Für China gelten ja Exportbeschränkungen, so das dort nicht das schnellste hin verschifft werden darf.

[Mortalvision]

Und bei der KI ist doch die vor- und nachbereitende Software das Entscheidende. Die neural nets lassen sich ja schön über die einzelnen GPUs spannen, wenngleich das nicht unendlich geht.

[Trap]

KI dürfte eigentlich (eigentlich!) nicht so einen Run auf GPUs auslösen.
Ja, mehr GPUs garantieren nicht mehr Erfolg, aber das Einstiegslevel ist halt 10000 H100 und wenn da 20 Firmen einsteigen wollen sind das trotzdem viele GPUs. Und die mit mehr Geld nehmen 50000 oder 100000 Karten.

[Ganon]

Ja, mehr GPUs garantieren nicht mehr Erfolg, aber das Einstiegslevel ist halt 10000 H100 und wenn da 20 Firmen einsteigen wollen sind das trotzdem viele GPUs. Und die mit mehr Geld nehmen 50000 oder 100000 Karten.

Sicherlich sind es immer noch in Summe viele (spezielle) GPUs. Aber ich glaube nicht an einen Run, der plötzlich über Jahre alle Consumer-GPUs auf dem Planeten weg kauft. Weiterhin wird es dann vermutlich auch hauptsächlich Nvidia treffen (ich weiß, werden sie sicherlich nicht darüber klagen), sodass du immer noch Karten von AMD und Intel bekommen kannst.

D.h. dieses ganze Dilemma, dass man quasi gar keine GPU mehr kaufen kann, sehe ich nicht. High Performance Nvidia Karten könnten sicherlich auch betroffen sein, aber das interessiert den Normalo-PC-Gamer sowieso nicht.

[katzenkreis]

Die idee war ja dass nVidia alle Kapazität kurzfristig auf Tensor Karten umwidmet und dann keine Kapazität für neue Konsumentenware übrig ist. Kann schon sein, dass die dann auch für sekundäre Zwecke noch verwendet werden, auch wenn Sie fürs Training der großen Modelle nicht genug Softwareunterstützung und Netzwerkfähigkeit haben.

Was noch fehlt ist eine Konkurrenzsoftware die TensorCores von Consumerkarten für irgendwas brauchbares nutzt und damit wieder dezentrale 'Rechenzentren' bezahlt.

[Pfuscher]

-Wenn man an die Bitcoin halving Theorie glaubt, dass dann ein neuer Crypto Boom kommt, dann wird es 2024 eng (theoretisches halving 17. April 2024)
-Nvidia ist im data center Bereich die nächsten 10 Monate ausverkauft kam in news Meldungen.
- China hat kürzlich erst für 5 Milliarden noch mal eingekauft, aus Angst vor weiteren Exportbeschränkungen
-Kapazitäten werden angeblich von Consumer graphic cards auf datacenter zwecks Marge umgestellt.

[Hikaru]

Sicherlich sind es immer noch in Summe viele (spezielle) GPUs. Aber ich glaube nicht an einen Run, der plötzlich über Jahre alle Consumer-GPUs auf dem Planeten weg kauft. Weiterhin wird es dann vermutlich auch hauptsächlich Nvidia treffen (ich weiß, werden sie sicherlich nicht darüber klagen), sodass du immer noch Karten von AMD und Intel bekommen kannst.

D.h. dieses ganze Dilemma, dass man quasi gar keine GPU mehr kaufen kann, sehe ich nicht. High Performance Nvidia Karten könnten sicherlich auch betroffen sein, aber das interessiert den Normalo-PC-Gamer sowieso nicht.

Boah! Wie du dir alles in ein best-case Szenario zusammenreimst damits gut ausschaut:freak:

Ja nv wird betroffen sein, wer auch sonst? Und ja man wird ohne Probleme zu AMD oder Intel greifen können. Nur gibts da einige leute die weder AMD noch Intel wollen sonder nv und das nicht weil das Jäckchen so geliebt wird.

Und wieso wird hier der Normalo PC DAU als Referenz herangezogen? Wir sind hier im 3DC:cop: Wir wollen hier keine "günstige" 4060.

Choina wird wird gute Geschäfte mit Jäckchen machen. Da geht im Hinterhof bestimmt auch wieder was, keine Sorge.

[Ganon]

Nur gibts da einige leute die weder AMD noch Intel wollen sonder nv

Tja, ist dann halt Pech für die paar Leute. Ist dann trotzdem nicht vergleichbar mit der Zeit, wo du praktisch gar nichts bekommen konntest.

[Hikaru]

Wir werden sehen wie es mit der verfügbarkeit aussehen wird. Zumindest wird es der Preisgestaltung für den Endkunden nicht gut tun und dem PC gaming sicherlich auch nicht.

Ausserdem, Pech ja aber "paar Leute"? NVs Marktanteile sprechen eine andere Sprache.

[Ganon]

Ausserdem, Pech ja aber "paar Leute"? NVs Marktanteile sprechen eine andere Sprache.

Nvidias großer Gaming-Marktanteil besteht aber nicht aus RTX 4090, sondern aus 1060, 2060, 3060, ...

[dargo]

Nvidias großer Gaming-Marktanteil besteht aber nicht aus RTX 4090, sondern aus 1060, 2060, 3060, 4060...
Streich die 4060, die taucht bei Steam als Desktop-GPU noch nicht mal auf. Dafür ist es noch deutlich zu früh. Ich verstehe natürlich deine Kernaussage. :)

[Ganon]

Streich die 4060, die taucht bei Steam als Desktop-GPU noch nicht mal auf. Dafür ist es noch deutlich zu früh. Ich verstehe natürlich deine Kernaussage. :)

Ja, ich habe es mal raus genommen, damit es Leute nicht falsch verstehen. Die 4060 Laptop GPU ist zumindest ganz gut platziert, mMn. Noch weit vor 4070, 4080 und 4090. Aber ist natürlich keine Desktop GPU.

[Daredevil]

Aktuell baut man Cryptowährungen, wo man Rechenleistung anbieten kann eben für KI Berechnung. :)
Ob das einen Einfluss hat, sieht man, wenn jemand dort Kapazitäten bucht, weil es ggf. günstiger oder schneller ist als bei Business Lösungen.

[katzenkreis]

Aktuell baut man Cryptowährungen, wo man Rechenleistung anbieten kann eben für KI Berechnung. :)
Ob das einen Einfluss hat, sieht man, wenn jemand dort Kapazitäten bucht, weil es ggf. günstiger oder schneller ist als bei Business Lösungen.

Ich versteh ja den Investoreffekt von Crypto + AI als Schlagwörter, aber gibt es irgendeinen Grund, die Rechenleistung nicht in USD zu bezahlen? Und selbst wenn Crpyto, warum sollte es eine eigene Währung sein und nicht einfach XMR für die Verdunkelung?

[Daredevil]

Weil nicht jeder USD empfangen kann, geschweige denn seine Person mitteilen möchte und lieber Anonym/Pseudonym handelt. XMR ist keine gute Wahl für Transaktionen, da zwar sehr anonym, aber eben auch sehr durch reguliert, so dass die Liquidität immer geringer wird. Kucoin, Huobi und Binance sind jetzt nicht unbedingt das gelbe vom Ei.

[katzenkreis]

XMR ist keine gute Wahl für Transaktionen, da zwar sehr anonym, aber eben auch sehr durch reguliert, so dass die Liquidität immer geringer wird. Kucoin, Huobi und Binance sind jetzt nicht unbedingt das gelbe vom Ei.

Okay, verständlich, keine 100% Lösung, aber warum würde eine neue Kryptowährung die Regulationen übergehen oder die Liquidität durch Verbindung mit AI mining verbessern?

[Thunder99]

Schwierig abzuschätzen was da auf uns zukommt. Erstmal werden ja nur nicht Gamer Karten gekauft in Massen. Bei dem aktuellen mäßigem Bedarf/Nachfrage an die RTX 4000er Serie schätze ich kaum negative Auswirkungen.
Einzig Preise werden hoch bleiben.