Intel DG3 "Battlemage" (Xe2-HPG, Arc B-Series, 2024)

[reaperrr]

Zitat von Exxtreme

Und es ist so, Grafikkarten skalieren jetzt nicht so dolle mit Cache. Die Datenmengen sind da viel zu groß und das bedeutet sehr viele Cache-Misses.

Also bei AMD seit RDNA2 und Nvidia seit Ada müssen die L2/IF-Caches schon ne Menge bringen, sonst würden sie mit so schmalen SIs nicht diese Performance-Steigerungen erreichen, da bei DCC etc. langsam das Ende der Fahnenstange erreicht ist.

Wir reden im Fall von DG3-448 laut RGT von 20Gbps @ 192bit, während DG2-512 16Gbps@256bit hatte.

D.h. die VRAM-Bandbreite ginge leicht zurück, obwohl man ca. doppelte Performance zum Vorgänger anpeilte. Anders als über einen großen Cache sehe ich nicht, wie das gehen sollte. Es sei denn, das SI von ALC-G10 war völlig überdimensioniert für dessen Bandbreitenbedarf, aber dann wäre die Frage, warum sie nicht schon dort auf 192bit gesetzt haben.
Das impliziert, dass Intel bei Dingen wie DeltaColorCompression usw. noch nicht so weit wie NV und inzwischen auch AMD ist, und deshalb breitere SIs und/oder größere Caches braucht.

[Exxtreme]

Zitat von reaperrr

Also bei AMD seit RDNA2 und Nvidia seit Ada müssen die L2/IF-Caches schon ne Menge bringen, sonst würden sie mit so schmalen SIs nicht diese Performance-Steigerungen erreichen, da bei DCC etc. langsam das Ende der Fahnenstange erreicht ist.

Dann schalte mal bei CPUs alle Caches ab. Und da bist du wieder auf Pentium 1-Niveau. Und nein, das ist kein Witz. So stark skalieren GPUs bei weitem nicht weil sie viel zu große Datenmengen durchschaufeln. Das habe ich gemeint, dass GPUs da nicht so dolle skalieren mit Cache. Cache ist immer ein Kompromiss aus Performance und Kosten. Und da kann es immer sein, dass man einen Punkt erreicht bei dem Cache billiger ist als ein breiteres Speicherinterface. Und da nimmt man lieber den Cache. Und bei einem 512 MB-Cache kann ich mir gut vorstellen, dass er zu teuer ist.

[basix]

Zitat von reaperrr

Wir reden im Fall von DG3-448 laut RGT von 20Gbps @ 192bit, während DG2-512 16Gbps@256bit hatte.

D.h. die VRAM-Bandbreite ginge leicht zurück, obwohl man ca. doppelte Performance zum Vorgänger anpeilte. Anders als über einen großen Cache sehe ich nicht, wie das gehen sollte. Es sei denn, das SI von ALC-G10 war völlig überdimensioniert für dessen Bandbreitenbedarf, aber dann wäre die Frage, warum sie nicht schon dort auf 192bit gesetzt haben.
Das impliziert, dass Intel bei Dingen wie DeltaColorCompression usw. noch nicht so weit wie NV und inzwischen auch AMD ist, und deshalb breitere SIs und/oder größere Caches braucht.

Knapp 4070 Performance bei knapp 4070 Speicherbandbreite. Das würde ja nicht schlecht passen. Entweder war das Speicherinterface bei Alchemist überdimensioniert oder Battlemage macht einen grossen Sprung vorwärts bei der Bandbreiteneffizienz. Ich tippe auf etwas dazwischen.

Alles in allem:
4070 Performance, 4070 Speicherbandbreite, 250mm2 in N4 sieht für mich recht gut aus. PPA etwa auf Lovelace Niveau (falls DG3-448 bei ~200W landen sollte) inkl. starken RT-Cores und Matrix-Units. Klar, das ist 2 Jahre nach Lovelace. Aber "Technologie normiert" sieht das nicht schlecht aus.

[Der_Korken]

Zitat von Raff

Habe ich eigentlich die ganze Zeit etwas verpasst? 512 MiB Cache, stand das schon mal irgendwo? Und WTF? Folgt man den Ausführungen von AMD und Nvidia, wäre das ziemliche Verschwendung - es sei denn, man kann den Cache aus unbekannten Gründen schön klein, billig und ohne Fehler fertigen.

Die Specs sind aus dem oben verlinkten RGT-Video. Auf den zweiten Blick sehen 192bit mit 8MB L2 und 512MB L3 aber schräg aus. Und ja, 512MB wäre absoluter Overkill. Bevor man die Karte zieht, hätte man doch das SI wenigstens wieder auf 256bit angehoben, weil die "Bandbreite pro mm²" da viel höher sein dürfte bei dem aktuellen Verhältnis.

Zitat von bbott

Wenn intessieren denn die 20% Marktanteil von AMD, man muss was von den 80% von NV bekommen.

Intel wäre froh, wenn sie die 20% hätten. An Nvidia kommen sich technisch so schnell nicht dran, keine Chance.

[DrFreaK666]

Es wäre aber wünschenswert wenn AMD und Intel jeweils 20% hätten und nicht dass Intel sich bei AMDs Prozenten bedient. Das hilft am Ende nur Nvidia

[AffenJack]

Zitat von Der_Korken

Die Specs sind aus dem oben verlinkten RGT-Video. Auf den zweiten Blick sehen 192bit mit 8MB L2 und 512MB L3 aber schräg aus. Und ja, 512MB wäre absoluter Overkill. Bevor man die Karte zieht, hätte man doch das SI wenigstens wieder auf 256bit angehoben, weil die "Bandbreite pro mm²" da viel höher sein dürfte bei dem aktuellen Verhältnis

Finde ich auch. 192Bit mit 12Gb, aber 512mb L3 klingt für mich nach sehr merkwürdigen Spekulationen und wenn man am Ende noch sagt, ach, aber der Chip kommt nicht klingt das noch viel mehr nach purer Newsgenerierung durchs Ausdenken von Spekulation. Dazu gerade einmal eine Erhöhung der XE-Units von 40 auf 56 Stück, das macht keinen Sinn. Das müsste da schon ne deutlichere Steigerung sein, wenn man schon solche Kniffe macht.

[mocad_tom]

https://twitter.com/harukaze5719/sta...38266922151993

Schade, dass man zu dem BGA2727-BMG kein Bild sieht.


BGA2362-BMG ist aber eigentlich ein BGA482(482 balls)


Frage an diejenigen, die eine Alchemist Graka gekauft haben:
Hatte schon irgendjemand einen Garantiefall oder Graka blöde/unerwartet abgeraucht?

[Loeschzwerg]

Zitat von mocad_tom

Frage an diejenigen, die eine Alchemist Graka gekauft haben:
Hatte schon irgendjemand einen Garantiefall oder Graka blöde/unerwartet abgeraucht?

Noch laufen alle drei Alchemist (A770, A380 und A310) und die A770 LE steckt dabei im primären Gaming-Sys d.h. ist fast täglich gut in Nutzung.

[davidzo]

Zitat von Raff

Habe ich eigentlich die ganze Zeit etwas verpasst? 512 MiB Cache, stand das schon mal irgendwo? Und WTF? Folgt man den Ausführungen von AMD und Nvidia, wäre das ziemliche Verschwendung - es sei denn, man kann den Cache aus unbekannten Gründen schön klein, billig und ohne Fehler fertigen.

Der ADM könnte in einem obsoleten Intel Verfahren gefertigt sein.
14nm hat 0.050µm großen SRAM und Intel7 0.031µm (6T HCC).
Da die Fabs schon abgeschrieben sind, dürften die Kapazitäten entsprechend günstig verfügbar sein.

Ohne Ansteuerungslogik (+ 30-50%) sind selbst in 14nm gute 16mb/mm2 möglich. 512MB in unter 100mm2 wäre also kein Problem. Oder man reduziert analog zum 22FFL Spezialprozess von lakefield zusätzlich die Anzahl an Layern und Steps und setzt stattdessen auf einen größeren Base-DIE. Auch würde es wohl Sinn machen das SI in den ADM base-DIE zu packen.

Das würde aber bedeuten dass Battlemage eine Multichip GPU oder Foveros / advanced stacking, 3d der 2.5D GPU ist. Das wundert mich dann schon dass wir davon bisher nichts gehört haben.
Ich räume dem Gerücht also nur geringe Chancen ein.

Zitat von reaperrr

Es sei denn, das SI von ALC-G10 war völlig überdimensioniert für dessen Bandbreitenbedarf, aber dann wäre die Frage, warum sie nicht schon dort auf 192bit gesetzt haben.
Das impliziert, dass Intel bei Dingen wie DeltaColorCompression usw. noch nicht so weit wie NV und inzwischen auch AMD ist, und deshalb breitere SIs und/oder größere Caches braucht.

Ja das SI war völlig überdimensioniert, aber auch schlecht partitioniert. Volle Bandbreite gibt es nur wenn auch die Compute Ressourcen voll ausgelastet sind. Sonst kannst du froh sein wenn du die Hälfte oder ein viertel der theoretischen GDDR6 Bandbreite bekommst. Die ganze Cache-Hierachie ist bei DG2 problematisch, wie Chips and cheese in mehreren Artikeln festgestellt hat.

Intel hat Latenzprobleme auf beinahe jeder Cache-Stufe. Der L1 ist zwar vergleichweise groß, aber hat auch die doppelte Latenz von AMD oder Nvidia, zudem hat AMD zusätzlich noch den noch Latenzärmeren L0 davor.

Der Grund für die Notwendigkeit des großen L1 jedes XE Cores ist die vergleichsweise langsame Anbindung an den globalen L2, der von Bandbreite und Latenz eher mit AMDs RDNA2 Infinity cache vergleichbar ist der wiederum 8x so groß ist. RDNA2 ist bei der Speicherhierachie einfach eine ganz andere Generation.

Der Fokus auf den L1 ist eine Gemeinsamkeit mit der verwandten XE Architektur bei Ponte Vecchio, die sogar 512kb L1 pro Core hat (vmtl. wegen Fullrate FP64) aber direkt dahinter nur sehr lahme Off-DIE Verbindungen von 230Gb/s für 8XE Cores.

Da der L2 bei ARC ja der LLC ist, kann man den eher mit dem L3 bei AMD und Nvidia vergleichen. 16MB sind dafür also nicht besonders groß gegenüber 72MB, 96MB und 128mb.

Last but not least ist die VRAM-Latenz Katastrophal mit fast 400ns. Das ist Datacenter Level, wo niedrigere Taktraten und HBM mit hohen Latenzen üblich ist und noch parallelere Workloads laufen als Spiele. Navi31 hat eher etwas bei 280ns trotz Die to Die Interconnect, N21 hat 260ns und GA102 liegt bei 230ns. Das ist umso verwunderlicher, als dass AMD und NV ja eine Cache Stufe mehr haben und daher die deutlich höheren VRAM Latenzen haben müssten.

Zudem kriegt man den Speichercontroller nur sehr schwer ausgelastet, da anscheinend die Crossbar bzw. Verbindung der einzelnen XE_Cores zum SI unterdimensioniert sind. Ein XE-Core kriegt laut Chips and Cheese nur rund 8gb/s durch, ein RDNA2 WGP kommt auf 63gb/s und ein Ampere SM auf 34gb/s. Selbst GCN1.0 war schon um Größenordnungen besser pro CU.

Eine volle Auslastung der theoretischen Bandbreite des 256bit Interfaces ist also nur bei perfekt symmetrischen Lasten, hoher Workgroup Size möglich. Das ist eine enorme Aufgabe an den Compiler und deswegen ist Software für Intel auch so ein großes Problem. Das liegt an den getroffenen Hardware-Entscheidungen. Man hätte stattdessen auch Hardware bauen können die eine bessere Auslastung erreicht, dafür aber weniger theoretischen Durchsatz bietet und sich nicht so gut durch bessere Compiler beschleunigen lässt (und damit weniger mit der Datacenter Architektur gemeinsam hat).

Ein einfacher Trick um höhere Workgroup Sizes zu ermöglichen ist die Renderauflösung zu erhöhen. Daher skaliert Arc auch so gut in 4K und umgekehrt sind die kleinen IGPs eher schneller als der viermal so große ACM-G10 Chip erwarten lassen würde. Der Compiler liefert halt ähnliche Threadanzahlen an die kleinen IGPs aus wie an die großen dGPUs.

Die Partitionierung von DG2 mit riesigen Lücken zwischen L1 und L2 und schlechter Anbindung der einzelnen XE-Cores wirkt so als wenn hier aus praktischen Gründen viel von der Chiplet-GPU übernommen wurde.

AMD ist dasselbe Spiel damals mit GCN eingegangen, also enorm vorzulegen bei Compute und darauf zu hoffen dass man die Auslastung im Laufe der Jahre durch compute-lastige Workloads und bessere Compiler in den Griff bekomt. Nvidia hat das ignoriert und bei Maxwell und Turing die Hardwareauslastung auch bei kleineren Workgroup sizes optimiert. Es gab also wenig Grund für den herbeigesehnten Paradigmenwechsel in der Software angesichts Nvidias großer Marktmacht. Spiele-Workloads haben häufig threads die von mehr Ressourcen pro Core/WGP/SM profitieren und sind daher selten total symmetrisch. DG2 klingt eher nach einer Compute GPU. Auch wenn die XE Cores total anders sind erinnern mich die Limitierungen viel an GCN. Auch GCN war nur bei sehr hoher Workgroup-Size auszulasten.

Zitat von basix

Entweder war das Speicherinterface bei Alchemist überdimensioniert oder Battlemage macht einen grossen Sprung vorwärts bei der Bandbreiteneffizienz.

Ja + Ja und das ist auch nicht schwer angesichts obigem.

Der GDDR6 Speichercontroller und die Crossbar sowie das interne fabric sind auf jeden Fall totaler Schrott und Intel wird für BGM definitiv eine andere, potentere IP verwenden. Dann reicht auch ein 192bit Interface.

Sobald das Problem mit low occupancy workloads gelöst ist dürften das nicht nur bei der Bandbreitenskalierung sondern auch bei den XE-Cores ein paar Handbremsen lösen.

[bbott]

Zitat von Der_Korken

Intel wäre froh, wenn sie die 20% hätten. An Nvidia kommen sich technisch so schnell nicht dran, keine Chance.

Wenn Sie nichts von NV bekommen können, würde es aber auf 10: 10: 80 hinauslaufen, dann geäbe es zwei Verlierer und die heißen AMD und Intel.
Worst-case: beide müssen den Markt gleichzeitig aufgeben, weil Entwicklungskosten mit 10% Marktanteil nicht gedeckt werden können und NV massig Geld für F&E hat.
Also ich sehe für niemanden (Kunden, AMD, Intel) ein gutes Szenario außer für NV...
Nur wenn NV Marktanteil schrumpft wird es Innovationen und einen gesunden Markt geben.

[davidzo]

Naja, AMD hat erstmal mit dem Konsolengeschäft einen Fuß in der Gaming-Tür und scheint bei den entry level GPUs auch die deutlich belastbarerer Kostenstruktur zu haben als Intel. Siehe RX7600 vs ARC A770 16G, die in der gleichen Leistungsklasse liegen, letztere aber in der Herstellung fast doppelt so teuer sein dürfte.
Verschwinden wird AMD also nicht, eher ist es so das Intel weiter bluten muss sollten sie einen Preiskrieg anzetteln.

Zudem konzentriert sich AMDs GPU Division derzeit mit Absicht erstmal auf den AI Markt, weil margenträchtiger. Ich sehe kein Problem wieso AMD nicht die Ressourcen haben sollte nochmal einen RDNA-Moment zu produzieren sobald man mit dem Fokus auf den AI Markt durch ist.

Für Intel macht es natürlich Sinn erstmal nur den Entry bis maximal Midrange abzudecken.
Nvidia vernachlässigt das Entrylevel Segment sowieso sträflich, insofern kann man im Sub-250€ Markt echt gut wildern. Bei Performance- und Enthusiast Chips ist die Konkurrenz durch Nvidia und AMD zu hart. Nvidia hat letztendlich eine Kostenstruktur die mit jeden Preiskämpfen mitgehen könnte, aber meistens nichtmal muss, denn man dominiert AMD auch so, einfach durch die hohe Brand-recognition.

Schon bei DG2 gleich zwei Chips zu bringen war imo nicht unbedingt notwendig. ACM-G11 ist eh zu nah dran an den IGPs gewesen. Ein Chip in der Mitte dazwischen mit 128bit und 16XE-Cores hätte es wohl auch getan um einen ähnlichen Marktanteil zu bekommen. Sub 200€ gibt es auch nichts anständiges von AMD, da wäre also die Nische gewesen.

Sich mit der 4070 anzulegen ist ein ehres Ziel, aber Kostentechnisch wäre man wohl besser beraten sich die 4060 und 7600 (XT) als Gegner auszusuchen. Die haben ja beide so ihre Schwächen. Navi33 durch das schmale SI, begrenzte Effizienz und begrenzte Taktraten/Rechenleistung und AD107 durch die kleine Ansetzung des Chips. Nvidia hat dafür noch AD106 in der Hinterhand, aber soviel größer ist der auch nicht.

Ich würde es tatsächlich bevorzugen wenn Intel BMG erstmal in diesem Marktbereich launcht, ohne teuren schnickschnack wie ADM interposer und so. Da würden erneut 32XE Kernen reichen, mit gefixter Speicherhierachie und 192bit SI höherem Takt und verbessertem Energieverbrauch sowie gesenkten Herstellungskosten. Insgesamt +50% Leistung wäre imo schon drin, wenn Intel die Fabric-Handbremsen löst, wir einen großen on-DIE Cache bekommen und die Taktraten um 25% auf rund 2,8Ghz gesteigert werden können.

Zitat von bbott

Worst-case: beide müssen den Markt gleichzeitig aufgeben, weil Entwicklungskosten mit 10% Marktanteil nicht gedeckt werden können und NV massig Geld für F&E hat.
Also ich sehe für niemanden (Kunden, AMD, Intel) ein gutes Szenario außer für NV...
Nur wenn NV Marktanteil schrumpft wird es Innovationen und einen gesunden Markt geben.

Das wäre auch für NV ein worst-case Szenario, da man dann einen Monopolprozess am Hals hätte, also Zerschlagung. Nvidia verdient sowieso ein Vielfaches mehr mit AI Hardware aktuell, dafür geben die im Moment wohl gerne auch ein bisschen gaming-Marktanteil ab. Ich glaube Nvidia würde bei einstelligen Marktanteilsverlusten gar nicht erst reagieren, denn für einen 80% Marktführer sind die Einschnitte bei der Marge bei einem Preiskrieg wesentlich teurer als die paar Prozent Marktanteil.

Hat Intel auch sehr lange so gemacht und mit Cascade-Lake X, Cooperlake etc. weiterhin Gewinne eingefahren obwohl EPYC Rome und Milan billiger verfügbar waren und AMD an Marktanteilen aufholte. Mit dem Unterschied dass Nvidia die nächste überlegene µArch in der Hinterhand hat und keinen Fertigungsnachteil, also ohne Risiko.

[ryan]

MLID hat ein neues Video gepostet, diesmal mit angeblichen Dokumenten (von dem einiges geschwärzt ist). Zusammenfassung auf Videocardz.

Demnach wäre Battlemage für mobile gestrichen. Für Desktop sollen aber alle GPUs gelistet sein zwischen Q4 2024 - Q1 2025.

MLID macht ein großes Drama draus, weil mobile gestrichen wurde. Finde ich jetzt relativ egal solange die Desktop Karten kommen. Alchemist mobile dGPU war kaum präsent und auch AMD ist kaum präsent im dGPU Markt für laptops. Das dürfte die wenigsten hier tangieren.

Laut dem Dokument kommt Battlemage mit x16 PCIe 5.0, was auf den größeren G10 Chip hindeutet. MLID nennt 512EU+448EU 16GB 387 mm² und 320EU/256EU 8-12GB 271 mm². Ansonsten die übliche Weltuntergangsstimmung zu Intel. Celestial und Druid dGPU gestrichen oder nur als low end. Die Wiederholung seiner Battlemage Story sozusagen.

[dildo4u]

Er vergisst immer AI natürlich wird Intel weiterhin massiv Geld in GPU versenken da es jeder Inverstor will.

[ceed]

Zitat von ryan

MLID hat ein neues Video gepostet, diesmal mit angeblichen Dokumenten (von dem einiges geschwärzt ist). Zusammenfassung auf Videocardz.

Demnach wäre Battlemage für mobile gestrichen. Für Desktop sollen aber alle GPUs gelistet sein zwischen Q4 2024 - Q1 2025.

MLID macht ein großes Drama draus, weil mobile gestrichen wurde. Finde ich jetzt relativ egal solange die Desktop Karten kommen. Alchemist mobile dGPU war kaum präsent und auch AMD ist kaum präsent im dGPU Markt für laptops. Das dürfte die wenigsten hier tangieren.

Ich denke im Low-End Bereich werden sie mit der integrierten Lösung fischen . Glaube das der Markt von unten eh aufgefressen wird mit den integrierten Lösungen- dann bleibt nur noch Mid und Oben- wird eher schwierig gegen Nvidia da

[bbott]

Zitat von dildo4u

Er vergisst immer AI natürlich wird Intel weiterhin massiv Geld in GPU versenken da es jeder Inverstor will.

AI wird aber Mittel bis langfristig auf AI Bescheuniger setzen. GPUs waren immer nur Türöffner für neue Märkte, sobald dieser groß genug waren, kamen angepasste Beschleuniger.

GPUs sind viel zu ineffektiv für AI und wie viel Prozent einer GPU sind AI beschleuniger?

[Troyan]

Zitat von bbott

AI wird aber Mittel bis langfristig auf AI Bescheuniger setzen. GPUs waren immer nur Türöffner für neue Märkte, sobald dieser groß genug waren, kamen angepasste Beschleuniger.

GPUs sind viel zu ineffektiv für AI und wie viel Prozent einer GPU sind AI beschleuniger?

Niemand macht AI mit GPUs. nVidia hat TensorCores als dedizierte Beschleuniger. Das selbe gilt für Intel.

[basix]

Kommt drauf an, was ihr mit ML meint. 0815 Client Inferencing wird langfristig in Accelerators aufgehen. Aber die <10% Die Size Vergrösserung durch Tensor Cores sind bei GPUs eher vernachlässigbar, wenn immer mehr ML Client & Workstation Anwendungsfelder entstehen. Und niemand packt sich bei Client einen 1000 TOPS ML Accelerator rein der nichts anderes kann und 1000$ kostet.

Ist auch ähnlich wie iGPU zu dGPU: Mit geringen Anforderungen geht alles mit einer APU. Wer mehr will packt eine Karte dazu.

[mocad_tom]

Schaut halt wirklich aus wie die guten alten Bitcoin-Mining-Rigs:

https://twitter.com/mov_axbx/status/1765573827080147416


https://twitter.com/mov_axbx/status/1765616681471152624

Und bei inferencing wird den A770 ein gutes Preis-Leistungsverhältnis nachgesagt.


__tinygrad__ regt sich gerade ziemlich darüber auf, dass der Software-Stack von AMD nicht so besonders prickelnd ist:

https://twitter.com/__tinygrad__/with_replies

[davidzo]

Wut?

1/2 4090 wäre mega gut für einen Lastgen Midrange Chip wie die A770. Die VRAM größe ist auch sehr sehr wichtig und ist mit 16GB für den preis sehr gut.

Zitat von mocad_tom

Schaut halt wirklich aus wie die guten alten Bitcoin-Mining-Rigs:

Mit dem Unterschied dass man mit i3 oder pentium CPU auf consumer Plattform nicht weit kommt. Man braucht soviele PCIeGen4 oder 5 Lanes wie man kriegen kann, da jede GPU gerne mit x16 Lanes angebunden werden will.

[mocad_tom]

Es kann sein, dass dies erste Sisoft-Werte von Battlemage sind

https://twitter.com/miktdt/status/1771576768542998893