Jenseits von Moores Gesetz

Gerüchte über den Tod von Moores Gesetz gingen, soweit ich mich erinnere. Diskussionen, dass wir uns der Größe eines Atoms nähern und dass bald die ganze Idee unrentabel wird, hörte ich vor 30, 20 und 10 Jahren. Hier sind nur Ingenieure, die sie immer wieder widerlegt haben. Es war das technische Genie, das Moores Gesetz zu einer der „sich selbst erfüllenden Prophezeiungen“ machte.

Ich werde nicht darüber sprechen, ob die Technologie an ihre Grenzen gestoßen ist oder nicht. Trotz der radiophysikalischen Ausbildung verstehe ich es sehr bedingt. Diejenigen, die sich damit beschäftigen möchten, können Ihnen raten, eine aktuelle Bewertung zu konsultieren . Ich werde mich dem Standpunkt eines anderen sehr angesehenen Denkers anschließen, Bob Colwell .



In der Zwischenzeit bauen Chiphersteller weiterhin neue Fabriken, die an neuen Technologien arbeiten (naja oder kündigen sie zumindest an). Das ist also immer noch von Vorteil. Für mich ist "der Patient eher lebendig als tot". Die Murovskaya-Erweiterung wird beendet, wenn ein Server mit zwei Prozessoren, die mit der neuen Technologie hergestellt wurden, teurer wird als ein Server mit vier Prozessoren, die mit der alten Technologie hergestellt wurden. Und das ist weit davon entfernt. Ich habe mit 4-Kopf und sogar 8-Kopf gearbeitet. Aber sie werden auf Bestellung zusammengebaut und stehen wie ein kleines Flugzeug.

Meine heutige Aufgabe ist es, darüber zu sprechen, wie sich Technologie auf Architektur und Programmierung auswirkt. Über das, was uns "auf der anderen Seite des Gesetzes von Moore" erwartet. Denn viele Trends sind jetzt offensichtlich. Damit.

Die Fläche (Volumen) des Kristalls ist Gold wert. Transistoren hören auf zu "schrumpfen" und die Chipgröße ist begrenzt . Dementsprechend ist die Anzahl der Elemente begrenzt. Neue Fantasien werden immer schwerer auf einen Kristall zu schieben. Im Gegenteil, der Preis für Kompaktheit steigt. Designer beschäftigen sich viel mehr mit Optimierung als mit Innovation. Dementsprechend werden wir immer weniger Innovationen auf dem CPU- oder GPGPU-Chip sehen. Vielleicht muss sogar Software weniger umgeschrieben werden, obwohl ich nicht an Letzteres glaube.

Diskretion. Da Größe, Funktionalität und Stromverbrauch des Chips begrenzt sind, sollten wir so viele Chips wie möglich verwenden. Gut und anders (explosives Wachstum der von Colwell vorhergesagten Beschleuniger). Oder dasselbe (symmetrische Mehrfachverarbeitung). Oder generell mit reprogrammierbarer Logik (FPGA). Jedes dieser Szenarien hat seine eigenen Vorzüge. Die erste gibt die maximale Leistung pro Watt für eine bestimmte Aufgabe. Das zweite ist die einfache Programmierung. Der dritte ist Flexibilität. Welches Szenario implementiert wird - die Zeit wird entscheiden. Wie ich gerne sagen möchte, wird das Leben alles zeigen und alle beurteilen. Und es dauert nicht lange zu warten.

Komplikation von NUMA: Einkristalle sterben aus und weichen Chiplets. Somit erhöhen Hersteller die Ausbeute des Produkts. Yalda (Ausbeute) ist übrigens der Prozentsatz geeigneter Chips, dies ist das schlimmste Geheimnis eines Chipherstellers. Besonders in den frühen Phasen des Prozesses. Ein solches "Kleben" eines Chips aus Teilen bringt jedoch zusätzliche Schwierigkeiten für Programmierer mit sich. Die Kommunikationszeit zwischen den Kernen innerhalb und außerhalb des Chipletts ist unterschiedlich. Dies ist nur ein Beispiel für eine zunehmend komplexe NUMA-Struktur (Non-Uniform Memory Access). Die andere ist die Topologie der Verbindungen innerhalb des Chips. (Ein Speicher mit mehr hoher Bandbreite. Eine größere Diskretion. A - mehr ...) Und all dies muss berücksichtigt werden.

Die zunehmende Rolle von Uncore:Da es sich um Intraprozessorkommunikation handelt, möchte ich einen weiteren interessanten Trend erwähnen. Wenn Sie sich die M & A-Aktivitäten der Marktführer genau ansehen, ist es leicht zu verstehen, dass alle Giganten dasselbe tun. Intel investiert in die Silicon Photonics-Technologie und kauft Barefoot Networks . NVidia ist für den Kauf von Mellanox verantwortlich . Und nicht Infinibanda für einen. Jeder versteht, dass das Feld des zukünftigen Kampfes Intra- und Interprozessor-Verbindungen sind. Und wer der „König des Hügels“ wird, wird nicht durch Befehlssätze oder eine komplexe Logik bestimmt, sondern durch Busse und Schalter.

"Originalität" (genauer gesagt, Nichtwiederholbarkeit):Ich muss manchmal mit großen Chipsembles arbeiten. Dies geschieht, wenn ein neuer Cluster für Hochleistungsrechnen erstellt und gestartet wird. Und kürzlich ist mir eine interessante Sache aufgefallen. Wenn frühere Chips mit der gleichen Kennzeichnung fast nicht zu unterscheiden waren, hat jetzt jeder seinen eigenen „Charakter“ und seine eigene „Stimmung“. Der Prozessor verfügt über einen integrierten Energieverwaltungsmechanismus. Dies hängt davon ab, wie viele Kerne derzeit ausgeführt werden, welche Blöcke betroffen sind, von der Temperatur usw. usw. Und es scheint, dass die Art und Weise, wie der Prozessor Energie verbraucht und abführt, von den Produktionsbedingungen einer bestimmten Charge, von ihrer Position im Rack und von der Masse anderer unkontrollierter Faktoren abhängt. Als Ergebnis beobachtete ich eine Frequenzabweichung (und Leistung) von ~ 15%. Dies führt natürlich zu allen Arten von Ungleichgewichten (MPI, OpenMP).Und wie man mit ihnen umgeht, ist noch nicht ganz klar. Es sei denn, Sie verteilen die Arbeitsdynamik.

Und die letzte ist die Frequenz: Es wird definitiv kein Wachstum geben. Aus vielen Gründen, einschließlich Stromverbrauch, Größe usw. Ich würde es wagen vorzuschlagen, dass die Frequenz im Allgemeinen gesenkt werden sollte. Auf schmerzloseste Weise für die Leistung einzelner Threads (dh Verbesserung der Architektur). Hier wird natürlich Linpack leiden, das von allen Vermarktern geliebt wird. Das System wird jedoch ausgewogener und die Arbeit der Eisenentwickler wird erleichtert. In realen Anwendungen ist es umso besser, je weniger Zyklen der Prozessor drescht und auf Daten von langsamen Geräten (Speicher, Grid, Festplatte) wartet.

So erscheint mir die Computerwelt in der Zeit nach dem Moor.
Wie siehst du ihn