Warum brauchen Sie eine Leistungsüberwachung? Lassen Sie uns über die Leistungsüberwachung von Node.j sprechen

Warum Leistungsüberwachung erforderlich ist

Node bereichert als Laufzeitumgebung für Javascript auf der Serverseite die Anwendungsszenarien von Javascript erheblich.

Allerdings ist die Node.js-Laufzeit selbst eine Blackbox. Wir können den Laufzeitstatus nicht erkennen und es ist schwierig, Online-Probleme zu reproduzieren .

Daher ist die Leistungsüberwachung der Grundstein für den „normalen Betrieb“ von Node.js-Anwendungen. Es können nicht nur jederzeit verschiedene Laufzeitindikatoren überwacht werden, sondern es kann auch bei der Behebung ungewöhnlicher Szenarioprobleme hilfreich sein.

Komponentenleistung

kann in zwei Teile unterteilt werden:

• Erfassung und Anzeige von Leistungsindikatoren

  • : Daten auf Prozessebene: CPU, Speicher, Heap, GC und andere
  • Daten auf Systemebene: Festplattenbelegung, E/A-Last, TCP/UDP-Verbindungsstatus. usw.
  • Daten der Anwendungsschicht:

• Erfassung und Analyse von Leistungsdaten

  wie QPS, langsames HTTP, Verbindungsprotokolle zur Geschäftsverarbeitung usw.
  • Heapsnapshot: Heap-Speicher-Snapshot
  • Cpuprofile: CPU-Snapshot
  • Coredump:

Vergleich von Snapshot-Lösungen für Anwendungsabstürze

Aus dem Bild oben können Sie die Vor- und Nachteile der drei aktuellen Mainstream-Leistungsüberwachungslösungen von Node.js ersehen. Im Folgenden finden Sie eine kurze Einführung in die Zusammensetzung dieser drei Lösungen:

• Prometheus

  • Prom-Client ist die NodeJS-Implementierung von Prometheus wird zum Sammeln von Leistungsindikatoren verwendet.
  • Eine Visualisierungsplattform zur Anzeige verschiedener Datendiagramme
  • unterstützt nur die Erfassung und Anzeige von Leistungsindikatoren, um Probleme zu beheben und einen geschlossenen

• AliNode zu bilden.

  • Alinode ist eine erweiterte Laufzeit, die mit offiziellen Nodejs kompatibel ist und einige zusätzliche Funktionen bietet:

    • Überwachung des Laufzeitspeicherstatus von v8,
    • Überwachung des Laufzeitstatus von libuv,
    • Online-Fehlerdiagnosefunktionen: Heap-Snapshot, CPU-Profil, GC-Trace usw.

  • Agenthub ist ein residenter Prozess, der zum Sammeln von Leistungsindikatoren verwendet wird und melden Sie sie.

    • Die komfortablen Tools von Commdx

  • bilden einen geschlossenen Kreislauf aus Überwachung, Anzeige, Snapshot und Analyse, aber es gibt immer noch Risiken, wenn die Laufzeit

• • erweitert

  wird

  • Echtzeit-Laufzeitstatus-Sampling und Ausgabe von Leistungsprotokollen (d. h. Leistungsdaten abrufen).
  • xtransit ist für die Erfassung und Übertragung von Leistungsprotokollen verantwortlich.
  • Der größte Unterschied zu AliNode besteht in der Verwendung Node.js Addon zur Implementierung der Sampler-

Leistungsindikator

-CPU

Die CPU-Zeitverbrauchsdaten des aktuellen Prozesses können über process.cpuUsage() Die Einheit des Rückgabewerts ist Mikrosekunden.

• Benutzer: Die vom Prozess selbst verbrauchte CPU-Zeit, wenn der Prozess ausgeführt wird.
• System: Die vom Prozess verbrauchte CPU-Zeit System, wenn der Prozess ausgeführt wird

Speicher

Die Speicherzuordnungsdaten des aktuellen Prozesses können über process.memoryUsage() abgerufen werden. Die Einheit des Rückgabewerts ist Bytes.

• RSS: Residenter Speicher, die vom Knotenprozess zugewiesene Gesamtspeichergröße.
• HeapTotal: Die von v8 beantragte Heap-Speichergröße
• heapUsed: der von v8 verwendete Heap. Memory
• sizeexternal: Die von C++ belegte Speichergröße, die von v8 verwaltet wird.
• arrayBuffers: Die ArrayBuffer zugewiesene Speichergröße

Wie aus der obigen Abbildung ersichtlich ist, enthält rss Codesegmente ( Code Segment ), Stapelspeicher ( Stack ) und Heapspeicher ( Heap ):

• Speichert
lokale
• Variablen
• und Verwaltungsfunktionsaufrufe.
• speichert Objekte, Abschlüsse oder alle anderen

Heaps

können über v8.getHeapStatistics() und v8.getHeapSpaceStatistics() Die folgende Abbildung zeigt die Verteilung der Heapspeicherzusammensetzung von v8:

Der Heap-Speicherplatz wird zunächst in Leerzeichen und dann in Seiten unterteilt. Der Speicher wird entsprechend der 1-MB-Ausrichtung ausgelagert.

• Neuer Raum: Raum der neuen Generation, der zum Speichern einiger Objektdaten mit einem relativ kurzen Lebenszyklus verwendet wird und in zwei Räume unterteilt ist (Raumtyp ist semi space ): from space to space

  • Förderungsbedingungen: Überleben nach zwei GCs im neuen Raum

• Alter Raum : Der alte Generationsraum, der zum Speichern von Objekten verwendet wird, die von New Space gefördert werden

• : Speichert den von v8 kompilierten ausführbaren Code. Kartenraum

• : Speichert das Zeigerobjekt der versteckten Klasse, auf die von Object verwiesen wird Gemäß der Laufzeit wird die Objektlayoutstruktur für den schnellen Zugriff auf Objektmitglieder verwendet,

• die größer als 1 MB sind und nicht den Seiten zugeordnet werden

können

:

• Major GC: Verwendet Mark-Sweep-Compact -Algorithmus für das Objektrecycling in der alten Generation
• : Scavenge Algorithmus wird zum Recycling von Objekten in der neuen Generation

Scavenge

Prämisse: New space ist in zwei Objekträume unterteilt: from und to

Schritte:

Wenn der New space voll ist

• from space führen Sie eine Breitendurchquerung durch

• und stellen Sie fest, dass das überlebende (erreichbare) Objekt

  • einmal überlebt hat.

• Wenn das Kopieren endet, werden nur noch verbliebene Objekte in to space verschoben, from space Raum wird geleert

• • Old space
  • to space

• to space from space Scavenge beginnt

eignet sich für häufiges Recycling und unzureichenden Speicher. Bei großen Objekten hat die typische Raum-für-Zeit-Strategie den Nachteil, dass doppelt so viel Platz verschwendet wird wie bei

Mark-Sweep-Compact.

Drei Schritte: Markieren, Löschen und Organisieren

Old space

Schritte:

• Markieren (dreifarbige Markierungsmethode).

  Schwarz:
  • repräsentiert
  • nicht recycelbare Objekte und alle generierten Referenzen wurden gescannt.
  • Stellt nicht wiederverwendbare Objekte dar, und die von ihnen generierten Referenzen wurden noch nicht gescannt.
  • Legen Sie die vom V8-Stammobjekt direkt referenzierten Objekte in eine marking queue (expliziten Stapel) und markieren Sie diese Objekte als grau.
  • Beginnen Sie mit der Durchquerung dieser Objekte. pop das Objekt jedes Mal aus marking queue , markieren Sie es
  als grau und verschieben
  • Sie
  • push in marking queue
  • Alle Objekte auf dem Stapel werden abgelegt, bis sie fallen gelassen werden. In der alten Generation gibt es nur zwei Arten von Objekten: schwarz (nicht recycelbar) und weiß (kann recycelt werden).
  • PS: Wenn ein Objekt zu groß ist und nicht recycelt werden kann Wenn der Speicherplatz begrenzt ist, bleibt v8 das Objekt grau und überspringt es. Markiert den gesamten Stapel als überfüllt (übergelaufen), wartet, bis der Stapel gelöscht ist, und überquert die Markierung erneut, was einen zusätzlichen Scan erfordert Der

• Sweep

  • zum Löschen der weißen Objekte
  • führt dazu, dass der Speicherplatz diskontinuierlich wird

• .

  • Es ist hilfreich, dass neue Objekte in den GC gelangen
  • und die schwarzen (Überlebens-)Objekte auf einen Wert verschieben Ende Old space , sodass der freigegebene Speicherplatz kontinuierlich und vollständig ist.
  • Dies kann zwar das Problem der Speicherfragmentierung lösen, erhöht jedoch die Pausenzeit (langsame Ausführungsgeschwindigkeit)
  • und es ist nicht genügend Speicherplatz für neue Schüler vorhanden Wird nur bei der Zuweisung hochgestufter Objekte verwendet

Speicherbereinigung

durchführt, muss es das Programm stoppen, den gesamten Heap scannen und den Speicher zurückgewinnen, bevor das Programm erneut ausgeführt wird. Dieses Verhalten wird als vollständige Pause ( Stop-The-World ) bezeichnet.

Obwohl die aktiven Objekte in der neuen Generation klein sind und häufig recycelt werden, hat ein vollständiger Stopp nur geringe Auswirkungen. Die überlebenden Objekte in der alten Generation sind jedoch zahlreich und groß. und Pausen, die durch Markieren, Reinigen und Sortieren usw. verursacht werden. Es wird schwerwiegender sein.

der Optimierungsstrategie

• (Inkrementelle Markierung): Wenn der Heap in der Markierungsphase eine bestimmte Größe erreicht, wird die inkrementelle GC gestartet. Nach jeder Zuweisung einer bestimmten Speichermenge wird das laufende Programm angehalten und die Markierung erfolgt für einige Millisekunden auf mehrere zehn Millisekunden und setzen Sie dann das Programm fort.

Dieses Konzept ähnelt tatsächlich ein wenig der Fiber-Architektur im React-Framework. Nur während der freien Zeit des Browsers wird der Fiber-Baum durchlaufen, um die entsprechenden Aufgaben auszuführen , Vermeidung von Anwendungsverzögerungen und Verbesserung der Anwendungsleistung.

• Gleichzeitiges Sweeping: Lassen Sie andere Threads gleichzeitig Sweeping durchführen, ohne sich Gedanken über Konflikte mit dem Hauptthread des ausführenden Programms machen zu müssen.
• Paralleles Sweeping: Lassen Sie mehrere Sweeping-Threads gleichzeitig arbeiten, verbessern Sie den Sweeping-Durchsatz und verkürzen Sie die gesamte GC-Periode

Speicherplatzanpassung.

Da v8 eine Standardspeicherbeschränkung für die neue und alte Generation hat

• New space 32 MB für 64-Bit-Systeme und 16 MB für 32-Bit-
• Old space 700 MB für 32-Bit-Systeme.

node werden zwei Parameter zum Anpassen der oberen Speicherplatzgrenze der neuen und alten Generation bereitgestellt:

• --max-semi-space-size : Legen Sie den Maximalwert des New Space fest
• --max-old-space-size : Legen Sie den Maximalwert von Old Space fest. space

View Der GC-Protokollknoten

node außerdem drei Möglichkeiten zum Anzeigen von GC-Protokollen:

• --trace_gc : Eine Protokollzeile beschreibt kurz die Zeit, den Typ, die Heap-Größenänderungen und die Ursachen jedes GC
• --trace_gc_verbose : Zeigt jeden V8-Heap nach jedem GC an. Detaillierter Status des Speicherplatzes
• --trace_gc_nvp : Detaillierte Schlüssel-Wert-Paarinformationen jedes GC, einschließlich GC-Typ, Pausenzeit, Speicheränderungen usw.

Da das GC-Protokoll relativ primitiv ist und erfordert Für die sekundäre Verarbeitung können Sie v8-gc verwenden, das vom AliNode-Team entwickelt wurde. Das Log-Parser

Snapshot

-Tool

erstellt einen Snapshot des Heap-Speichers eines laufenden Programms und kann zur Analyse des Speicherverbrauchs und zur Änderung von

Heapsnapshot

.heapsnapshot Dateien

kann auf folgende Weise generiert werden:

• mit Heapdump

• Verwendung des Heap-Profils von v8

• Verwenden Sie die API

  • v8.getHeapSnapshot()

  die vom integrierten v8-Modul von nodejs bereitgestellt wird

  

  • v8.writeHeapSnapshot(fileName)

  

• Verwendung von v8-profiler-next

die Analysemethode

.heapsnapshot in den Speicher der Chrome-Devtools-Symbolleiste hochgeladen werden. Die Ergebnisse werden wie folgt angezeigt:

Die Standardansicht ist Summary . Hier müssen wir auf die beiden Spalten ganz rechts achten: Shallow Size und Retained Size Size

• Retained Size
• Shallow Size die Größe des im v8-Heap-Speicher zugewiesenen Objekts an
• Shallow Size aller referenzierten Objekte des Objekts.

Wenn festgestellt wird, dass Retained Size im Objekt besonders groß ist, können Sie

die Comparison weiter erweitern, um sie zu vergleichen Analysieren Sie die Heap-Snapshots von zwei verschiedenen Zeiträumen. Mit der Delta Spalte können Sie die Objekte mit den größten Speicheränderungen herausfiltern.

Cpuprofile

führt ein Snapshot-Sampling der CPU durch, auf der das Programm ausgeführt wird, was zur Analyse der CPU-Zeit und des CPU-Anteils verwendet werden kann.

Es gibt mehrere Möglichkeiten, eine .cpuprofile Datei zu generieren:

v8

• -profiler (ein offiziell von Node bereitgestelltes Tool, das jedoch nicht mehr möglich ist unterstützt Node v10 oder höher) Version und wird nicht mehr gewartet)
• v8-profiler-next (chinesische Wartungsversion, unterstützt den neuesten Node v18, wird kontinuierlich gewartet)

Dies ist eine 5-minütige CPU-Profil-Beispielsammlung

die Analysemethode

Javascript Profiler .cpuprofile Datei

Die Standardansicht ist die Heavy -Ansicht. Hier sehen wir zwei Spalten: Self Time und Total Time

: stellt die
• Total Time dieser
• Self Time selbst dar (ohne andere Aufrufe).
• Wenn festgestellt wird, dass die Gesamtzeit und die Eigenzeit stark voneinander abweichen,

Total Time die Berechnung viel Zeit in Anspruch Self Time . Sie können auch eine weitere Fehlerbehebung durchführen,

wenn

die Anwendung unerwartet abstürzt und beendet wird. Das System zeichnet in diesem Moment automatisch die Speicherzuordnungsinformationen, den Programmzähler und den Stapelzeiger sowie andere Schlüsselinformationen auf

. Drei Methoden zum Generieren von .core Dateien:

ulimit

• ulimit -c unlimited öffnet das Kernel-Limit
• node --abort-on-uncaught-exception Durch Hinzufügen dieses Parameters beim Starten des Knotens kann eine Kerndatei generiert werden, wenn in der Anwendung eine nicht erfasste Ausnahme auftritt.
• gcore <pid>

Nach Erhalt der .core Datei Analyse

und

Die Diagnose kann über Tools wie mdb, gdb, lldb usw. erfolgen. Die eigentliche Ursache des Prozessabsturzes ist

llnode

• llnode `which node` -c /path/to/core/dump

Fallanalysebeobachtung

Durch die Überwachung kann beobachtet werden, dass der Heap-Speicher immer weiter zunimmt, sodass zur Fehlerbehebung

und Analyse Heap-Snapshots erforderlich sind.

Anhand heapsnapshot können wir analysieren und herausfinden, dass es ein newThing Objekt gibt, das immer einen relativ großen Speicher verwaltet hat

.

eine Zusammenfassung

unused newThing theThing

replaceThing , die durch Abschlüsse verursacht werden,

gehören:

• globale Variablen,
• Abschlüsse,
• Timer,
• Ereignis-Überwachungs-
• Caches.

Daher müssen Sie sorgfältig abwägen, ob das Objekt im Speicher automatisch recycelt wird nicht automatisch recycelt werden, müssen Sie ein manuelles Recycling durchführen, z. B. das manuelle Setzen von Objekten auf null , das Entfernen von Timern, das Aufheben der Bindung von Ereignis-Listenern usw.

abgeschlossen

. Dieser Artikel enthält eine detaillierte Einführung in das gesamte Leistungsüberwachungssystem von Node.js.

Zunächst werden die durch Leistungsüberwachung gelösten Probleme, ihre Komponenten und ein Vergleich der Vor- und Nachteile gängiger Lösungen vorgestellt.

Anschließend werden die beiden Hauptteile der Leistungsindikatoren und Snapshot-Tools ausführlich vorgestellt.

• Die Leistungsindikatoren konzentrieren sich hauptsächlich auf CPU-, Speicher-, Heap-Speicher- und GC-Indikatoren. Gleichzeitig werden die GC-Strategie und der GC-Optimierungsplan von Version 8 vorgestellt
• Zu den Snapshot-Tools gehören hauptsächlich Heap-Snapshot, CPU-Snapshot und Coredump während eines Absturzes
• .

Abschließend wird ein einfacher Speicherverlustfall aus Beobachtung, Analyse und Fehlerbehebung reproduziert und häufige Speicherverlustsituationen und -lösungen zusammengefasst.

Ich hoffe, dieser Artikel kann jedem helfen, das gesamte Leistungsüberwachungssystem von Node.js zu verstehen.