ทำไมคุณจึงต้องมีการตรวจสอบประสิทธิภาพ? มาพูดถึงการตรวจสอบประสิทธิภาพของ Node.js กัน

เหตุใดจึงจำเป็นต้องมีการตรวจสอบประสิทธิภาพ

โหนดซึ่งเป็นรันไทม์สำหรับ Javascript บนฝั่งเซิร์ฟเวอร์ ช่วยเสริมสถานการณ์แอปพลิเคชันของ Javascript อย่างมาก

อย่างไรก็ตาม Node.js Runtime นั้นเป็นกล่องดำ เรา ไม่สามารถรับรู้ สถานะรันไทม์ได้ และ เป็นการยากที่จะทำให้เกิด ปัญหาออนไลน์อีกครั้ง

ดังนั้น การตรวจสอบประสิทธิภาพ จึงเป็นรากฐานสำคัญของ "การทำงานปกติ" ของแอปพลิเคชัน Node.js ไม่เพียงแต่สามารถตรวจสอบตัวบ่งชี้รันไทม์ต่างๆ ได้ตลอดเวลา แต่ยังสามารถช่วยแก้ไขปัญหาสถานการณ์ที่ผิดปกติได้อีกด้วย

ของส่วนประกอบ

สามารถแบ่งออกเป็นสองส่วน:

• การรวบรวมและการแสดงตัวบ่งชี้ประสิทธิภาพ

  • ข้อมูลระดับกระบวนการ: CPU, หน่วยความจำ, ฮีป, GC และ
  • ข้อมูลระดับระบบอื่น ๆ: การใช้ดิสก์, โหลด I/O, สถานะการเชื่อมต่อ TCP/UDP, ฯลฯ
  • ข้อมูลเลเยอร์แอปพลิเคชัน:

• การจับและการวิเคราะห์ข้อมูลประสิทธิภาพ

  เช่น QPS, HTTP ที่ช้า, บันทึกลิงก์การประมวลผลทางธุรกิจ ฯลฯ
  • Heapsnapshot: สแนปชอตหน่วยความจำฮีป
  • Cpuprofile: สแนปชอต CPU
  • Coredump:

การเปรียบเทียบโซลูชันสแน็ปช็อตข้อขัดข้องของแอปพลิเคชัน

จากภาพด้านบน คุณจะเห็นข้อดีและข้อเสียของโซลูชันการตรวจสอบประสิทธิภาพ Node.js หลักสามโซลูชันในปัจจุบัน ต่อไปนี้เป็นคำแนะนำโดยย่อเกี่ยวกับองค์ประกอบของโซลูชันทั้งสามนี้:

• Prometheus

  • Prom-client คือการนำ Prometheus ไปใช้ซึ่ง ใช้เพื่อรวบรวมตัวบ่งชี้ประสิทธิภาพ
  • Grafana เป็นแพลตฟอร์มการแสดงภาพที่ใช้ในการแสดงแผนภูมิข้อมูลต่างๆ การเข้าถึง Prometheus
  • รองรับเฉพาะการรวบรวมและการแสดงตัวบ่งชี้ประสิทธิภาพอื่นๆ ที่จำเป็นในการแก้ไขปัญหาเพื่อสร้าง

• AliNode

แบบวงปิด

• • Alinode เป็นรันไทม์แบบขยายที่เข้ากันได้กับ nodejs อย่างเป็นทางการ โดยมีฟังก์ชันเพิ่มเติมบางอย่าง:

    • การตรวจสอบสถานะรันไทม์หน่วยความจำของ v8
    • การตรวจสอบสถานะรันไทม์ของ libuv
    • ฟังก์ชันการวินิจฉัยข้อผิดพลาดแบบออนไลน์: สแน็ปช็อตฮีป, โปรไฟล์ CPU, GC Trace ฯลฯ

  • agenthub เป็นกระบวนการประจำถิ่นที่ใช้ในการรวบรวมตัวบ่งชี้ประสิทธิภาพ และรายงานพวกเขา

    • Integrated agentx + เครื่องมือที่สะดวกสบายของ commdx

  • จะสร้างวงปิดจากการตรวจสอบ การแสดงผล สแน็ปช็อต และการวิเคราะห์ การเข้าถึงนั้นสะดวกและง่ายดาย แต่ยังคงมีความเสี่ยงเมื่อขยายรันไทม์

• • Easy

  -Monitor

  • การสุ่มตัวอย่างสถานะรันไทม์แบบเรียลไทม์และบันทึกประสิทธิภาพเอาต์พุต (นั่นคือ การดึงข้อมูลประสิทธิภาพ)
  • xtransit รับผิดชอบในการรวบรวมและส่งบันทึกประสิทธิภาพ
  • ความแตกต่างที่ใหญ่ที่สุดจาก AliNode คือการใช้ Node.js Addon เพื่อใช้งาน

CPU

ตัวบ่งชี้ประสิทธิภาพ

• การ
• บริโภค

เวลา CPU ของกระบวนการปัจจุบันสามารถรับได้ผ่าน process.cpuUsage()

• ระบบเมื่อกระบวนการถูกดำเนินการ

หน่วยความจำ

ข้อมูลการจัดสรรหน่วยความจำของกระบวนการปัจจุบันสามารถรับได้ผ่าน process.memoryUsage() หน่วยของค่าที่ส่งคืนคือไบต์

• rss: หน่วยความจำภายใน ขนาดหน่วยความจำทั้งหมดที่จัดสรรโดยกระบวนการโหนด
• heapTotal: ขนาดหน่วยความจำฮีปที่ใช้โดย v8
• heapUsed: ฮีปที่ใช้โดย v8
• ขนาดหน่วยความจำภายนอก: ขนาดหน่วยความจำที่ถูกครอบครองโดย C ++ จัดการโดย v8
• arrayBuffers: ขนาดหน่วยความจำที่จัดสรรให้กับ ArrayBuffer

ดังที่เห็นได้จากรูปด้านบน rss ประกอบด้วยส่วนของโค้ด ( Code Segment ) หน่วยความจำสแต็ก ( Stack ) และหน่วยความจำฮี Heap

• (
• Heap
• )

ฮีป

• อื่นๆ ทั้งหมด

สามารถรับข้อมูลการวิเคราะห์ของหน่วยความจำฮีป v8 และพื้นที่ฮีปผ่าน v8.getHeapStatistics() และ v8.getHeapSpaceStatistics() รูปต่อไปนี้แสดงการกระจายองค์ประกอบหน่วยความจำฮีปของ v8:

พื้นที่หน่วยความจำฮีปจะถูกแบ่งออกเป็นช่องว่างก่อน และพื้นที่จะถูกแบ่งออกเป็นหน้า หน่วยความจำจะถูกเพจตามการจัดตำแหน่ง 1MB

• New Space: พื้นที่ยุคใหม่ใช้เพื่อเก็บข้อมูลอ็อบเจ็กต์บางส่วนที่มีวงจรชีวิตค่อนข้างสั้น แบ่งออกเป็น 2 ช่องว่าง (ประเภทพื้นที่คือ semi space ) from space to space

  • เงื่อนไขโปรโมชั่น: ยังคงอยู่หลังจาก GC สองตัวในพื้นที่ใหม่

• พื้นที่เก่า : พื้นที่รุ่นเก่าที่ใช้ในการจัดเก็บวัตถุที่ส่งเสริมโดย New Space

• Code Space: เก็บโค้ดที่ปฏิบัติการได้ซึ่งคอมไพล์โดย v8 JIT

• : เก็บวัตถุตัวชี้ของคลาสที่ซ่อนอยู่ซึ่งชี้โดย Object v8 ตามรันไทม์ โครงสร้างเค้าโครงวัตถุใช้เพื่อเข้าถึงสมาชิกของวัตถุอย่างรวดเร็ว

• : ใช้เพื่อจัดเก็บวัตถุที่มีขนาดใหญ่กว่า 1MB ที่ไม่สามารถจัดสรรให้กับเพจได้

อัลกอริธึมการรวบรวมขยะของ

GC

• หลัก GC: uses Mark-Sweep-Compact algorithm.
Minor GC
• for object recycling in the old generation
• : Scavenge algorithm is used to recycle objects in the new generation

Scavenge

前提： New space分为from和to两个对象空间

触发时机：当New space空间满了

步骤：

• 在from space中，进行宽度优先遍历

• 发现存活（可达）对象

  • 已经存活过一次（经历过一次Scavange），晋升到Old space
  • 其他的复制到to space中

• 当复制结束时， to space中只有存活的对象， from space就被清空了

• 交换from space和to space ，开始下一轮Scavenge

适用于回收频繁，内存不大的对象，典型的空间换时间的策略，缺点是浪费了多一倍的空间

Mark-Sweep-Compact

สามขั้นตอน: การทำเครื่องหมาย การล้าง และการจัดระเบียบ

เวลาทริกเกอร์: เมื่อ Old space เต็ม

ขั้นตอน:

• การทำเครื่องหมาย (วิธีการทำเครื่องหมายสามสี)

  สีดำ:
  • หมายถึง
  • วัตถุที่ไม่สามารถรีไซเคิลได้ และสร้างข้อมูลอ้างอิงทั้งหมด ได้รับการสแกนแล้ว
  • สีเทา: หมายถึงวัตถุที่ไม่สามารถรีไซเคิลได้ และการอ้างอิงที่สร้างโดยวัตถุเหล่านั้นยังไม่ได้ถูกสแกน
  • ใส่วัตถุที่อ้างอิงโดยตรงโดยวัตถุราก V8 ลงใน marking queue (สแต็กที่ชัดเจน) และทำเครื่องหมายวัตถุเหล่านี้เป็นสีเทา
  • เริ่มต้นความลึกจากวัตถุเหล่านี้ จัดลำดับความสำคัญของการสำรวจ แต่ละครั้งที่มีการเข้าถึงวัตถุ pop วัตถุออกจาก marking queue และทำเครื่องหมายเป็นสีดำ
  • จาก
  • นั้นทำเครื่องหมายวัตถุสีขาวทั้งหมดที่อ้างอิงโดยวัตถุเป็นสีเทาและ push ไปยัง marking queue
  • วัตถุทั้งหมดในสแต็กจะโผล่ออก
  • มา เมื่อผลักไปที่สแต็กโดยมีพื้นที่จำกัด v8 จะคงวัตถุไว้เป็นสีเทาและข้ามมัน ทำเครื่องหมายทั้งสแต็กว่าโอเวอร์โฟลว์ (โอเวอร์โฟลว์) รอให้ล้างสแต็ก และสำรวจเครื่องหมายอีกครั้ง ซึ่งจะต้องมีการสแกนเพิ่มเติม ของฮีป

• การกวาด

  • เพื่อล้างวัตถุสีขาว
  • จะทำให้พื้นที่หน่วยความจำไม่ต่อเนื่อง

• Compact

  • Sweep จะทำให้พื้นที่หน่วยความจำไม่ต่อเนื่อง จะเป็นประโยชน์สำหรับวัตถุใหม่ที่จะเข้าสู่ GC
  • และย้ายวัตถุสีดำ (การอยู่รอด) ไปที่หนึ่ง สิ้นสุด Old space เพื่อให้พื้นที่ว่างมีความต่อเนื่องและสมบูรณ์
  • แม้ว่าจะสามารถแก้ปัญหาการกระจายตัวของหน่วยความจำได้ แต่ก็จะทำให้เวลาหยุดชั่วคราวเพิ่มขึ้น (ความเร็วในการประมวลผลช้า)
  • และมีพื้นที่ไม่เพียงพอสำหรับนักเรียนใหม่

การเลื่อนระดับ

• • เท่านั้น

เมื่อ v8 ดำเนินการรวบรวมขยะในขั้นต้น จะต้องหยุดโปรแกรม สแกนฮีปทั้งหมด และเรียกคืนหน่วยความจำก่อนที่จะรันโปรแกรมอีกครั้ง พฤติกรรมนี้เรียกว่าการหยุดชั่วคราว ( Stop-The-World )

แม้ว่าวัตถุที่ใช้งานอยู่ในยุคใหม่จะมีขนาดเล็กและรีไซเคิลบ่อยครั้ง แต่การหยุดแบบเต็มมีผลกระทบเพียงเล็กน้อยเท่านั้น และการหยุดชั่วคราวที่เกิดจากการทำเครื่องหมาย การทำความสะอาด และการเรียงลำดับ ฯลฯ จะรุนแรงมากขึ้น

กลยุทธ์การเพิ่มประสิทธิภาพ

• การรีไซเคิลส่วนเพิ่ม (การทำเครื่องหมายแบบเพิ่มหน่วย): ในขั้นตอนการทำเครื่องหมาย เมื่อฮีปถึงขนาดที่กำหนด GC ที่เพิ่มขึ้นจะเริ่มทำงาน หลังจากจัดสรรหน่วยความจำจำนวนหนึ่งแต่ละครั้ง โปรแกรมที่รันอยู่จะหยุดชั่วคราวและการทำเครื่องหมายจะเสร็จสิ้นสักสองสามมิลลิวินาที ถึงหลายสิบมิลลิวินาที จากนั้นจึงเริ่มโปรแกรมต่อ

แนวคิดนี้เป็นเหมือนสถาปัตยกรรมไฟเบอร์ในเฟรมเวิร์ก React หลีกเลี่ยงความล่าช้าของแอปพลิเคชัน และปรับปรุงประสิทธิภาพของแอปพลิเคชัน

การกวาดล้างพร้อมกัน: ปล่อยให้เธรดอื่นทำการกวาดใน
• เวลาเดียวกัน
• โดยไม่ต้องกังวลกับความขัดแย้งกับเธรดหลักของโปรแกรมที่รันอยู่

การปรับพื้นที่

เนื่องจาก v8 มีขีดจำกัดเริ่มต้นของพื้นที่รุ่นใหม่และรุ่นเก่า

• ขีดจำกัดเริ่มต้นของ New space : 32M สำหรับระบบ 64 บิต และ 16M สำหรับระบบ 32 บิต
• Old space

• --max-semi-space-size New Space
• --max-old-space-size

node

• บิต

• --max-old-space-size : Set the maximum value of Old Space space

View The GC log

node also provides three ways to view GC logs:

• --trace_gc : A line of log briefly describes the time, type, heap size changes and causes of each GC
• --trace_gc_verbose : แสดงแต่ละ V8 heap หลังจากแต่ละสถานะ GC โดยละเอียดของพื้นที่
• --trace_gc_nvp : ข้อมูลคู่คีย์-ค่ารายละเอียดของแต่ละ GC รวมถึงประเภท GC, เวลาหยุดชั่วคราว, การเปลี่ยนแปลงหน่วยความจำ ฯลฯ

เนื่องจากบันทึก GC ค่อนข้างดั้งเดิม

คุณ

V8

.heapsnapshot

GC-

พัฒนาโดยทีม

Alinode

สร้างขึ้นด้วยวิธีต่อไปนี้:

• ใช้ heapdump

• การใช้ฮีปโปรไฟล์ของ v8

• ใช้ api

  • v8.getHeapSnapshot()

  จัดทำโดยโมดูล v8 ในตัวของ nodejs

  

  • v8.writeHeapSnapshot(fileName)

  

• ใช้ v8-profiler-next

วิธีการวิเคราะห์

.heapsnapshot อัปโหลดในหน่วยความจำบนแถบเครื่องมือ Chrome Devtools และผลลัพธ์จะปรากฏดังที่แสดงด้านล่าง:

• Shallow Size
• Retained Size

Retained Size Shallow Size คือมุมมอง Summary

Retained Size

Comparison

• Shallow Size ของวัตถุ

วิเคราะห์สแนปชอต Delta ปของสองช่วงเวลาที่แตกต่างกัน

CPUPROFILE

แน็

ปช็อต ของ CPU ที่ใช้โปรแกรมซึ่งสามารถใช้ในการวิเคราะห์เวลาและสัดส่วน

.cpuprofile

• CPU รุ่นรองรับโหนด v10 หรือสูงกว่า) และไม่ได้รับการดูแลอีกต่อไป)
• V8-profiler-next (เวอร์ชันการบำรุงรักษาภาษาจีนรองรับโหนดล่าสุด V18 ภายใต้การบำรุงรักษาอย่างต่อเนื่อง)

นี่คือการรวบรวมตัวอย่างโปรไฟล์ CPU 5 นาที

ไฟล์ .cpuprofile ที่สร้างขึ้น Javascript Profiler

วิธีการวิเคราะห์

มุมมอง Self Time ต้น Total Time มุม Heavy

• Total Time
• Self Time

Self Time Total Time

น

การ

• โทร)

ระบบจะ

บันทึก

• ulimit -c unlimited

.core

.core

• node --abort-on-uncaught-exception ไฟล์หลักเมื่อมีข้อยกเว้นที่ไม่ถูกต้องเกิดขึ้นในแอปพลิ
• gcore <pid>

ชัน

สามารถ

ทำได้ผ่านเครื่องมือเช่น MDB, GDB, LLDB และ

อื่น

• llnode `which node` -c /path/to/core/dump

สามารถสังเกตได้จากการตรวจสอบว่าหน่วยความจำฮีปยังคงเพิ่มขึ้นอย่างต่อเนื่องดังนั้นจึงจำเป็นต้องใช้สแน็ปช็อตฮีปสำหรับการแก้ไขปัญหา

และการวิเคราะห์

จากข้อมูลของ heapsnapshot เราสามารถวิเคราะห์และค้นหาว่ามีวัตถุ newThing ที่รักษาหน่วยความจำที่ค่อนข้างใหญ่อยู่

เสมอ

unused theThing newThing

ไม่

• กรณี
• การ
• รั่ว
• ไหล
• ที่

เกิด

replaceThing

​ไม่ได้รีไซเคิลโดยอัตโนมัติคุณต้องรีไซเคิลด้วยตนเองเช่นการตั้งค่าวัตถุด้วยตนเองเป็น null ลบตัวจับเวลาผู้ฟังเหตุการณ์ที่ไม่ได้ผูกมัด ฯลฯ

สรุป

บทความนี้

ประการแรกมันแนะนำปัญหาที่แก้ไขโดยการตรวจสอบประสิทธิภาพส่วนประกอบและการเปรียบเทียบข้อดีและข้อเสียของโซลูชันหลัก

จากนั้นสองส่วนที่สำคัญของตัวบ่งชี้ประสิทธิภาพและเครื่องมือสแน็ปช็อตได้รับการแนะนำในราย

• ละเอียด .
• เครื่องมือสแน็ปช็อตส่วนใหญ่รวมถึงฮีปสแน็ปช็อตซีพียูสแน็ปช็อตและ coredump ในระหว่างการ

ชน

ฉันหวังว่าบทความนี้จะช่วยให้ทุกคนเข้าใจระบบการตรวจสอบประสิทธิภาพของ Node.js ทั้งหมด