Beranda>Terkait pemrograman>kode sumber C#
Unduh

SharedHashFile: Bagikan tabel hash dengan petunjuk kunci stabil yang disimpan dalam file memetakan memori antara proses sewenang -wenang

SharedHashFile adalah tabel nilai kunci NoSQL yang ringan dan dapat disematkan dengan petunjuk kunci yang stabil, antrian IPC nol-copy, & pustaka logging IPC multiplexed yang ditulis dalam C untuk Linux. Data yang diakses langsung dalam memori bersama; Tidak ada soket yang digunakan antara SharedHashFile dan program aplikasi; Tidak ada proses server. API untuk C & C ++.

Tujuan proyek

  • Kecepatan lebih cepat.
  • Jejak yang lebih sederhana & lebih kecil.
  • Penggunaan memori yang lebih rendah.
  • Bersamaan, dalam akses memori.

Teknologi

Penyimpanan data

Data disimpan dalam memori bersama secara default, membuat semua data dapat diakses ke proses apa pun. Hingga 4 miliar kunci dapat disimpan dalam satu tabel hash sharedhashfile yang hanya terbatas oleh RAM yang tersedia.

Misalnya, katakanlah Anda memiliki kotak dengan RAM 128GB di mana 96GB digunakan oleh tabel hash sharedhashfile. Kotak ini memiliki 24 core dan ada 24 proses (misalnya proses budak bercabang nginx atau apa pun) secara bersamaan mengakses 96GB tabel hash. Setiap proses berbagi 96GB yang sama dari memori bersama.

Akses memori langsung

Karena kunci, pasangan nilai ditahan dalam memori bersama di seluruh proses N, memori bersama dapat berubah dan/atau bergerak kapan saja. Oleh karena itu, mendapatkan nilai selalu menghasilkan menerima salinan nilainya.

Pengkodean data

Kunci dan nilai saat ini adalah string biner, dengan panjang maksimum gabungan 2^32 byte.

Koleksi Alokasi & Sampah

Malloc konvensional () tidak berfungsi dalam memori bersama, karena kita harus menggunakan offset alih -alih pointer konvensional. Oleh karena itu SharedHashFile menggunakan implementasi malloc () sendiri untuk memori bersama.

Untuk menghindari lubang memori maka pengumpulan sampah terjadi dari waktu ke waktu demi kunci, penyisipan nilai. Jumlah kunci, pasangan nilai yang dilakukan selama pengumpulan sampah sengaja dibatasi oleh algoritma hingga maksimum 8.192 pasang tidak peduli berapa banyak kunci yang telah dimasukkan ke dalam tabel hash. Ini berarti meja hash selalu terasa sangat responsif.

Ekspansi tabel hash

SharedHashFile dirancang untuk memperluas dengan anggun karena lebih banyak kunci, pasangan nilai dimasukkan. Tidak ada peningkatan memori tiba -tiba atau peristiwa penggandaan memori. Dan tidak ada jeda besar karena mengulangi kunci secara massal.

Mengunci

Untuk mengurangi pertengkaran, tidak ada kunci meja hash global tunggal dengan desain. Sebaliknya kunci dicekik di 256 kunci untuk mengurangi pertikaian kunci.

Kunci dan nilai panjang tetap opsional

Untuk kasus penggunaan dengan tingkat penulisan yang tinggi maka kinerja dapat menderita karena terlalu banyak panggilan sistem mmap () karena mendaur ulang / menyusut memori yang dipetakan area saat menghapus lubang memori karena kunci yang dihapus.

Untuk meningkatkan kinerja untuk menulis kasus penggunaan yang berat, kunci dan nilai dapat diperbaiki dalam ukuran di seluruh tabel hash, yang berarti kunci yang dihapus dapat dengan mudah digunakan kembali tanpa membuat lubang memori, dan tidak diperlukan panggilan sistem MMAP () yang mahal.

Menggunakan kunci dan nilai panjang tetap juga mengurangi jumlah RAM yang digunakan karena ukuran kunci dan nilai tidak lagi disimpan, misalnya 100 juta kunci dan nilai akan menghemat 100 juta * 8 byte = 800 juta byte.

Penyimpanan persisten

Tabel hash disimpan dalam file yang dipetakan memori di /dev/shm yang berarti data tetap ada bahkan ketika tidak ada proses yang menggunakan tabel hash. Namun, tabel hash tidak akan bertahan reboot.

Identifer Unik alias Petunjuk Kunci Stabil

Tidak seperti tabel hash lainnya, setiap kunci yang disimpan di SharedHashfile ditugaskan uid sendiri, misalnya shf_make_hash("key", 3); uint32_t uid = shf_put_key_val(shf, "val", 3) . Untuk mendapatkan kunci yang sama di masa depan, pilih antara mengakses kunci melalui kuncinya, atau melalui UID -nya, misalnya shf_make_hash("key", 3); shf_get_key_val_copy(shf) atau shf_get_uid_val_copy(shf, uid) .

Untuk apa UID bermanfaat? UIDS tidak mengambil sumber daya tambahan dan dapat dianggap sebagai sumber daya 'gratis'. Mengakses kunci oleh UID -nya lebih cepat daripada mengakses kunci melalui kuncinya. Karena UID hanya berukuran 32bit maka dapat dengan mudah disimpan sebagai referensi ke kunci dalam program Anda, atau tertanam dalam nilai kunci, pasangan nilai, atau bahkan tertanam dalam kunci lain.

Contoh Penggunaan: Jika UID1 menunjuk ke kunci "user-id-<xyz>" , dan uid2 menunjuk ke kunci "facebook.com" , maka kunci 'tumbuk' yang lain mungkin "<uid1><uid2>" . Ingin mengetahui apakah "user-id-<xyz>" memiliki "facebook.com" di daftar putih URL pribadi mereka? Cukup lihat apakah kunci "<uid1><uid2>" ada.

Apa arti 'stabil' dalam 'petunjuk kunci stabil'? Ini berarti bahwa UID tetap sama bahkan jika kunci dan/atau nilai byte bergerak di dalam memori.

Antrian IPC Zero-Copy

Bagaimana cara kerjanya? Buat elemen antrian berukuran X, dan antrian untuk mendorong & menarik elemen antrian tersebut ke/dari.

Contoh: Bayangkan dua proses Process A & Process B . Process A menciptakan 100.000 elemen antrian dan 3 antrian; queue-free , queue-a2b , dan queue-b2a . Secara intital, semua elemen antrian didorong ke queue-free . Process A kemudian melahirkan Process B yang melekat pada SharedHashFile untuk menarik dari queue-a2b . Untuk melakukan IPC nol-copy kemudian Process A dapat menarik elemen antrian dari queue-free , memanipulasi ukuran tetap, elemen antrian memori bersama, dan mendorong elemen antrian ke queue-a2b . Process B melakukan yang sebaliknya; Menarik elemen antrian dari queue-a2b , memanipulasi ukuran tetap, elemen antrian antrian memori bersama, dan mendorong elemen antrian ke queue-b2a . Process A juga dapat menarik item antrian dari queue-b2a untuk mencerna hasil dari Process B .

Jadi berapa banyak elemen antrian per detik yang dapat dipindahkan bolak -balik dengan Processes A & Process B ? Pada laptop Lenovo W530 maka sekitar 90 juta per detik jika kedua Process A & Process B ditulis dalam C.

Catatan: Ketika elemen antrian dipindahkan dari satu antrian ke antrian lainnya maka tidak disalin, hanya referensi yang diperbarui.

Pencatatan IPC multiplex

Bagaimana cara kerjanya? Process A panggilan shf_log_thread_new () yang membuat buffer log memori bersama dan utas output log yang secara berkala memantau garis log baru. Process B Panggilan SHF_LOG_ATTACH_EXISTING () untuk mulai masuk ke log bersama yang sama. Log menggunakan C makro shf_plain () dan shf_debug (). Jika SHF_LOG_THREAD_NEW () belum dipanggil maka output berjalan secara otomatis ke stdout, jika tidak logging multiplexed oleh utas output log.

Output contoh: 

 sharedhashfile$ cat debug/test.q.shf.t.tout
1..10
=0.000000 23056 pid 23056 started; mode is 'c2c'
=0.000013 23056 - SHF_SNPRINTF() // 'test-23056-ipc-queue'
ok 1 -    c2*: shf_attach()          works for non-existing file as expected
=0.000002 23060 shf.monitor: monitoring pid 23056 to delete /dev/shm/test-23056-ipc-queue.shf
1..7
=0.000001 23064 pid 23064 started; mode is '4c'
=0.000010 23064 - SHF_SNPRINTF() // 'test-23064-ipc-queue'
ok 1 -     4c: shf_attach_existing() works for existing file as expected
#0.003948 1 --> auto mapped to thread id 23061
#0.003948 1 shf_log_thread(shf=?){}
ok 2 -    c2*: put lock in value as expected
ok 3 -    c2*: shf_q_new() returned as expected
ok 4 -    c2*: moved   expected number of new queue items // estimate 51,044,225 q items per second without contention
#0.131327 2 --> auto mapped to thread id 23064
#0.131327 2 '4c' mode; behaving as client
ok 2 -     4c: shf_q_get_name('qid-free') returned qid as expected
ok 3 -     4c: shf_q_get_name('qid-a2b' ) returned qid as expected
ok 4 -     4c: shf_q_get_name('qid-b2a' ) returned qid as expected
#0.158467 2 shf_race_start() // 2 horses started after 0.000001 seconds
#0.158474 2 testing process b IPC queue a2b --> b2a speed
#0.158467 3 --> auto mapped to thread id 23056
#0.158467 3 shf_race_start() // 2 horses started after 0.027820 seconds
#0.158484 3 testing process a IPC queue b2a --> a2b speed
ok 5 -     4c: moved   expected number of new queue items // estimate 53,106,512 q items per second with contention
#0.179207 2 testing process b IPC lock speed
ok 6 -     4c: got lock value address as expected
ok 5 -    c2*: moved   expected number of new queue items // estimate 52,951,698 q items per second with contention
#0.180467 3 testing process a IPC lock speed
ok 6 -    c2*: got lock value address as expected
#0.180475 3 shf_race_start() // 2 horses started after 0.000000 seconds
#0.180475 2 shf_race_start() // 2 horses started after 0.001165 seconds
ok 7 -    c2*: rw lock expected number of times           // estimate 4,422,109 locks per second; with contention
ok 7 -     4c: rw lock expected number of times           // estimate 4,411,319 locks per second; with contention
#0.633875 2 ending child
ok 8 -    c2*: rw lock expected number of times           // estimate 51,144,435 locks per second; without contention
ok 9 -    c2*: rw lock expected number of times           // estimate 381,821,029 locks per second; without lock, just loop
ok 10 -    c2*: test still alive
#0.677166 3 ending parent
#0.677177 3 shf_del(shf=?)
#0.677180 3 - SHF_SNPRINTF() // 'du -h -d 0 /dev/shm/test-23056-ipc-queue.shf ; rm -rf /dev/shm/test-23056-ipc-queue.shf/'
#0.677181 3 shf_detach(shf=?)
#0.677183 3 shf_log_thread_del(shf=?) // waiting for log thread to end
=0.686385 3 shf_backticks('du -h -d 0 /dev/shm/test-23056-ipc-queue.shf ; rm -rf /dev/shm/test-23056-ipc-queue.shf/')
=0.724220 3 - read 39 bytes from the pipe
test: shf size before deletion: 394M /dev/shm/test-23056-ipc-queue.shf

Catatan:

  • Contoh di atas menunjukkan output dari 4 ID utas yang berbeda:
    • 29912 adalah ID utas dari utas utama program pengujian; alias '3'.
    • 29916 adalah ID utas dari utas utama program SHF.Monitor; tidak pernah berpartisipasi dalam penebangan multiplexed.
    • 29917 adalah ID utas dari utas output log program uji; alias '1'.
    • 29920 adalah ID utas dari utas utama program pengujian; bertelur secara rekursif dari 29912; alias '2'.
  • Baris dimulai dengan '=':
    • Output ke stdout; IE Lines dicatat sebelum atau setelah utas output log ada.
    • Tunjukkan stempel waktu relatif terhadap awal proses pencatatan.
    • Tunjukkan ID utas 5 digit.
  • Baris dimulai dengan '#':
    • Output ke stdout menggunakan utas output log.
    • Tunjukkan stempel waktu relatif terhadap awal utas output log.
    • Tampilkan ID utas yang dipetakan ke bilangan bulat pendek yang unik; 1 biasanya berarti utas output log itu sendiri.
  • Baris lain - misalnya uji 'OK' - akan secara otomatis menjadi garis log multiplex jika ada utas output log.

Bangunan

Bangun kode rilis menggunakan make , dan kode debug menggunakan make debug . Tes dijalankan secara otomatis. 

 root@16vcpu:/# make clean ; make
rm -rf release debug
make: variable: PROD_SRCS=murmurhash3.c shf.c tap.c
make: variable: PROD_OBJS=release/murmurhash3.o release/shf.o release/tap.o
make: variable: TEST_SRCS=test.1.tap.c test.9.shf.c
make: variable: TEST_OBJS=release/test.1.tap.o release/test.9.shf.o
make: variable: TEST_EXES=release/test.1.tap.t release/test.9.shf.t
make: compling: release/test.1.tap.o
make: compling: release/murmurhash3.o
make: compling: release/shf.o
make: compling: release/tap.o
make: linking: release/test.1.tap.t
make: running: release/test.1.tap.t
1..1
ok 1 - All passed
make: compling: release/test.9.shf.o
make: linking: release/test.9.shf.t
make: running: release/test.9.shf.t
1..10
ok 1 - shf_attach_existing() fails for non-existing file as expected
ok 2 - shf_attach()          works for non-existing file as expected
ok 3 - shf_get_copy_via_key() could not find unput key as expected
ok 4 - shf_get_copy_via_key() could     find   put key as expected
ok 5 - put expected number of              keys // 2293581 keys per second
ok 6 - got expected number of non-existing keys // 3812667 keys per second
ok 7 - got expected number of     existing keys // 3021523 keys per second
ok 8 - graceful growth cleans up after itself as expected
ok 9 - del expected number of     existing keys // 3109056 keys per second
ok 10 - del does not   clean  up after itself as expected
running tests on: via command: 'cat /proc/cpuinfo | egrep 'model name' | head -n 1'
running tests on: `model name   : Intel(R) Xeon(R) CPU E5-2670 0 @ 2.60GHz`
-OP MMAP REMAP SHRK PART TOTAL ------PERCENT OPERATIONS PER PROCESS PER SECOND -OPS
--- -k/s --k/s --/s --/s M-OPS 00 01 02 03 04 05 06 07 08 09 10 11 12 13 14 15 -M/s
PUT  3.4  16.9 1298  626   0.0 10 10  8  5  3  2  8  9  9  6  2  8  4  7  8  4  0.0
PUT 51.4 363.7 1410 1200   5.4  7  6  7  6  7  5  6  7  6  6  6  7  7  6  5  6  5.4 -------
PUT 65.2 336.9 2036 2036  10.1  7  5  7  6  7  6  7  7  6  6  6  7  7  6  5  6  4.6 ------
PUT 56.8 331.7 1888 1888  14.9  6  5  6  7  6  7  7  7  6  6  6  7  7  6  5  6  4.9 ------
PUT 73.8 286.8 2200 2200  18.8  7  5  5  7  7  7  7  7  6  7  6  6  6  5  5  7  3.9 -----
PUT 21.2 412.9  726  726  25.1  6  5  5  7  7  8  7  7  6  6  6  6  6  5  5  7  6.3 --------
PUT 77.9 312.0 2554 2557  29.3  6  6  6  6  6  7  6  6  6  6  6  7  6  6  6  7  4.2 -----
PUT 96.7 272.2 3044 3041  32.5  7  6  6  6  6  7  6  6  6  7  6  7  6  6  6  7  3.1 ----
PUT 63.3 303.3 1804 1804  36.6  7  6  6  5  5  7  6  7  5  6  5  7  7  6  6  7  4.2 -----
PUT 11.5 380.9  349  349  43.2  7  6  6  5  5  7  6  6  6  5  6  7  7  6  6  6  6.6 --------
PUT 26.3 444.5  895  898  49.1  7  6  6  5  5  7  6  7  6  6  6  7  7  6  6  7  5.9 -------
PUT 55.0 283.9 1862 1860  53.8  5  6  6  6  6  6  5  7  6  6  7  7  7  6  6  7  4.7 ------
PUT 75.0 312.1 2480 2480  57.4  7  7  6  5  6  5  7  7  6  6  7  7  6  7  5  6  3.6 ----
PUT 88.5 191.2 2859 2858  60.6  7  7  6  6  7  6  7  5  7  5  7  7  6  7  6  5  3.2 ----
PUT 90.6 244.9 2853 2854  63.5  7  7  5  7  7  5  7  5  7  5  7  7  6  7  7  5  2.9 ---
PUT 82.6 258.8 2455 2455  66.4  7  7  5  7  7  6  7  5  6  5  7  7  5  7  6  5  3.0 ---
PUT 69.7 185.9 1970 1970  70.3  7  7  6  5  7  6  7  6  5  5  7  7  6  7  7  5  3.9 -----
PUT 28.8 409.6  761  760  75.6  6  7  6  6  6  5  6  6  7  5  7  7  5  7  7  6  5.2 ------
PUT  7.2 490.9  230  230  82.0  6  8  5  6  6  5  5  6  5  5  7  8  6  8  7  6  6.4 --------
PUT 11.1 414.9  391  391  88.4  6  7  7  6  6  5  5  6  6  5  6  7  5  7  7  6  6.4 --------
PUT 22.3 323.4  810  810  94.5  7  8  8  7  6  6  5  7  6  5  7  2  6  8  7  7  6.1 --------
PUT 26.1 302.4 1124 1124  99.3  2  5  8  9  7  8 10  1  9  9  6  0  8  4  9  6  4.8 ------
PUT  1.6   6.8  239  239 100.0  0  0  0  0  0  0  0  0 14 58  0  0  5  0 23  0  0.7
MIX  0.0   0.0    0    0 100.0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
MIX 21.8 103.9    0    0 105.3  5  6  6  7  7  7  7  5  8  6  6  3  7  6  7  7  5.3 -------
MIX  0.5   8.2    0    0 114.0  6  6  5  6  7  5  6  7  7  6  7  6  7  7  6  6  8.7 -----------
MIX  0.0   8.5    0    0 122.8  6  6  5  6  7  5  6  7  7  6  7  6  7  7  6  6  8.7 -----------
MIX  0.0   9.6    0    0 131.7  6  6  6  6  7  6  6  7  6  6  7  6  7  7  6  6  8.9 -----------
MIX  0.0  11.1    0    0 140.8  6  6  7  6  7  6  5  7  6  6  7  5  7  7  5  6  9.1 ------------
MIX  0.0  12.0    0    0 149.6  6  6  7  7  6  6  6  6  7  6  6  6  6  6  6  7  8.8 -----------
MIX  0.0  12.7    0    0 158.3  7  6  6  7  6  6  7  6  7  6  6  6  6  6  7  7  8.7 -----------
MIX  0.0  14.0    0    0 167.1  7  6  6  7  6  6  7  6  7  6  6  6  6  6  7  7  8.8 -----------
MIX  0.0  14.7    0    0 176.2  7  6  6  5  6  6  7  6  7  6  6  5  6  6  7  7  9.1 ------------
MIX  0.0  16.3    0    0 185.1  6  7  7  7  7  7  6  6  6  5  6  7  6  5  6  6  8.9 -----------
MIX  0.0  17.0    0    0 194.3  6  7  7  7  7  6  6  6  6  5  6  7  6  5  6  6  9.2 ------------
MIX  0.0   7.1    0    0 200.0  9  9  7  2  3 10  9  5  0 11  4 14  3  7  6  1  5.7 -------
GET  0.0   0.0    0    0 200.0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
GET  0.0   2.1    0    0 200.3  3  6  7  6  7  6  6  6  7  7  7  3  7  7  7  7  0.3
GET  0.0   2.4    0    0 208.5  6  6  6  6  7  6  6  6  7  6  7  6  6  7  6  7  8.2 ----------
GET  0.0   0.0    0    0 217.4  6  7  7  6  7  5  6  6  7  6  7  6  6  7  6  6  8.9 -----------
GET  0.0   0.0    0    0 226.3  6  7  8  6  7  5  6  6  7  5  7  5  6  7  6  5  9.0 -----------
GET  0.0   0.0    0    0 235.3  6  7  7  6  8  5  6  6  8  5  7  5  5  7  6  6  9.0 -----------
GET  0.0   0.0    0    0 244.2  6  7  6  8  7  5  6  6  7  6  7  6  6  5  6  6  8.9 -----------
GET  0.0   0.0    0    0 253.5  5  8  5  8  6  6  7  8  7  5  8  5  5  5  7  5  9.3 ------------
GET  0.0   0.0    0    0 263.1  4  8  5  9  5  5  8  9  5  5  8  5  5  5  8  5  9.6 ------------
GET  0.0   0.0    0    0 272.9  4  8  5  7  5  7  8  9  5  5  8  5  5  5  8  5  9.8 -------------
GET  0.0   0.0    0    0 282.3  5  7  5  6  8  7  7  8  5  5  7  5  5  6  7  5  9.4 ------------
GET  0.0   0.0    0    0 291.0  6  2  6  6  9 10  8  4  6  6  2  6  6  6  8  6  8.7 -----------
GET  0.0   0.0    0    0 298.7 12  0 10  3  0  9  0  0  4 12  0 12 13  9  0 15  7.7 ----------
GET  0.0   0.0    0    0 300.0 32  0  0  0  0  0  0  0  0 23  0 27 18  0  0  0  1.3 -
* MIX is 2% (2000000) del/put, 98% (12100654) get
make: built and tested release version

Catatan:

  • Angka -angka di atas dihasilkan pada server cloud Rackspace dengan 16 VCPU & 60GB RAM.
  • Garis statistik adalah output setiap detik selama pengujian.
  • Selama fase 'put', 16 proses bersamaan menempatkan 100 juta kunci unik ke dalam tabel hash.
  • Kemudian selama fase 'campuran', 16 proses bersamaan mendapatkan 98% dari 100 juta kunci unik saat memperbarui (del/put) 2% lainnya.
  • Kemudian selama fase 'dapatkan', 16 proses bersamaan mendapatkan 100 juta kunci unik dari tabel hash; Dalam hal ini hingga 9,8 juta GET operasi per detik di 16 proses bersamaan.
  • Total 300 juta operasi meja hash dilakukan.
  • Mengapa menempatkan kinerja sangat bervariasi? Ini karena pemetaan memori kernel overhead; 'Top' menunjukkan penggunaan CPU sistem yang lebih besar.

Pertunjukan

Berikut adalah contoh pada laptop 8 inti Lenovo W530 yang menunjukkan tabel hash dengan 100 juta kunci, dan kemudian melakukan 2% Delete/Insert dan 98% dibaca pada tingkat lebih dari 10 juta operasi per detik: 

 $ make clean ; make release
$ PATH=release:$PATH SHF_PERFORMANCE_TEST_ENABLE=1 test.f.shf.t
...
perf testing: SharedHashFile
running tests on: via command: 'cat /proc/cpuinfo | egrep 'model name' | head -n 1'
running tests on: `model name   : Intel(R) Core(TM) i7-3720QM CPU @ 2.60GHz`
-OP MMAP REMAP SHRK PART TOTAL ------PERCENT OPERATIONS PER PROCESS PER SECOND -OPS
--- -k/s --k/s --/s --/s M-OPS 00 01 02 03 04 05 06 07 08 09 10 11 12 13 14 15 -M/s
PUT  0.2   0.0    0    0   0.0 32 30  0  0  0  0  0 38  0  0  0  0  0  0  0  0  0.0
PUT 30.0  89.4 1767 1767   4.5 13 13 13 12 13 12 12 13  0  0  0  0  0  0  0  0  4.5 -----
PUT 30.6  70.8 1925 1925   8.6 13 12 13 13 13 12 13 12  0  0  0  0  0  0  0  0  4.1 -----
PUT 17.1 103.3 1090 1090  13.7 12 12 13 13 13 12 13 13  0  0  0  0  0  0  0  0  5.1 ------
PUT 37.2  47.6 2334 2334  16.4 13 12 13 13 13 12 12 13  0  0  0  0  0  0  0  0  2.6 ---
PUT 15.7  88.1  944  944  21.4 13 12 13 12 12 12 13 12  0  0  0  0  0  0  0  0  5.0 ------
PUT 15.6 105.9 1035 1035  26.1 13 12 13 12 13 12 13 13  0  0  0  0  0  0  0  0  4.7 ------
PUT 34.3  63.6 2180 2181  29.3 13 12 13 12 12 13 12 13  0  0  0  0  0  0  0  0  3.1 ----
PUT 39.7  48.8 2478 2478  31.9 13 12 13 12 13 13 13 12  0  0  0  0  0  0  0  0  2.7 ---
PUT 32.1  47.3 1950 1949  35.0 12 12 12 12 13 13 12 12  0  0  0  0  0  0  0  0  3.0 ----
PUT  9.2 108.6  542  542  40.6 13 13 13 12 13 12 13 13  0  0  0  0  0  0  0  0  5.7 -------
PUT  8.4 132.2  552  552  46.4 13 12 13 12 12 12 13 12  0  0  0  0  0  0  0  0  5.8 -------
PUT 18.1  44.8 1184 1184  51.0 12 12 13 12 12 13 12 13  0  0  0  0  0  0  0  0  4.6 ------
PUT 25.3  98.8 1622 1622  54.4 13 12 13 12 13 12 13 13  0  0  0  0  0  0  0  0  3.4 ----
PUT 27.0  52.5 1730 1730  56.9 12 13 12 13 13 12 12 13  0  0  0  0  0  0  0  0  2.5 ---
PUT 35.4  67.9 2260 2260  59.4 13 13 13 13 13 13 12 12  0  0  0  0  0  0  0  0  2.5 ---
PUT 38.1  52.3 2382 2383  61.9 13 12 12 13 13 13 13 12  0  0  0  0  0  0  0  0  2.5 ---
PUT 37.2  18.8 2306 2306  64.4 13 13 12 13 13 13 12 12  0  0  0  0  0  0  0  0  2.5 ---
PUT 33.7  25.1 2059 2059  67.1 13 12 12 13 12 13 13 12  0  0  0  0  0  0  0  0  2.8 ---
PUT 23.8  75.4 1427 1426  70.1 13 12 12 13 13 13 13 12  0  0  0  0  0  0  0  0  3.0 ---
PUT 12.2 191.3  705  706  73.9 12 13 13 13 13 13 12 12  0  0  0  0  0  0  0  0  3.8 -----
PUT  4.5  15.7  270  269  80.8 12 12 13 13 13 13 12 12  0  0  0  0  0  0  0  0  6.9 ---------
PUT  5.2 129.8  347  347  87.0 13 12 13 12 13 13 12 12  0  0  0  0  0  0  0  0  6.2 --------
PUT  8.4 133.8  557  557  92.4 13 13 12 13 12 13 12 13  0  0  0  0  0  0  0  0  5.4 -------
PUT 14.3   6.2  933  933  97.3 13 12 12 13 12 13 13 12  0  0  0  0  0  0  0  0  4.9 ------
PUT 11.5  16.5  777  777 100.0 11 15 10 13 11 12 13 15  0  0  0  0  0  0  0  0  2.7 ---
MIX  0.0   0.0    0    0 100.0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
MIX  2.3   5.6    0    0 101.2 12 14 11 12 12 12 13 13  0  0  0  0  0  0  0  0  1.2 -
MIX  0.3   3.9    0    0 110.4 12 13 13 13 12 13 12 13  0  0  0  0  0  0  0  0  9.2 ------------
MIX  0.0   4.1    0    0 119.7 13 13 13 12 12 13 13 13  0  0  0  0  0  0  0  0  9.3 ------------
MIX  0.0   5.3    0    0 129.4 13 13 12 13 12 13 12 13  0  0  0  0  0  0  0  0  9.8 -------------
MIX  0.0   5.6    0    0 139.0 13 13 12 12 12 13 13 12  0  0  0  0  0  0  0  0  9.6 ------------
MIX  0.0   6.3    0    0 148.5 13 13 13 12 12 12 13 12  0  0  0  0  0  0  0  0  9.5 ------------
MIX  0.0   7.0    0    0 158.4 13 13 13 12 12 13 12 13  0  0  0  0  0  0  0  0  9.9 -------------
MIX  0.0   7.0    0    0 167.7 12 13 13 12 12 13 12 13  0  0  0  0  0  0  0  0  9.3 ------------
MIX  0.0   7.9    0    0 176.7 13 13 13 13 12 13 12 13  0  0  0  0  0  0  0  0  9.1 ------------
MIX  0.0   8.7    0    0 186.5 13 12 13 13 12 13 12 13  0  0  0  0  0  0  0  0  9.8 -------------
MIX  0.0   8.7    0    0 196.0 13 13 13 12 12 12 12 13  0  0  0  0  0  0  0  0  9.5 ------------
MIX  0.0   3.5    0    0 200.0 10  8 12 15 17 11 15 11  0  0  0  0  0  0  0  0  4.0 -----
GET  0.0   0.0    0    0 200.0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
GET  0.0   0.6    0    0 206.5 13 13 13 12 10 13 13 13  0  0  0  0  0  0  0  0  6.5 --------
GET  0.0   0.0    0    0 217.9 13 12 13 13 12 12 12 13  0  0  0  0  0  0  0  0 11.4 ---------------
GET  0.0   0.0    0    0 229.3 13 12 13 13 13 11 12 13  0  0  0  0  0  0  0  0 11.4 ---------------
GET  0.0   0.0    0    0 240.6 13 13 13 13 13 12 12 13  0  0  0  0  0  0  0  0 11.3 ---------------
GET  0.0   0.0    0    0 251.9 13 13 13 12 13 13 10 13  0  0  0  0  0  0  0  0 11.3 ---------------
GET  0.0   0.0    0    0 263.2 12 12 13 12 13 13 12 13  0  0  0  0  0  0  0  0 11.3 ---------------
GET  0.0   0.0    0    0 274.4 13 13 13 13 12 13 13 11  0  0  0  0  0  0  0  0 11.2 --------------
GET  0.0   0.0    0    0 285.9 12 13 13 13 12 12 13 13  0  0  0  0  0  0  0  0 11.5 ---------------
GET  0.0   0.0    0    0 297.3 12 13 13 13 12 12 13 12  0  0  0  0  0  0  0  0 11.4 ---------------
GET  0.0   0.0    0    0 300.0  6  9  0 11 22 21 24  6  0  0  0  0  0  0  0  0  2.7 ---
* MIX is 2% (2000000) del/put, 98% (12100654) get
DB size: 3.9G   /dev/shm/test-shf-19973.shf

Perbandingan kinerja dengan LMDB alias Lightning MDB

Berikut tes yang sama seperti di atas tetapi menggunakan LMDB alih -alih SharedHashFile:

Catatan:

  • Cari tahu mengapa kinerja telah berkurang setengahnya meskipun kodenya tidak berubah :-(
  • Untuk membuat tes lebih banyak apel untuk perbandingan tabel hash apel:
  • mdb_get () & mdb_put () digunakan (bukan fungsi kursor yang lebih cepat) untuk menguji LMDB sebagai tabel hash.
  • File LMDB DB disimpan di /dev /shm sehingga kinerja disk tidak mempengaruhi hasilnya.
  • Put & Mix Disclaimer: LMDB dirancang untuk cepat membaca, bukan menulis.
  • Put dilakukan dengan menggunakan transaksi LMDBS (Baca: Global Lock?)
  • Pro: Tanpa transaksi maka hanya mengelola sekitar 0,1m per detik tetapi semua utas bisa bergabung.
  • Con: Dengan transaksi maka biasanya hanya satu utas yang bisa dimasukkan.
  • Con: Penguncian transaksi tampaknya tidak adil dan jadi meskipun semua proses mencoba menulis transaksi, satu utas cenderung selalu menang.
  • Con: Tulisan putnya dimulai pada 1,1m per detik yang sehat tetapi perlahan turun menjadi 0,2m per detik.
  • Campuran hanya menggunakan 50% CPU. Agaknya karena kunci global yang berat?
  • Dapatkan pekerjaan sangat cepat pada 5.xm per detik, tetapi sekitar setengah kecepatan sharedhashfile.
  • LMDB hanya menggunakan 2.6G versus 3.9g untuk SharedHashFile. 
 $ perl perf-test-lmdb.pl
...
perf testing: LMDB aka Lightning MDB
running tests on: via command: 'cat /proc/cpuinfo | egrep 'model name' | head -n 1'
running tests on: `model name   : Intel(R) Core(TM) i7-3720QM CPU @ 2.60GHz`
-OP MMAP REMAP SHRK PART TOTAL ------PERCENT OPERATIONS PER PROCESS PER SECOND -OPS
--- -k/s --k/s --/s --/s M-OPS 00 01 02 03 04 05 06 07 08 09 10 11 12 13 14 15 -M/s
PUT  0.0   0.0    0    0   0.0  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
PUT  0.0   0.0    0    0   1.1  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  1.1 -
PUT  0.0   0.0    0    0   1.9  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.8 -
PUT  0.0   0.0    0    0   2.6  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.7
PUT  0.0   0.0    0    0   3.3  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.7
PUT  0.0   0.0    0    0   3.9  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.6
PUT  0.0   0.0    0    0   4.4  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.6
PUT  0.0   0.0    0    0   5.0  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.5
PUT  0.0   0.0    0    0   5.4  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.5
PUT  0.0   0.0    0    0   5.9  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.5
PUT  0.0   0.0    0    0   6.3  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.4
PUT  0.0   0.0    0    0   6.8  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.4
PUT  0.0   0.0    0    0   7.2  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.4
PUT  0.0   0.0    0    0   7.6  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.4
PUT  0.0   0.0    0    0   7.9  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.4
PUT  0.0   0.0    0    0   8.3  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.3
PUT  0.0   0.0    0    0   8.6  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.3
...
PUT  0.0   0.0    0    0  72.1  0  0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0.3
PUT  0.0   0.0    0    0  72.3  5  0 93  2  0  0  0  0  0  0  0  0  0  0  0  0  0.2
...
PUT  0.0   0.0    0    0 100.0100  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.2
MIX  0.0   0.0    0    0 100.0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
MIX  0.0   0.0    0    0 100.3 13 12 12 13 13 12 12 13  0  0  0  0  0  0  0  0  0.3
MIX  0.0   0.0    0    0 101.3 12 12 12 13 12 12 13 13  0  0  0  0  0  0  0  0  1.0 -
MIX  0.0   0.0    0    0 102.3 13 12 13 13 12 13 12 12  0  0  0  0  0  0  0  0  1.0 -
...
MIX  0.0   0.0    0    0 198.3 13 13 12 13 13 12 12 12  0  0  0  0  0  0  0  0  1.0 -
MIX  0.0   0.0    0    0 199.4 12 12 12 12 13 13 13 13  0  0  0  0  0  0  0  0  1.1 -
MIX  0.0   0.0    0    0 200.0 13 27 10  3 17  8 11 11  0  0  0  0  0  0  0  0  0.6
GET  0.0   0.0    0    0 200.0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0  0.0
GET  0.0   0.0    0    0 203.0 13 13 12 13 11 13 12 13  0  0  0  0  0  0  0  0  3.0 ---
GET  0.0   0.0    0    0 208.1 13 12 13 13 12 13 11 13  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 213.4 12 11 14 12 13 13 13 11  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 218.6 13 11 14 12 13 12 13 12  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 223.8 13 11 13 13 13 13 12 12  0  0  0  0  0  0  0  0  5.3 -------
GET  0.0   0.0    0    0 229.2 12 12 12 13 14 14 12 12  0  0  0  0  0  0  0  0  5.4 -------
GET  0.0   0.0    0    0 234.3 12 13 12 12 11 13 13 13  0  0  0  0  0  0  0  0  5.1 ------
GET  0.0   0.0    0    0 239.6 11 12 14 12 12 13 14 12  0  0  0  0  0  0  0  0  5.3 -------
GET  0.0   0.0    0    0 244.9 12 12 14 10 13 13 14 13  0  0  0  0  0  0  0  0  5.3 -------
GET  0.0   0.0    0    0 250.1 11 11 13 13 13 13 14 13  0  0  0  0  0  0  0  0  5.3 -------
GET  0.0   0.0    0    0 255.3 13 12 12 12 13 12 13 12  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 260.5 13 12 11 13 12 14 13 11  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 265.8 13 12 12 11 13 13 14 11  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 270.8 14 12 12 12 13 13 13 12  0  0  0  0  0  0  0  0  5.1 ------
GET  0.0   0.0    0    0 275.9 12 14 13 13 13 12 14 10  0  0  0  0  0  0  0  0  5.1 ------
GET  0.0   0.0    0    0 281.3 12 14 13 12 12 13 14 10  0  0  0  0  0  0  0  0  5.4 -------
GET  0.0   0.0    0    0 286.4 14 13 12 13 12 13 13 12  0  0  0  0  0  0  0  0  5.2 ------
GET  0.0   0.0    0    0 291.7 13 12 11 11 13 13 13 13  0  0  0  0  0  0  0  0  5.3 -------
GET  0.0   0.0    0    0 296.7 12 13 12 13 13 14 11 13  0  0  0  0  0  0  0  0  5.0 ------
GET  0.0   0.0    0    0 300.0 12 22 11 19 10  0  0 25  0  0  0  0  0  0  0  0  3.2 ----
GET  0.0   0.0    0    0 300.0  0  0  0  0  0  0  0100  0  0  0  0  0  0  0  0  0.0
* MIX is 2% (2000000) del/put, 98% (12100654) get
DB size: 2.6G   /dev/shm/test-lmdb-20848

Todo

  • Tambahkan mekanisme dan tes pemberitahuan antrian IPC berkinerja tinggi berdasarkan EventFD.
  • Jika menggunakan batching antrian pribadi untuk kinerja, tambahkan mekanisme pemulihan kerusakan elemen.
  • Tambahkan uji kinerja untuk logging multiplexed dan bandingkan dengan misalnya log4cxx.
  • Izinkan nilai lebih besar dari 4KB menjadi MMAP mereka sendiri (); Jadi IPC Queue & Log Addrs tidak pernah berubah.
  • Auto Dump sisa log memori bersama ATEXIT.
  • Perpanjang shf_log () ke log tanpa batas ke file alih -alih stdout.
  • Konversi shf.log menjadi bekerja dengan shf_log () bukan lebih lambat fopen ().
  • Tambahkan dokumentasi API melalui Doxygen untuk operasi log.
  • Tambahkan dokumentasi API melalui Doxygen untuk operasi nilai kunci.
  • Tambahkan dokumentasi API melalui pemrograman literasi.
  • Tambahkan lebih banyak tes & menegakkan cakupan kode 100%.
  • Kunci Dukungan, Jenis Data Nilai Selain string biner dengan panjang 32bit.
  • Mendukung kegigihan di masa lalu reboot.
  • Dukungan berjalan dari semua kunci, pasangan nilai di meja hash.
  • Dukungan Jenis Kunci Stack, Misalnya Push, Pop, Shift, Unshift.
  • Tambahkan lapisan jaringan untuk tabel hash terdistribusi.
  • Tambahkan alat utilitas baris perintah.
  • Pastikan klien dapat macet kapan saja tanpa merusak tabel hash.
  • Port ke Linux-like OSS yang tidak mendukung mremap ().
  • Port ke windows.
  • Tes kinerja pada flash drive.
  • Umpan Balik Email [@] SharedHashFile [.] Com dengan lebih banyak keinginan!
Memperluas
Informasi Tambahan
Aplikasi Terkait
Direkomendasikan untuk Anda
Informasi Terkait Semua