تعتبر العوامل المتقدمة ذات القيمة المتقدمة عبارة عن حزمة بيثون تحتوي على فئة AdvancedValueCounts التي تستخدم Pandas ' .value_counts() و .groupby() وبحور البحر للحصول على الكثير من المعلومات بسهولة حول عدد عمود (قاطع) في DataFrame Pandas. تكون إمكانات هذه الحزمة في ذروتها عند الرغبة في معلومات تهم عمود بعد التجميع: df.groupby(groupby_col)[column].value_counts() . شاهد الاستخدام حول كيفية استخدام AdvancedValueCounts . اقرأ هذه المقالة المتوسطة أو استشر دفتر الملاحظات هذا للحصول على شرح حول القيمة المضافة لهذه الحزمة.
جدول المحتويات :
pip install advanced-value-counts
إذا كان سطح الأخطاء ، فيرجى ترقية Pip و Setuptools
python3 -m pip install --upgrade pip
python3 -m pip install --upgrade setuptools
git clone https://github.com/sTomerG/advanced-value-counts.git
cd advanced-value-counts
pip install -e .
# optional but potentially crucial
pip install -r requirements/requirements.txt
لاختبار ما إذا كان التثبيت قد تم تشغيله في دليل العروض المتقدمة (من المتوقع أن يكون DepreCationWarnings )
pytest
يستخدم المثال أدناه نسخة معدلة من مجموعة البيانات Titanic من Kaggle ، والتي يمكن العثور عليها في Gitrepo هنا.
يمكن العثور على رمز هذا الكمبيوتر الدفتري هنا.
from advanced_value_counts . avc import AdvancedValueCounts
import pandas as pd
# read in the data file
df = pd . read_csv ( '../tests/data/titanic.csv' , usecols = [ 'CabinArea' , 'Title' ])
df . head ()| كابينة | عنوان | |
|---|---|---|
| 0 | نان | السيد. |
| 1 | ج | السّيدة. |
| 2 | نان | يفتقد. |
| 3 | ج | السّيدة. |
| 4 | نان | السيد. |
# create an instance of AdvancedValueCounts
avc = AdvancedValueCounts ( df = df , column = 'Title' )
# print the AdvancedValueCounts DataFrame
avc . avc_df| نسبة | عدد | |
|---|---|---|
| عنوان | ||
| السيد. | 0.580247 | 517 |
| يفتقد. | 0.204265 | 182 |
| السّيدة. | 0.140292 | 125 |
| يتقن. | 0.044893 | 40 |
| _na | 0.007856 | 7 |
| القس | 0.006734 | 6 |
| رئيسي. | 0.002245 | 2 |
| العقيد | 0.002245 | 2 |
| مل. | 0.002245 | 2 |
| كونتيسة. | 0.001122 | 1 |
| النقيب. | 0.001122 | 1 |
| آنسة. | 0.001122 | 1 |
| سيد. | 0.001122 | 1 |
| سيدة. | 0.001122 | 1 |
| Mme. | 0.001122 | 1 |
| اِتَّشَح. | 0.001122 | 1 |
| جونكهير. | 0.001122 | 1 |
قم بتعيين min_group_count إلى 5 لتجميع مجموعات صغيرة في مجموعة '_other'
avc . min_group_count = 5
avc . avc_df| نسبة | عدد | |
|---|---|---|
| عنوان | ||
| السيد. | 0.580247 | 517 |
| يفتقد. | 0.204265 | 182 |
| السّيدة. | 0.140292 | 125 |
| يتقن. | 0.044893 | 40 |
| _آخر | 0.015713 | 14 |
| _na | 0.007856 | 7 |
| القس | 0.006734 | 6 |
معلمات فئة AdvancedValueCounts لضبط المجموعات الصغيرة لعمود واحد:
dropna : bool = False
min_group_count : int = 1 # does not effect NA or the '_other' group
min_group_ratio : float = 0 # does not effect NA or the '_other' group من الممكن أيضًا استخدام column بالاشتراك مع المعلمة groupy_col: str = None لمحاكاة سلوك df.groupby(groupby_col)[column].value_counts()
avc_grouped = AdvancedValueCounts ( df = df , column = 'Title' , groupby_col = 'CabinArea' )
avc_grouped . avc_df| عدد | subgroup_ratio | subgr_r_diff_subgr_all | R_VS_TOTAL | ||
|---|---|---|---|---|---|
| كابينة | عنوان | ||||
| أ | العقيد | 1 | 0.066667 | 0.064422 | 0.001122 |
| سيدة. | 1 | 0.066667 | 0.065544 | 0.001122 | |
| يتقن. | 1 | 0.066667 | 0.021773 | 0.001122 | |
| السيد. | 11 | 0.733333 | 0.153086 | 0.012346 | |
| سيد. | 1 | 0.066667 | 0.065544 | 0.001122 | |
| ... | ... | ... | ... | ... | ... |
| _na | السّيدة. | 81 | 0.117904 | -0.022388 | 0.090909 |
| آنسة. | 1 | 0.001456 | 0.000333 | 0.001122 | |
| القس | 6 | 0.008734 | 0.002000 | 0.006734 | |
| _na | 4 | 0.005822 | -0.002034 | 0.004489 | |
| _المجموع | 687 | 1.000000 | 0.000000 | 0.771044 |
74 صفوف × 4 أعمدة
للحصول على نظرة عامة أفضل على البيانات ، قم بتعيين سمات لضبط حجم المجموعة وتحويل النسب
avc_grouped . min_group_ratio = 0.05
avc_grouped . min_subgroup_count = 5
avc_grouped . round_ratio = 3
avc_grouped . avc_df| عدد | subgroup_ratio | subgr_r_diff_subgr_all | R_VS_TOTAL | ||
|---|---|---|---|---|---|
| كابينة | عنوان | ||||
| ب | يفتقد. | 14 | 0.298 | 0.094 | 0.016 |
| السيد. | 16 | 0.340 | -0.240 | 0.018 | |
| السّيدة. | 10 | 0.213 | 0.073 | 0.011 | |
| _na | 1 | 0.021 | 0.013 | 0.001 | |
| _آخر | 6 | 0.127 | 0.111 | 0.007 | |
| _المجموع | 47 | 1.000 | 0.000 | 0.053 | |
| ج | يفتقد. | 12 | 0.203 | -0.001 | 0.013 |
| السيد. | 29 | 0.492 | -0.088 | 0.033 | |
| السّيدة. | 14 | 0.237 | 0.097 | 0.016 | |
| _na | 1 | 0.017 | 0.009 | 0.001 | |
| _آخر | 3 | 0.051 | 0.035 | 0.003 | |
| _المجموع | 59 | 1.000 | 0.000 | 0.066 | |
| _الجميع | يتقن. | 40 | 0.045 | نان | 0.045 |
| يفتقد. | 182 | 0.204 | نان | 0.204 | |
| السيد. | 517 | 0.580 | نان | 0.580 | |
| السّيدة. | 125 | 0.140 | نان | 0.140 | |
| القس | 6 | 0.007 | نان | 0.007 | |
| _na | 7 | 0.008 | نان | 0.008 | |
| _آخر | 14 | 0.016 | نان | 0.016 | |
| _المجموع | 891 | 1.000 | نان | 1.000 | |
| _na | يتقن. | 33 | 0.048 | 0.003 | 0.037 |
| يفتقد. | 135 | 0.197 | -0.007 | 0.152 | |
| السيد. | 424 | 0.617 | 0.037 | 0.476 | |
| السّيدة. | 81 | 0.118 | -0.022 | 0.091 | |
| القس | 6 | 0.009 | 0.002 | 0.007 | |
| _na | 4 | 0.006 | -0.002 | 0.004 | |
| _آخر | 4 | 0.006 | -0.010 | 0.004 | |
| _المجموع | 687 | 1.000 | 0.000 | 0.771 | |
| _آخر | يتقن. | 5 | 0.051 | 0.006 | 0.006 |
| يفتقد. | 21 | 0.214 | 0.010 | 0.024 | |
| السيد. | 48 | 0.490 | -0.090 | 0.054 | |
| السّيدة. | 20 | 0.204 | 0.064 | 0.022 | |
| _na | 1 | 0.010 | 0.002 | 0.001 | |
| _آخر | 3 | 0.031 | 0.015 | 0.003 | |
| _المجموع | 98 | 1.000 | 0.000 | 0.110 |
معلمات فئة AdvancedValueCounts لضبط المجموعات في مجموعة متقدمة من حيث AdvancedValueCounts .
# for groupby_col:
dropna : bool = False
max_groups : int = None # does not effect NA or the '_other' group
min_group_count : int = 1 # does not effect NA or the '_other' group
min_group_ratio : float = 0 # does not effect NA or the '_other' group
# for column:
dropna : bool = False
max_subgroups : int = None # does not effect NA or the '_other' group
min_subgroup_count : int = 1 # does not effect NA or the '_other' group
min_subgroup_ratio : float = 0 # does not effect NA or the '_other' group
min_subgroup_ratio_vs_total : float = 0 # does not effect NA or the '_other' group للحصول على مؤامرة من AdvancedValueCounts.avc_df :
avc_grouped . get_plot ( normalize = True ) # normalize = True is default value 
للحصول على ملف بيانات بدون ملخص _statistics مثل '_all' و '_total' :
avc_grouped . unsummerized_df| عدد | subgroup_ratio | subgr_r_diff_subgr_all | R_VS_TOTAL | ||
|---|---|---|---|---|---|
| كابينة | عنوان | ||||
| ب | يفتقد. | 14 | 0.298 | 0.094 | 0.016 |
| السيد. | 16 | 0.340 | -0.240 | 0.018 | |
| السّيدة. | 10 | 0.213 | 0.073 | 0.011 | |
| _na | 1 | 0.021 | 0.013 | 0.001 | |
| _آخر | 6 | 0.127 | 0.111 | 0.007 | |
| ج | يفتقد. | 12 | 0.203 | -0.001 | 0.013 |
| السيد. | 29 | 0.492 | -0.088 | 0.033 | |
| السّيدة. | 14 | 0.237 | 0.097 | 0.016 | |
| _na | 1 | 0.017 | 0.009 | 0.001 | |
| _آخر | 3 | 0.051 | 0.035 | 0.003 | |
| _na | يتقن. | 33 | 0.048 | 0.003 | 0.037 |
| يفتقد. | 135 | 0.197 | -0.007 | 0.152 | |
| السيد. | 424 | 0.617 | 0.037 | 0.476 | |
| السّيدة. | 81 | 0.118 | -0.022 | 0.091 | |
| القس | 6 | 0.009 | 0.002 | 0.007 | |
| _na | 4 | 0.006 | -0.002 | 0.004 | |
| _آخر | 4 | 0.006 | -0.010 | 0.004 | |
| _آخر | يتقن. | 5 | 0.051 | 0.006 | 0.006 |
| يفتقد. | 21 | 0.214 | 0.010 | 0.024 | |
| السيد. | 48 | 0.490 | -0.090 | 0.054 | |
| السّيدة. | 20 | 0.204 | 0.064 | 0.022 | |
| _na | 1 | 0.010 | 0.002 | 0.001 | |
| _آخر | 3 | 0.031 | 0.015 | 0.003 |
git clone https://github.com/sTomerG/advanced-value-counts.git
cd advanced-value-counts
python3 -m venv .venv
تنشيط البيئة الافتراضية
Windows:
..venvScriptsactivate
Linux / MacOS:
source .venv/bin/activate
تثبيت المتطلبات
python -m pip install --upgrade pip
pip install -r requirements/requirements.txt
اختبار إذا كان كل شيء يعمل بشكل صحيح
(من المتوقع أن يتم الإقلاع عن الإسقاط )
مع توكس
tox
بدون توكس
pip install -e .
pytest