PHP-SecurityServicEssCraper هو دليل على مشروع المفهوم الذي يهدف إلى حل مشكلات جمع البيانات والمركزية والارتباط التي يمكن أن تحدث من نشر العديد من الأدوات الأمنية المستقلة في جميع أنحاء البيئة.
يستخدم هذا التطبيق إطار عمل Laravel. يتم تنفيذ جمع البيانات من خلال أوامر حرفي مجدولة. كل أمر هو في الأساس إما زاحف ويب أو عميل API ، اعتمادًا على ما إذا كان التطبيق المستهدف يقدم أي خدمات للوصول إلى بياناته أم لا.
الأوامر المصادقة على التطبيق المستهدف والاستعلام عن البيانات. عند إكمال جمع البيانات والتطبيع ، شحن الأوامر بياناتها إلى مثيل Kafka. يرسل كل أمر البيانات إلى موضوع واحد أو أكثر من مواضيع كافكا ، فريدة من نوعها لتلك البيانات بالذات. تخدم Kafka ، التي تعمل كحدث قائمة انتظار حدث ، البيانات إلى مستهلك Logstash (Logstash-Input-Kafka) والتي تنقل بعد ذلك البيانات إلى مجموعة Elasticsearch.