ES-Indexer (Elasticsearch indexer) es una herramienta simple de línea de comandos concurrentes escrita en Python para ayudarlo a completar rápidamente algunos datos JSON en Elasticsearch.
Por lo general, tendrá que usar un software de terceros o una biblioteca de clientes para indexar datos a Elasticsearch y configurar que puede llevar mucho tiempo y agotador ( tos de tos logstash ). ES-Indexer ayuda a indexar el contenido en bruto de *.json documenta rápidamente con la ayuda de múltiples subprocesos.
ES-Indexer actualmente no proporciona ninguna sincronización de los datos, tendrá que reintegrar los datos si cambia, pero siempre pueblará un nuevo índice y luego creará un alias, los datos antiguos estarán presentes mientras vuelven a indicar hasta que el nuevo índice esté completamente poblado. Una actualización futura podría incluir sincronización.
Dado que Elasticsearch expone un descanso en el puerto 9200, no hay necesidad de que ES-Indexer proporcione un descanso en sí mismo.
Requiere Python 3.x y es compatible con Elasticsearch 7.xx
$ pip install es-indexer
(O)
Clon el repositorio.
$ git clone https://github.com/itsron717/es-indexer.git
Muévete dentro del repositorio.
$ cd es-indexer
Instale el paquete localmente.
$ pip install .
Debe crear una config.yml antes de ejecutar ES-Indexer:
host: http://127.0.0.1:9200
index: twitter-example
type: documents
mapping:
settings:
number_of_shards: 1
number_of_replicas: 0
Puede proporcionar una asignación personalizada en el archivo de configuración, ES-Indexer convertirá la asignación YAML 1: 1 a JSON.
$ es-indexer --config path/to/config/file --source path/to/json/folder
También se agregarán más fuentes de datos que no sean json como SQL , Filesystem , etc. ¡Cualquiera que desee contribuir en la integración de otras fuentes de datos puede recaudar y emitir y podemos comenzar a trabajar en ello!
json . SQL . FileSystem . ES-Indexer se construyó utilizando la insipiración de esta increíble herramienta escrita en GO.
La licencia del MIT (MIT)
Copyright (c) 2019 Rounak Vyas