YOLO_Google Cloud

EINFÜHRUNG

NOTIZ. Dieses Repository wird von mir nicht mehr aktiv aufrechterhalten. Wenn andere jedoch Änderungen vornehmen möchten, stellen Sie bitte eine Pull -Anfrage und ich werde mein Bestes tun, um die Änderungen so schnell wie möglich zusammenzuführen. Happy Coding! :)

Dieses Repository zeigt, wie man mit GPUs, die in Google Cloud kostenlos mit den 1 -Jahres -Credits von Google verfügbar sind, die Objekterkennung in Echtzeit durchführen kann. Wir verwenden einen Sie nur nach Erziktaturen für die Objekterkennung, die wie unten gezeigt in einem Webbrowser visualisiert werden kann.

Warum sollte ich das verwenden?

Die Objekterkennung ist ein schwieriges und rechenintensives Problem, und nicht jeder hat Zugriff auf GPUs, um eine Echtzeit -Objekterkennung durchzuführen. Darüber hinaus gibt es Alternativen. Zum Beispiel bietet TensorFlow leichte Mobilenet -Modelle (siehe hier), aber sie sind Kosten für eine verringerte Genauigkeit. Die Objekterkennung ist auch auf iOS/Android verfügbar, aber sie haben die gleichen Probleme, die zuvor erwähnt wurden.

Eine interessante Lösung wurde auch auf Webebtchacks vorgestellt. Ich habe es selbst getestet und es funktioniert gut. Diese Lösung sendet jedoch Webcam -Video als eine Reihe codierter JPG -Bilder, die zu einer signifikanten Gebrauchsnutzung und Latenz von Bandbreite führen, die in dieser Lösung nicht vorhanden ist.

Durch die Erkennung von Objekten in der Cloud wird diese Probleme beseitigt. Darüber hinaus können Sie, da Sie auswählen können, welche GPU Sie verwenden möchten, viel "schwere" tiefe neuronale Netzwerke ausführen und gleichzeitig die Echtzeitgenauigkeit nahezu erreichen.

Inferenz/Tests in den folgenden Modellen wurden überprüft, alle mit einer Latenz von weniger als 100 ms. Die Latenz hängt vom Ort des Google Cloud -Servers und dem Ort ab, an dem Sie sich befinden (dazu später mehr).

• SSD Inception V2 Coco
• Yolo Coco
• Yolo 9000

Abhängigkeiten

• Wir verwenden eine Yolo Python GPU -Bindung. Weitere Informationen finden Sie im ursprünglichen Repository
• Um Echtzeit -Video -Streams über den Browser zu senden, verwenden wir eine asyncio -Implementierung von WebRTC namens Aiortc. AIortc muss gemäß ihrer Anweisung installiert werden und die Arbeit, bevor dieses Repository verwendet werden kann. Hier sind eine Zusammenfassung der Schritte, die ich zusammengestellt habe:

Installation

Ableitungen installieren

1. Erstellen Sie eine Instanz der virtuellen Maschine, indem Sie Folgendes in der Google Cloud Shell ausführen. Ersetzen Sie YOUR_PROJECT_NAME durch den Namen Ihres Projekts, in dem die VM bereitgestellt werden sollte.

   • gcloud beta compute --project=YOUR_PROJECT_NAME instances create instance-1 --zone=us-east1-b --machine-type=n1-standard-2 --subnet=default --network-tier=PREMIUM --maintenance-policy=TERMINATE --service-account=[e-mail] --scopes=https://www.googleapis.com/auth/devstorage.read_only,https://www.googleapis.com/auth/logging.write,https://www.googleapis.com/auth/monitoring.write,https://www.googleapis.com/auth/servicecontrol,https://www.googleapis.com/auth/service.management.readonly,https://www.googleapis.com/auth/trace.append --accelerator=type=nvidia-tesla-p100,count=1 --tags=http-server,https-server --image=c2-deeplearning-tf-1-12-cu100-20181120 --image-project=ml-images --boot-disk-size=60GB --boot-disk-type=pd-standard --boot-disk-device-name=instance-1

2. Öffnen Sie ein SSH -Terminal der neu erstellten Instanz, wie unten gezeigt. Beachten Sie auch die externe IP . Sie brauchen es für später.

3. Sie erhalten eine Eingabeaufforderung, die NVIDIA -Treiber installieren zu können. Geben Sie y .

4. Installieren Sie FFMPEG und zusätzliche Pakete.

   • sudo apt install ffmpeg
   • sudo apt install libavdevice-dev libavfilter-dev libopus-dev libvpx-dev pkg-config

5. Sobald die Installation abgeschlossen ist, klonen Sie das Git -Repository und installieren Sie die Abhängigkeiten. Nehmen Sie sich eine Tasse Kaffee. Dies wird ein paar Minuten dauern.

   • cd ~
   • git clone https://github.com/omarabid59/YOLO_Google-Cloud.git
   • cd ~/YOLO_Google-Cloud
   • pip3 install -r requirements.txt

Laden Sie das Yolo -Modell herunter.

1. Laden Sie als Nächstes die Datei YOLO Model CFG -Datei und Gewichtsdatei herunter, indem Sie die folgenden Befehle ausführen:
   • mkdir -p ~/YOLO_Google-Cloud/mlserver/model
   • cd ~/YOLO_Google-Cloud/mlserver/model
   • wget https://raw.githubusercontent.com/pjreddie/darknet/master/cfg/yolov3.cfg
   • wget https://pjreddie.com/media/files/yolov3.weights
   • wget https://raw.githubusercontent.com/pjreddie/darknet/master/data/coco.names

Schneller Start

1. Führen Sie zuerst den maschinellen Lernserver aus.
   • nohup python3 ~/YOLO_Google-Cloud/mlserver/mlserverclient.py &
2. Führen Sie als nächstes den HTTP -Server aus. Wenn Sie den Befehlsausgang unten sehen, bedeutet dies, dass Sie loslegen können!
   • cd ~/YOLO_Google-Cloud/webserver/ && python3 httpserver.py
3. Gehen Sie nun zu Ihrem Browser und geben Sie Folgendes ein. Wo YOUR_IP_ADDRESS der in Schritt 2 erhalten hat.
   • https://YOUR_IP_ADDRESS:8889 das ist es!

WICHTIGER HINWEIS.

Denken Sie daran, die Google Cloud VM sofort nach dem Experimentieren auszuschalten, um die Aufnahme Ihrer Google -Credits zu vermeiden und berechnet zu werden (wenn Sie Ihre Credits überschreiten).