cs:data-uploader
Rozdíly
Zde můžete vidět rozdíly mezi vybranou verzí a aktuální verzí dané stránky.
Obě strany předchozí revizePředchozí verzeNásledující verze | Předchozí verzeNásledující verzeObě strany příští revize | ||
cs:data-uploader [2016/08/17 09:18] – [Systém pro upload měřených dat ze stanic] kaklik | cs:data-uploader [2016/12/01 19:16] – [Instalace] kaklik | ||
---|---|---|---|
Řádek 2: | Řádek 2: | ||
Pro upload naměřených dat ze stanic se využívá python program [[https:// | Pro upload naměřených dat ze stanic se využívá python program [[https:// | ||
+ | |||
+ | Upload na centrální server probíhá přes SSH protokol. Zabezpečení přenosu je pomocí ssh-klíče. | ||
Program při nahrávání dat na server kontroluje celistvost přesunutého souboru pomocí kontrolních součtů a zároveň předá informaci do indexační databáze [[cs: | Program při nahrávání dat na server kontroluje celistvost přesunutého souboru pomocí kontrolních součtů a zároveň předá informaci do indexační databáze [[cs: | ||
- | program se spouští s parametrem cesty ke konfiguračnímu souboru [[cs: | + | Celkově řeší tyto úlohy: |
- | ./repos/RMDS-data-uploader/ | + | |
+ | * Roztřídění [[cs: | ||
+ | * Upload dat na server [[http:// | ||
+ | * Kontrola volného místa na disku (zatím nevyřešeno) | ||
+ | |||
+ | Celý skript je připraven pro fungování s [[cs: | ||
+ | ./ | ||
+ | |||
+ | ======Instalace====== | ||
+ | |||
+ | Zdrojové soubory jsou umístěny na Githubu | ||
+ | |||
+ | Data-uploader vyžaduje tyto závislosti: | ||
+ | |||
+ | sudo apt install python-paramiko | ||
+ | |||
+ | Pomocné knihovny: | ||
+ | git clone https:// | ||
+ | cd python-mlab-utils/ | ||
+ | sudo python setup.py install develop | ||
+ | |||
+ | Skript stáhnete pomocí: | ||
+ | git clone https:// | ||
+ | cd data-uploader | ||
+ | |||
+ | Pak je uz jenom potreba mit spravne klicove vyrazy v Bolidozor.json | ||
+ | |||
+ | ==== Konfigurace ==== | ||
- | === Konfigurační soubor === | ||
Pro správné fungování data-uploaderu se musí do konfiguračního souboru radio-observeru přidat následující parametry: | Pro správné fungování data-uploaderu se musí do konfiguračního souboru radio-observeru přidat následující parametry: | ||
Řádek 18: | Řádek 46: | ||
" | " | ||
- | Data-uploader vyžaduje tyto závislosti: | ||
- | | ||
- | sudo apt install python-paramiko | ||
+ | |||
+ | |||
+ | ==== Omezení datového toku ==== | ||
+ | |||
+ | V některých případech, | ||
+ | |||
+ | trickle -u 200 ./ | ||
+ | |||
+ | Funkci můžeme ověřit například programy bmon nebo iftop | ||
+ | |||
+ | sudo apt-get install bmon | ||
==== Postup aktualizace data-uploaderu z RMDS-data-uploaderu==== | ==== Postup aktualizace data-uploaderu z RMDS-data-uploaderu==== | ||
| | ||
Řádek 44: | Řádek 80: | ||
- | <WRAP center round important 60%> | ||
- | Následující popis je pro starší verzi [[https:// | ||
- | </ | ||
- | |||
- | |||
- | Pro přenos naměřených dat ze sítě [[cs: | ||
- | Tento skript má na starosti následující záležitosti: | ||
- | |||
- | * Roztřídění dat do složek | ||
- | * Upload dat na server [[http:// | ||
- | * Kontrola volného místa na disku (zatím nevyřešeno) | ||
- | |||
- | Celý skript je připraven pro fungování s [[cs: | ||
====Rozřazení dat do složek==== | ====Rozřazení dat do složek==== | ||
rozřazování probíhá na základě názvu původního souboru. Výsledná struktura pak vypadá následovně: | rozřazování probíhá na základě názvu původního souboru. Výsledná struktura pak vypadá následovně: | ||
- | | + | |
+ | | ||
Tato struktura ctí [[cs: | Tato struktura ctí [[cs: | ||
Řádek 69: | Řádek 93: | ||
====Upload dat na server==== | ====Upload dat na server==== | ||
- | Upload na centrální server | + | Upload na centrální server |
- | rsync -vaz cesta_do_zdrojove_slozke/ | + | Skript každé 2 minuty |
- | + | ||
- | parametry udávají: | + | |
- | * -v - výpis stavu synchronizace | + | |
- | * -a - archivační mód (data na stanici jsou vždy považována za správnou verzi) | + | |
- | * -z - komprese přenášených dat | + | |
- | + | ||
- | Skript každých 30 minut zkontroluje připojeni k internetu (dostupnost space.astro.cz) a v případě autentizace se spustí synchronizace dat pomocí rsync. Synchronizace probíhá postupně ve čtyřech krocích: | + | |
- Synchronizují se náhledy spektra (snapshoty) | - Synchronizují se náhledy spektra (snapshoty) | ||
Řádek 84: | Řádek 101: | ||
- Synchronizují se konfigurační soubory stanice | - Synchronizují se konfigurační soubory stanice | ||
- Synchronizují se záznamy meteorů RAW | - Synchronizují se záznamy meteorů RAW | ||
- | |||
- | Pokud poslední část trvá déle, než je nastavený časový limit, přenos je ukončen. | ||
- | Po uplynutích dalších 30ti minut skript roztřídí data do složek a spustí znovu synchronizaci. | ||
| | ||
- | ======Popis jednotlivých zdrojových kódů====== | ||
- | ===DiskGuard.py=== | ||
- | Tato část se bude starat o odstraňování dat z plného disku stanice. | ||
- | |||
- | ===config.py=== | ||
- | konfigurační soubor pro stanici a RMDS-data-uploader. | ||
- | |||
- | ===run.py=== | ||
- | spouštěcí skript stanice. | ||
- | stará se o pravidelné spouštění jednotlivých částí aplikace. | ||
- | |||
- | ===serversetup.py=== | ||
- | vytváří nové adresáře, pokud ještě neexistují. | ||
- | |||
- | ===sort.py=== | ||
- | Stará se o správné rozřazení do složek. | ||
- | |||
- | ===sync.py=== | ||
- | Spouští rsync příkaz a kontroluje dostupnost serveru space.astro.cz | ||
- | |||
- | |||
- | |||
- | ======Instalace====== | ||
- | |||
- | Celý skript je umístěn na Githubu [[https:// | ||
- | |||
- | Pomocné knihovny: | ||
- | git clone https:// | ||
- | cd python-mlab-utils/ | ||
- | sudo python setup.py install develop | ||
- | |||
- | Skript stáhnete pomocí: | ||
- | git clone https:// | ||
- | cd RMDS-data-uploader | ||
- | | ||
- | Pak je uz jenom potreba mit spravne klicove vyrazy v Bolidozor.json | ||
- | Skript se následně spustí: | ||
- | ./ |
cs/data-uploader.txt · Poslední úprava: 2017/08/16 10:23 autor: kaklik