Stránka je zamknutá

Tato stránka je právě zamknutá pro úpravy jiným uživatelem. Musíte počkat, než onen uživatel dokončí své úpravy nebo než tento zámek vyprší.
Právě zamknuto: 18.221.185.110
Zámek vyprší: 2025/04/12 11:24 (14 min)
Tato stránka je pouze pro čtení. Můžete si pouze prohlédnout zdrojový kód, ale ne ho měnit. Zeptejte se správce, pokud si myslíte, že něco není v pořádku.
====== Systém pro upload měřených dat ze stanic ======

Pro upload naměřených dat ze stanic se využívá python program [[https://github.com/bolidozor/data-uploader|data-uploader]]. Program lze použít pro upload dat projektů Bolidozor a [[http://wiki.ionozor.eu|Ionozor]].

Program při uploadování na server kontroluje celistvos přesunutého souboru pomocí kontrolních součtů a zároveň předá informaci do indexační databáze [[cs:RTbolidozor|RTbolidozoru]] o novém souboru na serveru.

program se spouští s parametrem cesty ke konfiguračnímu souboru [[cs:radio-observer|radio-observeru]]. například takto:
  ./repos/RMDS-data-uploader/dataUpload.py ~/bolidozor/station/Bolidozor.json

=== Konfigurační soubor ===
Pro správné fungování data-uploaderu se musí do konfiguračního souboru radio-observeru přidat následující parametry:

  "project": "bolidozor",
  "project_home_folder": "/home/odroid/bolidozor/station/",
  "storage_hostname": "space.astro.cz",
  "storage_username": "obsjaromer",
  "storage_stationpath": "/storage/bolidozor/",
  "storage_protocol": "ssh",

Data-uploader vyžaduje tyto závislosti:
  
  sudo apt install python-paramiko

==== Postup aktualizace data-uploaderu z RMDS-data-uploaderu====
  
  cd ~/repos/
  mv RMDS-data-uploader data-uploader
  cd ~/repos/data-uploader/
  git pull

  cd ~/repos/station-supervisor/
  git pull

  sudo apt install python-paramiko

Do konfiguračního souboru přidat tyto parametry před ''"frontend": "tcp_raw",'':

  "project": "bolidozor",
  "project_home_folder": "/home/odroid/bolidozor/station/",
  "storage_hostname": "space.astro.cz",
  "storage_username": "<< uzivatel >>",
  "storage_stationpath": "/storage/bolidozor/",
  "storage_protocol": "ssh",

  sudo reboot


<WRAP center round important 60%>
Následující popis je pro starší verzi [[https://github.com/bolidozor/RMDS-data-uploader|RMDS-data-uploaderu]]. 
</WRAP>


Pro přenos naměřených dat ze sítě [[cs:rmds|RMDS]] na centrální úložiště byl vytvořen skript [[https://github.com/bolidozor/data-uploader|RMDS-data-uploader]].
Tento skript má na starosti následující záležitosti:

  * Roztřídění dat do složek
  * Upload dat na server [[http://space.astro.cz/bolidozor/|space.astro.cz]]
  * Kontrola volného místa na disku (zatím nevyřešeno)

Celý skript je připraven pro fungování s [[cs:radio-observer|radio-observerem]] a [[cs:spectrumlab|SpectrumLabem]].

====Rozřazení dat do složek====

rozřazování probíhá na základě názvu původního souboru. Výsledná struktura pak vypadá následovně:
  /stanice/typ dat/rok/měsíc/den/[hodina]/soubor.záznamu

Tato struktura ctí [[cs:convention|standardy sítě Bolidozor]].

Při rozřazování dat jsou meta-datové .csv záznamy z aktuální hodiny zachovány na původním místě a pouze překopírovány na úložiště kvůli možnosti dalšího zápisu do tohoto souboru.
  
====Upload dat na server====

Upload na centrální server probíhá pomocí rsync přes SSH protokol. Zabezpečení přenosu je pomocí ssh-klíče. Použitý rsync příkaz vypadá takto:

  rsync -vaz cesta_do_zdrojove_slozke/ uzivatel@space.astro.cz:/storage/bolidozor/cesta_cilove_slozky/
  
parametry udávají:
  * -v  - výpis stavu synchronizace
  * -a  - archivační mód (data na stanici jsou vždy považována za správnou verzi)
  * -z  - komprese přenášených dat

Skript každých 30 minut zkontroluje připojeni k internetu (dostupnost space.astro.cz) a v případě autentizace se spustí synchronizace dat pomocí rsync. Synchronizace probíhá postupně ve čtyřech krocích:

  - Synchronizují se náhledy spektra (snapshoty) 
  - Synchronizují se meta-datové soubory
  - Synchronizují se konfigurační soubory stanice
  - Synchronizují se záznamy meteorů RAW

Pokud poslední část trvá déle, než je nastavený časový limit, přenos je ukončen.
Po uplynutích dalších 30ti minut skript roztřídí data do složek a spustí znovu synchronizaci.



  
======Popis jednotlivých zdrojových kódů======

===DiskGuard.py===

Tato část se bude starat o odstraňování dat z plného disku stanice.

===config.py===
konfigurační soubor pro stanici a RMDS-data-uploader.

===run.py===
spouštěcí skript stanice.
stará se o pravidelné spouštění jednotlivých částí aplikace.

===serversetup.py===
vytváří nové adresáře, pokud ještě neexistují.

===sort.py===
Stará se o správné rozřazení do složek.

===sync.py===
Spouští rsync příkaz a kontroluje dostupnost serveru space.astro.cz



======Instalace======

Celý skript je umístěn na Githubu [[https://github.com/bolidozor/RMDS-data-uploader|bolidozor/RMDS-data-uploader]].

Pomocné knihovny: 
  git clone https://github.com/MLAB-project/python-mlab-utils.git
  cd python-mlab-utils/
  sudo python setup.py install develop

Skript stáhnete pomocí:
  git clone https://github.com/bolidozor/RMDS-data-uploader.git
  cd RMDS-data-uploader
  
Pak je uz jenom potreba mit spravne klicove vyrazy v Bolidozor.json

Skript se následně spustí:
  ./data_upload.py