Procédure avant intégration de données
Liste des points à vérifier avant lancement des scripts d'intégration des données transmises par les administrateurs de données.
Chaque administrateur de données est abrégé (Ex. : cbna, cenpaca, cbnmc, cbnmed…) et nous indiquons cette abréviation de manière générique avec le terme <admin-data>.
- En local :
- tester l'intégration des données dans une copie du dépôt
sinp-<region>-datasur une copie de la base de données de Prod - corriger les fichiers
csvtransmis si nécessaire - préparer une nouvelle archive
tar.bz2, au format :<date>_sinp_<region>_<admin-data>.tar.bz2. Ex. :2024-09-04_sinp_paca_cenpaca.tar.bz2 - téléverser sur l'archive sur le dépôt SFTP hébergé sur le serveur
bkp-srven tant quedata
- Se connecter sur le dépôt SFTP hébergé sur le serveur
bkp-srven tant quedata:- Pour chaque dossier correspondant à un administrateur de données, vérifier :
- la présence d'un fichier
.tar.bz2 - la correspondance de taille de chaque fichier
.tar.bz2entre la version locale et la version du distante
- Se connecter sur le serveur
db-srven tant quegeonat- Vérifier que le dossier
~/data/, correspondant au dépôt Git sinp-<region>-data, est bien à jour :cd ~/data/ ; git pull
- Pour chaque dossier correspondant à un administrateur de données (Ex. : cbna, cenpaca, cbnmc, cbnmed…), vérifier :
- le fichier
~/data/<admin-data>/config/settings.inicontient bien la date utilisée pour l'archivetar.bz2dans le paramètre<admin-data>_import_date - vérifier que le dossier
~/data/<admin-data>/raw/data/est vide
- Créer une session Screen :
screen -S <admin-data>-integration
- Se placer dans le dossier
bin/:cd ~/data/<admin-data>/bin/
- Lancer le script d'import en mode verbeux :
./import_update.sh -v
- Vérifier que tous les scripts SQL lancés dans des transactions fonctionnent :
- présence du log
COMMITpour chacun d'entre eux.- dans une session Screen, utiliser :
CTRL+A, puisESCpour pouvoir remonter dans les logs de la session. Puis à nouveauESCpour revenir en mode normal.CTR+A, puisCTRL+Dpour se détacher de la session.screen -lspour lister les sessions.sreen -r <id-session>pour revenir dans une session.
- absence de log d'erreur.