Documentation de la plateforme Koumoul
Contenu du cours

Programmer des mises à jour automatiques de données

Les traitements périodiques vont chercher des données à certains endroits, les transforment et les publient sur la plateforme. Ils peuvent ainsi être utilisés pour la mise à jour automatique de données à intervalles réguliers.

Les traitements péridiques sont affichés sous forme de fiches avec le nom, le type de plugin utilisé sur le traitement, la dernière exécution et la prochaine exécution.

Sur cette image, vous pouvez visualiser trois traitements sur trois jeux de données différents :

  • Prix des carburants, qui est mis à jour toutes les 3 heures ;
  • Annuaire de l'éducation, qui est mis à jour tous les mois ;
  • Sitadel - Permis d’aménager qui est mis à jour tous les mois également.

Créer un traitement périodique

Lorsque vous êtes connecté à votre compte en tant qu'administrateur ou contributeur, allez sur la page des traitements et ajoutez un nouveau traitement à l'aide du bouton créer un nouveau traitement.
Lorsque vous cliquez sur ce bouton, une fenêtre s'ouvre : un champ s'affiche où vous pouvez renseigner le titre et choisir le plugin.


Le plugin transfer-file permet d'importer un fichier sur la plateforme sans transformation.
Le plugin xml permet d'aller chercher un fichier XML, de le transformer en (CSV ? JSON ? ) et de l'importer sur la plateforme.

Nous avons utilisé ici le plugin transfer-file.

Configurer un traitement périodique

Pour cet exemple, chargez le fichier provenant de la page Compétence territoriale gendarmerie et police nationales de data.gouv.fr.

Dans l'onglet information de la page, vous pouvez constater que la mise à jour des données est réalisée quotidiennement :


Vous allez donc réaliser un traitement qui sera lancé tous les jours à 6 h 00 du matin, heure de Paris.

Dans un premier temps, créez le jeu de données. Après avoir exécuté une première fois le traitement, le paramètre d'action passera en mettre à jour un jeu de données (fichier) pour effectuer les prochaines mises à jour.

Voici la configuration de votre traitement sur la première page :


L'adresse du fichier que nous souhaitons importer est est disponible dans les métadonnées du fichier sur data.gouv.fr :


Renseignez cette adresse dans les paramètres de votre traitement périodique et exécutez manuellement le traitement une première fois pour que le jeu de données soit créé.


Vous pouvez ajouter un délai au lancement manuel si vous le désirez.

Une fois la première exécution effectuée, s'affiche un historique avec la date d'exécution et la date de prochaine exécution.

Vous pouvez cliquer sur les dernières exécutions pour en voir le détail.
Par exemple, lorsque le traitement est en erreur, le message d'erreur sera disponible dans les détails.

Notifications

Trois notifications sont disponibles sur les traitements :

  • Le traitement est terminé avec succès.
  • Le traitement est terminé en échec.
  • Le traitement est terminé correctement mais son journal contient des erreurs.

Il est possible d'avoir les notifications sur son appareil ou par envoi d'e-mail.

Si vous avez des remarques sur ce cours, n'hésitez pas à nous contacter pour nous en faire part.