Contenu du cours

Programmer des mises à jour automatiques de données

Les traitements périodiques récupèrent des données à certains endroits, les transforment et les publient sur la plateforme. Ils peuvent ainsi être utilisés pour la mise à jour automatique de données à intervalles réguliers.

Les traitements périodiques sont affichés sous forme de fiches avec le nom, le type de plugin utilisé pour le traitement, la dernière exécution et la prochaine exécution.

Sur cette image, vous pouvez visualiser trois traitements sur trois jeux de données différents :

  • Prix des carburants, qui est mis à jour toutes les 3 heures ;
  • Annuaire de l'éducation, qui est mis à jour tous les mois ;
  • Sitadel - Permis d’aménager qui est mis à jour tous les mois également.

Créer un traitement périodique

Lorsque vous êtes connecté à votre compte en tant qu'administrateur ou contributeur, rendez-vous sur la page des traitements et ajoutez un nouveau traitement en cliquant sur le bouton Créer un nouveau traitement.

Lorsque vous cliquez sur ce bouton, une fenêtre s'ouvre : un champ s'affiche où vous pouvez renseigner le titre et choisir le plugin.


Le plugin transfer-file permet d'importer un fichier sur la plateforme sans transformation. Le plugin Xml permet de récupérer un fichier XML, de le transformer et de l'importer sur la plateforme.

Nous avons utilisé ici le plugin transfer-file.

Configurer un traitement périodique

Pour cet exemple, chargez le fichier provenant de la page Compétence territoriale gendarmerie et police nationales de data.gouv.fr.

Dans l'onglet information de la page, vous pouvez constater que la mise à jour des données est effectuée quotidiennement :


Vous allez donc réaliser un traitement qui sera lancé tous les jours à 6 h 00 du matin, heure de Paris.

Dans un premier temps, créez le jeu de données. Après avoir exécuté une première fois le traitement, le paramètre d'action passera en mettre à jour un jeu de données (fichier) pour effectuer les prochaines mises à jour.

Nous allons donc créer un traitement qui sera lancé tous les jours à 6 h 00 du matin, heure de Paris.

Dans un premier temps, configurez le traitement pour créer le jeu de données. Après avoir exécuté une première fois le traitement, le paramètre d'action passera à "mettre à jour un jeu de données (fichier)" pour effectuer les prochaines mises à jour.

Voici la premiere page de configuration de votre traitement :


L'adresse du fichier que nous souhaitons importer est disponible dans les métadonnées du fichier sur data.gouv.fr :


Entrez cette adresse dans les paramètres de votre traitement périodique et exécutez manuellement le traitement une première fois pour créer le jeu de données.


Une fois la première exécution effectuée, un historique s'affiche avec la date d'exécution et la date de prochaine exécution.

Vous pouvez cliquer sur les dernières exécutions pour en voir le détail. Par exemple, lorsque le traitement est en erreur, le message d'erreur sera disponible dans les détails.

Notifications

Vous pouvez vous abonner à trois types de notifications distincts pour un traitement.. :

  • Le traitement est terminé avec succès.
  • Le traitement est terminé en échec.
  • Le traitement est terminé correctement mais son journal contient des erreurs.

Vous pouvez recevoir les notifications sur votre appareil sous forme de pop-up ou par e-mail.

Si vous avez des remarques sur ce cours, n'hésitez pas à nous les communiquer.