Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

Add experimental import tool and documentation #504

Merged
merged 5 commits into from
Oct 26, 2022
Merged

Add experimental import tool and documentation #504

merged 5 commits into from
Oct 26, 2022

Conversation

florimondmanca
Copy link
Collaborator

@florimondmanca florimondmanca commented Oct 19, 2022

Refs #343

Cette PR ajoute une version "expérimentale" du script que j'ai utilisé pour importé le contenu du catalogue du Ministère de la Culture.

Il permet d'accepter un fichier CSV à l'allure de celui utilisé pour le MC : colonnes correspondant au schéma commun + colonnes correspondant aux champs complémentaires (tous ceux qui ne sont pas dans le schéma commun ni explicitement ignoré).

J'y adjoins une documentation qui parle aussi rapidement du repo de config (qui n'est pas encore mentionné dans la doc de développement).

Tout ça est à destination de l'équipe de développement, à des fins d'import manuel, pas des utilisateurs finaux.

La création du fichier d'initdata à partir d'un fichier CSV fait essentiellement l'inverse de l'opération de génération de CSV (#480). Pour un import plus automatisé, il faudrait donc formaliser et standardiser ce conversion bidirectionnelle.

@johanricher À noter, le "schéma commun" contient des champs qui n'ont pas d'existence dans l'outil actuel : id_alt_orga, date_pub. Ils sont présents dans les fichiers CSV de catalogue ce qui est cohérent. Ce script expérimental nécessite de les exclure explicitement du traitement (ne pas les considérer comme des champs complémentaires). Mais ça fait revenir la question de #346 ?

@florimondmanca florimondmanca added docs Improvements or additions to documentation technical labels Oct 19, 2022
@@ -0,0 +1,293 @@
import argparse
Copy link
Collaborator Author

Choose a reason for hiding this comment

The reason will be displayed to describe this comment to others. Learn more.

@Volubyl Pour la revue, je suggère de te poser pour comprendre ce que fait ce script, au cas où tu devrais le reprendre ou le réintégrer plus tard. Si tu as des questions n'hésite pas, on peut aussi passer le truc en revue en visio

This was referenced Oct 19, 2022
@florimondmanca
Copy link
Collaborator Author

@Volubyl Pourras-tu jeter un oeil à cette PR?

@Volubyl Volubyl merged commit 8033c92 into master Oct 26, 2022
@Volubyl Volubyl deleted the fm/import branch October 26, 2022 14:49
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
docs Improvements or additions to documentation technical
Projects
None yet
Development

Successfully merging this pull request may close these issues.

2 participants