Aller au contenu

Profondeur de scan

Le paramètre depth contrôle la quantité de métadonnées extraites des fichiers, dossiers, datasets et bases de données. Définissez-le une fois comme valeur par défaut globale, ou surchargez-le pour n'importe quelle entrée add.

yaml
depth: variable                   # valeur par défaut globale

add:
  - folder: ./data                # hérite de "variable"

  - folder: ./big
    depth: stat                   # surcharge pour cette entrée

  - database: sqlite:///db.sqlite
    depth: dataset
Fonctionnalitédatasetvariablestatvalue (défaut)
Dossiers
Datasets (format, chemin, mtime)
Variables (noms, types)
Introspection BD (PK, FK, commentaires)
Nombre de lignes, statistiques
Énumérations, fréquences, motifs
Auto-tagging (format, sécurité, texte)

Note : À depth="variable", les fichiers CSV et Excel n'extraient que les noms de colonnes (les types nécessitent de lire les données, disponibles à partir de depth="stat"). Tous les autres formats fournissent les types à ce niveau.

Cas d'usage typiques :

  • dataset — inventaire rapide des fichiers/tables disponibles sans lire les données
  • variable — découverte légère du schéma (noms et types de colonnes)
  • stat — profilage des données sans détection d'énumérations (plus rapide que value)
  • value — catalogue complet avec tables de fréquences et affectation d'énumérations (défaut)

Si vous avez besoin des fréquences de valeurs mais gérez les énumérations manuellement via metadata_path, utilisez auto_enumerations: false avec depth: value. Les fréquences restent disponibles, mais les entités d'énumération automatiques et les liens de variables générés sont ignorés.

Auto-tagging

À depth="value" (défaut), les colonnes de type chaîne sont automatiquement taguées selon leur type de contenu. Les tags utilisent une hiérarchie à deux niveaux sous le parent auto :

CatégorieTags
Formatauto---email, auto---phone, auto---uuid, auto---iban
Sécuritéauto---bcrypt, auto---argon2, auto---jwt, auto---secret
Texteauto---structured, auto---semi-structured, auto---free-textauto---natural-text

Chaque variable reçoit au plus un tag feuille. Le frontend peut utiliser parent_id pour filtrer par catégorie (par exemple, sélectionner auto---security affiche toutes les variables bcrypt/argon2/jwt/secret).

Les colonnes taguées sécurité (bcrypt, argon2, jwt, secret) voient leurs valeurs de fréquence brutes supprimées — seules les fréquences de motifs sont émises, de sorte qu'aucun secret réel n'apparaît dans le catalogue exporté.

Tags de politique

Les tags de politique permettent de contrôler manuellement le comportement du scan pour des variables spécifiques. Comme les auto-tags, ils vivent sous la hiérarchie scan et sont créés automatiquement — aucune entrée dans tag.csv n'est nécessaire.

TagEffet
policy---frequency-hiddenSupprime toutes les données de fréquence et d'énumération (les statistiques restent visibles)

Affectez le tag dans vos métadonnées variable.csv :

csv
id,tag_ids
source---employees_csv---first_name,"policy---frequency-hidden"

C'est utile pour les colonnes sensibles que l'auto-tagging ne détecte pas (par exemple les prénoms, identifiants internes, codes métier).