41 KiB
Audit du schéma SQLite courant — V10
Important
Ce document décrit le schéma réellement présent sur la branche
mainau commit613d2096bc5eeb2c1c4f60ae701292e19a2abe66.Il distingue l’implémentation SQLite V10 du chantier fonctionnel plus large du pivot e-mail suivi dans le ticket Forgejo #107, qui reste ouvert.
Projet : Labfy Investigation
Date de l’audit : 2026-07-24
Branche auditée :mainpublique sur Forgejo
Commit audité :613d2096bc5eeb2c1c4f60ae701292e19a2abe66
Version de schéma confirmée par le code : V10
Statut du document : audit courant vérifié de la V10
Périmètre : schémas SQL, mécanisme de migration, couche Database, tests, documentation et tickets Forgejo associés
1. Résumé exécutif
Le schéma SQLite courant de Labfy Investigation est la V10.
Cette conclusion est confirmée conjointement par :
DATABASE_SCHEMA_VERSION_CURRENT 10;DATABASE_SCHEMA_VERSION_CURRENT_TEXT "10";database/schema_v10.sql;schema_install_v10();database_migrate_v9_to_v10();- le cas
9dedatabase_migrate_to_latest(); - l’installation de V10 dans
database_initialize(); - les assertions V10 de
tests/test_database.c.
La V10 ajoute principalement :
- la table
bank_account_entities; - la conservation structurée des données IBAN, BIC et RIB ;
- un statut de vérification contrôlé ;
- une provenance contrôlée ;
- des liens facultatifs vers une preuve et une extraction ;
- neuf nouveaux types système de relations utiles au pivot e-mail et bancaire.
Le mécanisme général reste cohérent :
- la version est stockée dans
metadata.schema_version; - une base plus récente que l’application est refusée ;
- chaque migration possède une fonction dédiée ;
- chaque migration s’exécute dans une transaction ;
- la version n’est mise à jour qu’après l’application du SQL ;
- un échec provoque un rollback ;
- une base neuve reçoit V1 à V10 dans une transaction initiale ;
schema_current.sqlcomplète les structures manquantes de manière idempotente à l’ouverture.
Les points les plus solides sont :
- activation explicite des clés étrangères ;
- requêtes préparées pour les valeurs variables ;
- chaîne de migration explicite jusqu’à V10 ;
- migration V9 conservatrice des types de relations ;
- création V10 testée sur une base neuve ;
- migration V1 vers V10 vérifiée ;
- tests dédiés au vocabulaire contrôlé, aux propositions bancaires et au pipeline EML.
Les principaux points à renforcer sont :
- absence d’une fixture dédiée V9 → V10 avec données bancaires ;
- absence d’un test provoquant un rollback de la migration V10 ;
- absence d’un
PRAGMA foreign_key_checkgénérique avant chaque commit de migration ; - duplication de la version courante sous forme numérique et textuelle ;
- duplication partielle de la structure V10 entre
schema_v10.sqletschema_current.sql; - documentation générale encore fortement marquée par l’historique V1 ;
- ticket #107 encore ouvert : la présence du schéma V10 ne signifie pas que le pivot e-mail complet est terminé.
2. Méthode et hiérarchie des sources
L’audit applique l’ordre de confiance suivant :
- code présent dans la branche auditée ;
- scripts de schéma et fonctions de migration ;
- tests automatisés ;
- commits associés ;
- tickets Forgejo fermés ;
- documentation d’architecture ;
- anciens audits et feuilles de route.
Cette hiérarchie est nécessaire parce qu’un document historique peut décrire une intention ou une ancienne version sans représenter l’état courant.
2.1 Sources principales examinées
Schémas
database/schema_v1.sqldatabase/schema_v2.sqldatabase/schema_v3.sqldatabase/schema_v4.sqldatabase/schema_v5.sqldatabase/schema_v6.sqldatabase/schema_v7.sqldatabase/schema_v8.sqldatabase/schema_v9.sqldatabase/schema_v10.sqldatabase/schema_current.sql
Infrastructure SQLite
src/database/database.csrc/database/schema.csrc/database/statement.csrc/database/transaction.cinclude/database/database.hinclude/database/schema.h
Accès métier et modèles
- contenu de
include/dao/ - contenu de
src/dao/ - contenu de
include/models/ - modules liés aux preuves, entités, relations, provenance OSINT, extractions et positions du graphe
Tests
tests/test_database.ctests/test_statement.ctests/test_transaction.c- tests des DAO et services visibles dans
tests/ - tests des types canoniques de relations
Documentation et tickets
docs/database/DATABASE_ARCHITECTURE.mddocs/database/SCHEMA_AUDIT_V1.md- ticket Forgejo
#106: normalisation des types de relations - commit
8bc3b43d63: centralisation des types de relations
2.2 Limites de l’audit
Cet audit est une analyse statique du dépôt public.
Il n’a pas exécuté :
make -j8;- la suite de tests ;
- une migration réelle sur une base synthétique ;
PRAGMA integrity_checksur une base V10 produite localement ;PRAGMA foreign_key_checksur une base V10 produite localement ;- une comparaison binaire entre une base migrée et une base fraîche.
Les procédures de vérification reproductible sont proposées plus loin.
3. Source de vérité de la version
3.1 Constante courante
La source de vérité publique se trouve dans :
src/database/database.c
avec les deux définitions :
#define DATABASE_SCHEMA_VERSION_CURRENT 10
#define DATABASE_SCHEMA_VERSION_CURRENT_TEXT "10"
La première sert aux comparaisons numériques.
La seconde est enregistrée dans :
metadata.schema_version
3.2 Lecture de la version
La fonction :
database_read_schema_version()
effectue les contrôles suivants :
- prépare une requête vers
metadata; - lie la clé
schema_version; - refuse l’absence de valeur ;
- refuse une chaîne vide ;
- convertit la valeur en entier ;
- refuse une valeur non numérique ;
- refuse une version inférieure à 1 ;
- refuse une valeur supérieure à
G_MAXINT; - vérifie qu’aucune seconde ligne n’est retournée.
3.3 Base plus récente que l’application
La fonction :
database_migrate_to_latest()
refuse une base dont la version est supérieure à :
DATABASE_SCHEMA_VERSION_CURRENT
Cela évite qu’une ancienne version de Labfy Investigation ouvre et modifie une base créée par une version plus récente.
3.4 Version inconnue ou non migrable
La boucle de migration utilise un switch sur la version actuelle.
Une version ancienne qui ne possède aucun chemin connu produit une erreur d’état au lieu d’essayer une transformation implicite.
3.5 Mise à jour de la version
La fonction :
database_update_schema_version()
utilise une requête préparée et met à jour la clé schema_version.
Dans chaque migration examinée, cette mise à jour intervient après
l’installation de la nouvelle structure et avant le COMMIT.
En cas d’erreur, la transaction est annulée et la version ne doit pas avancer.
4. Installation d’une base neuve
La fonction :
database_initialize()
crée une base neuve dans une transaction initiale unique.
L’ordre V10 observé est le suivant :
- ouverture de SQLite ;
- activation de
PRAGMA foreign_keys = ON; - début de transaction ;
- installation de V1 ;
- installation de V2 ;
- installation de V3 ;
- installation de V4 ;
- installation de V5 ;
- installation de V6 ;
- installation de V7 ;
- installation de V8 ;
- installation de V9 ;
- installation de V10 ;
- application de
schema_current.sql; - insertion des métadonnées, dont
schema_version = 10; - insertion de l’enquête ;
- commit.
Un échec provoque un rollback de l’ensemble.
Observation
Une base neuve rejoue toute l’histoire du schéma.
Cette méthode garantit qu’une base neuve et une base migrée traversent les mêmes étapes. Elle impose cependant que chaque ancien script reste compatible avec le moteur SQLite utilisé aujourd’hui.
À moyen terme, un schéma de référence consolidé pourrait être envisagé pour les bases neuves, tout en conservant les migrations historiques pour les anciennes bases. Un tel changement exigerait une comparaison automatique entre le schéma consolidé et le schéma obtenu par V1 → V10.
5. Chaîne publique des migrations
| Passage | Script | Fonction C | Objet principal |
|---|---|---|---|
| création | schema_v1.sql |
schema_install_v1() |
socle métier complet |
| V1 → V2 | schema_v2.sql |
schema_install_v2() |
renforcement des preuves |
| V2 → V3 | schema_v3.sql |
schema_install_v3() |
provenance OSINT |
| V3 → V4 | schema_v4.sql |
schema_install_v4() |
comptes sociaux |
| V4 → V5 | schema_v5.sql |
schema_install_v5() |
rôles des personnes |
| V5 → V6 | schema_v6.sql |
schema_install_v6() |
identité usurpée |
| V6 → V7 | schema_v7.sql |
schema_install_v7() |
extractions |
| V7 → V8 | schema_v8.sql |
schema_install_v8() |
viewport du graphe |
| V8 → V9 | schema_v9.sql + migration C |
schema_install_v9() |
types canoniques de relations |
| V9 → V10 | schema_v10.sql |
schema_install_v10() |
pivot e-mail et entités bancaires |
| complément | schema_current.sql |
schema_ensure_current() |
extensions idempotentes V10 |
5.1 V1 — Socle métier
La V1 crée notamment :
Métadonnées
metadatainvestigation
Classification et référentiels
categoriestagstypes_preuvetypes_entitetypes_sourcetypes_outil
Collecte
sourcespreuvesrecherches
Connaissance
entitesrelations
Raisonnement et traçabilité
hypotheseschronologiejournal
Tables de liaison
tag_preuvestag_recherchestag_entitestag_relationstag_hypothesestag_chronologierecherche_preuvesrecherche_entitespreuve_entitesrelation_preuvesrecherche_relationsrecherche_chronologiepreuve_chronologieentite_chronologierelation_chronologiehypothese_preuveshypothese_entiteshypothese_relationsrecherche_hypotheses
La V1 constitue un schéma étendu, et non un simple prototype à deux tables.
5.2 V2 — Renforcement des preuves
La V2 ajoute à preuves :
original_name;collected_at;source;integrity_status.
Elle effectue également :
- un backfill de
original_namedepuisname; - la création de
idx_preuves_imported_at; - un trigger de validation à l’insertion ;
- un trigger de validation à la mise à jour.
Les triggers renforcent notamment :
- le nom original obligatoire ;
- la taille non négative ;
- le SHA-256 en minuscules sur 64 caractères ;
- la plage valide de
integrity_status.
5.3 V3 — Provenance OSINT structurée
La V3 ajoute :
osint_executionsosint_execution_entitiesosint_execution_relations
La table principale conserve notamment :
- l’outil ;
- sa version ;
- l’action ;
- la sélection d’origine ;
- la cible ;
- les arguments ;
- les dates de début et de fin ;
- le code de sortie ;
- l’état final ;
- les sorties standard et erreur brutes ;
- le SHA-256 de la sortie.
Les tables de liaison indiquent si les entités ou relations ont été créées ou réutilisées.
5.4 V4 — Comptes sociaux
La V4 :
- ajoute les types TikTok, X, Telegram et compte social générique ;
- crée
comptes_sociaux.
Cette table est une extension spécialisée d’une entité et conserve :
- la plateforme ;
- l’URL du profil ;
- le pseudonyme ;
- un identifiant de plateforme facultatif ;
- la première observation ;
- l’état du compte ;
- des notes.
5.5 V5 — Rôles des personnes
La V5 crée person_roles.
Le rôle est limité à une liste contrôlée comprenant notamment :
- non catégorisé ;
- escroc présumé ;
- victime ;
- témoin ;
- suspect ;
- personne liée.
5.6 V6 — Identité usurpée
La V6 reconstruit person_roles afin d’ajouter :
impersonated_identity
Elle :
- renomme la table V5 ;
- crée la nouvelle table ;
- recopie les données ;
- supprime l’ancienne table ;
- recrée l’index.
Cette migration est sensible aux clés étrangères et doit rester couverte par un test de migration réel.
5.7 V7 — Extractions
La V7 crée extractions.
Elle conserve :
- l’identifiant de l’extraction ;
- une preuve associée facultative ;
- le type de source ;
- l’identifiant de la source ;
- l’outil ;
- la date de création.
La provenance est partiellement polymorphe via :
source_kind
source_id
SQLite ne peut pas imposer directement une clé étrangère vers plusieurs tables
possibles. La cohérence de source_id dépend donc aussi de la couche métier.
5.8 V8 — État du viewport
La V8 crée graph_viewport.
La table ne peut contenir qu’une ligne :
id = 1
Elle persiste :
- le zoom ;
- le décalage horizontal ;
- le décalage vertical ;
- la date de mise à jour.
Il s’agit d’un état de présentation, pas d’une donnée métier.
5.9 V9 — Types canoniques de relations
La V9 crée relation_types avec :
- un identifiant entier ;
- un code métier stable facultatif ;
- un libellé canonique ;
- une clé normalisée unique ;
- une description facultative ;
- un indicateur système.
Elle insère dix types système initiaux, dont :
resolves_toaliases_touses_name_serverlinks_tosendsusescontrolsownsknowsredirects_to
La migration ne se limite pas au fichier SQL.
La fonction :
schema_v9_migrate_relation_types()
réalise également les opérations suivantes :
- ajoute
relations.relation_type_idsi nécessaire ; - parcourt les anciennes relations dans un ordre déterministe ;
- normalise l’ancien texte
type_relation; - recherche un type existant par code ou clé normalisée ;
- crée un type personnalisé lorsqu’aucun type ne correspond ;
- rattache chaque relation au type canonique ;
- crée l’index d’unicité canonique ;
- crée l’index sur
relation_type_id; - crée des triggers interdisant un type canonique nul ;
- exécute
PRAGMA foreign_key_check.
La colonne historique :
relations.type_relation
reste présente pour compatibilité.
Depuis V9, l’identité logique du type doit être :
relations.relation_type_id
et non le texte historique.
5.10 V10 — Pivot e-mail et entités bancaires
La V10 crée :
bank_account_entities
Cette table conserve :
- un UUID métier ;
- l’IBAN normalisé ;
- le BIC facultatif ;
- le nom du titulaire ;
- le nom et l’adresse de la banque ;
- le code pays ;
- le code banque ;
- le code guichet ;
- le numéro de compte ;
- la clé RIB ;
- le statut de vérification ;
- le type de provenance ;
- une preuve source facultative ;
- une extraction source facultative ;
- les dates de création et de mise à jour.
Les statuts autorisés sont :
proposed
confirmed
rejected
conflicted
invalid
Les provenances autorisées sont :
observed
ocr
header
metadata
derived
manual
Les références vers preuves et extractions utilisent ON DELETE SET NULL.
La disparition d’un objet source ne supprime donc pas automatiquement la donnée
bancaire structurée.
La V10 ajoute également les index :
idx_bank_account_entities_iban
idx_bank_account_entities_evidence
Elle insère neuf types système de relations :
sent_from
sent_to
reply_to
has_attachment
relayed_by
uses_domain
held_at
named_as_holder_of
supports
Ces codes techniques sont destinés à rester stables, tandis que les libellés français peuvent évoluer indépendamment.
Migration V9 vers V10
La fonction :
database_migrate_v9_to_v10()
exécute atomiquement :
database_transaction_begin();schema_install_v10();database_update_schema_version(database, "10");database_transaction_commit().
En cas d’échec, elle appelle database_transaction_rollback().
Portée fonctionnelle
La présence du schéma V10 ne signifie pas que l’ensemble du ticket #107 est terminé.
Le ticket reste ouvert et couvre un périmètre beaucoup plus large :
- analyse complète des en-têtes EML ;
- extraction MIME sécurisée ;
- OCR ;
- métadonnées ExifTool ;
- interface de révision ;
- intégration transactionnelle des propositions confirmées ;
- création ou réutilisation d’entités et de relations ;
- conservation complète de la provenance.
La V10 constitue donc un socle persistant du pivot e-mail, pas la preuve de l’achèvement de tout le flux fonctionnel.
6. Rôle de schema_current.sql
schema_current.sql est présenté comme un ensemble d’extensions idempotentes
du schéma courant V10.
Il crée si nécessaire :
graph_node_positionsextractionsgraph_layout_positionsgraph_viewportrelation_typesbank_account_entities
Il réinsère également, avec INSERT OR IGNORE, les types système de relations
ajoutés par V10.
Il ajoute également deux triggers nettoyant les positions de graphe orphelines après suppression d’une entité ou d’une relation.
6.1 Migration des positions
Le script copie les anciennes positions :
INSERT OR IGNORE INTO graph_layout_positions (...)
SELECT ... FROM graph_node_positions;
puis exécute :
DELETE FROM graph_node_positions;
L’objectif est de migrer l’ancien état limité aux entités vers une disposition générique acceptant aussi les relations.
6.2 Point d’attention
Le script est exécuté après les migrations lors de l’ouverture.
Il contient donc à la fois :
- des créations idempotentes ;
- une migration de données de présentation ;
- une suppression des anciennes lignes.
Le comportement peut être légitime, mais il doit être explicitement couvert par des tests vérifiant plusieurs exécutions successives afin de garantir :
- l’absence de perte de positions courantes ;
- l’absence de réimport d’anciennes coordonnées ;
- la stabilité après plusieurs ouvertures ;
- le nettoyage correct des positions orphelines.
7. Inventaire statique du schéma V10
L’application statique des scripts versionnés et de schema_current.sql produit 46 tables distinctes.
Ce nombre est dérivé des scripts, et doit être confirmé sur une base générée par
une requête sur sqlite_master.
7.1 Métadonnées
| Table | Rôle |
|---|---|
metadata |
version et informations techniques |
investigation |
enquête unique contenue dans la base |
7.2 Référentiels et classification
| Table | Rôle |
|---|---|
categories |
classement principal |
tags |
annotations multiples |
types_preuve |
types de preuves |
types_entite |
types d’entités |
types_source |
types de sources |
types_outil |
types d’outils |
relation_types |
types canoniques de relations |
7.3 Données métier principales
| Table | Rôle |
|---|---|
sources |
origine d’une information |
preuves |
métadonnées des fichiers collectés |
recherches |
actions d’investigation |
entites |
objets identifiés |
relations |
liens orientés entre entités |
hypotheses |
raisonnements provisoires |
chronologie |
événements de l’enquête |
journal |
journal technique |
7.4 Extensions spécialisées
| Table | Version | Rôle |
|---|---|---|
osint_executions |
V3 | provenance des traitements OSINT |
osint_execution_entities |
V3 | entités créées ou réutilisées |
osint_execution_relations |
V3 | relations créées ou réutilisées |
comptes_sociaux |
V4 | données propres aux comptes sociaux |
person_roles |
V5/V6 | rôle d’enquête d’une personne |
extractions |
V7 | provenance d’une extraction |
graph_viewport |
V8 | zoom et position du canevas |
graph_node_positions |
courant | ancien stockage des positions d’entités |
graph_layout_positions |
courant | positions génériques entités/relations |
bank_account_entities |
V10 | données bancaires structurées et vérifiables |
7.5 Tables de liaison V1
| Domaine | Tables |
|---|---|
| tags | tag_preuves, tag_recherches, tag_entites, tag_relations, tag_hypotheses, tag_chronologie |
| recherches | recherche_preuves, recherche_entites, recherche_relations, recherche_chronologie, recherche_hypotheses |
| preuves | preuve_entites, preuve_chronologie, relation_preuves |
| chronologie | entite_chronologie, relation_chronologie |
| hypothèses | hypothese_preuves, hypothese_entites, hypothese_relations |
8. Intégrité et sécurité des données
8.1 Clés étrangères
database_open() exécute :
PRAGMA foreign_keys = ON;
Les stratégies observées sont :
CASCADEpour les objets strictement dépendants ;RESTRICTlorsque la suppression risquerait de casser l’historique ;SET NULLpour les références facultatives.
8.2 Requêtes préparées
Les valeurs variables de la couche Database et des DAO utilisent les fonctions de préparation et de liaison.
Les requêtes statiques sans donnée utilisateur peuvent être exécutées avec
sqlite3_exec().
La règle à conserver est :
aucune valeur externe ou utilisateur ne doit être concaténée dans une chaîne SQL.
Le caractère append-only du journal ne constitue jamais une exception à cette règle.
8.3 Transactions
Les migrations V1 à V10 sont pilotées par des fonctions dédiées.
Chaque passage de version :
- démarre une transaction ;
- applique le changement ;
- met à jour la version ;
- commit en cas de succès ;
- rollback en cas d’échec.
La création d’une base neuve est également atomique.
8.4 Preuves
Le schéma et la couche métier conservent notamment :
- UUID ;
- chemin relatif ;
- nom interne ;
- nom original ;
- taille ;
- SHA-256 ;
- type MIME ;
- date du fichier ;
- date de collecte ;
- date d’import ;
- statut d’intégrité ;
- statut logique.
Le fichier original reste dans l’arborescence de l’enquête. SQLite conserve ses métadonnées et ses relations.
8.5 Suppression logique
Plusieurs objets V1 utilisent des statuts tels que :
active
archived
deleted
Certaines suppressions physiques existent néanmoins dans les DAO, notamment pour les relations.
Le document d’architecture doit donc éviter d’affirmer que toute suppression est systématiquement logique. La stratégie réelle doit être documentée table par table.
8.6 Journal et chronologie
Le schéma distingue :
chronologie: événements significatifs de l’enquête ;journal: trace technique des actions de l’application.
Le journal est conçu comme append-only dans la documentation, mais cet audit n’a pas identifié de trigger SQLite interdisant une mise à jour ou une suppression. Cette propriété repose donc actuellement au moins en partie sur la couche applicative.
9. Correspondance SQL, modèles, DAO et tests
| Domaine | Table principale | Modèle ou structure | DAO/service observé | Tests observés |
|---|---|---|---|---|
| enquête | investigation |
InvestigationRecord |
InvestigationDao |
test_investigation_record, test_investigation_dao |
| preuves | preuves |
EvidenceRecord |
EvidenceDao, EvidenceTypeDao |
nombreux tests preuve/import/intégrité |
| preuve-entité | preuve_entites |
— | EvidenceEntityDao |
test_evidence_entity_dao |
| entités | entites |
EntityRecord |
EntityDao, EntityTypeDao |
tests modèle et DAO |
| relations | relations |
RelationRecord |
RelationDao, RelationService |
tests DAO, modèle et service |
| types de relation | relation_types |
RelationType |
RelationTypeDao, RelationTypeService |
normalisation et service |
| relation-preuve | relation_preuves |
— | RelationEvidenceDao |
test_relation_evidence_dao |
| provenance OSINT | osint_executions |
OsintExecutionRecord |
OsintExecutionDao |
DAO et intégrité |
| extractions | extractions |
contexte métier | ExtractionDao, service de dépôt |
test_extraction_drop_service |
| positions graphe | tables de graphe | GraphNodePosition, layout |
GraphNodePositionDao |
test_graph_node_position_dao |
| comptes sociaux | comptes_sociaux |
plateforme sociale | service compte social | test_social_account_service |
| personnes | person_roles |
extension d’entité | service personne | test_person_entity_service |
| comptes bancaires | bank_account_entities |
BankProposal |
pipeline EML et analyse bancaire ; DAO dédié non identifié dans les fichiers inspectés | test_bank_proposal, test_eml_pipeline_task, présence de table dans test_database |
Observation
La V1 contient davantage de domaines que les DAO publics actuellement exposés.
Aucun DAO dédié n’a été observé dans include/dao/ pour plusieurs tables, dont :
sources;recherches;hypotheses;chronologie;journal;categories;tags.
Cela ne signifie pas que ces tables sont inutilisables. Cela indique seulement qu’aucune interface DAO publique dédiée n’est visible dans le dossier audité au commit indiqué.
10. Couverture de tests observée
10.1 Points couverts par test_database.c
Le fichier vérifie notamment :
- l’initialisation d’une base valide ;
- le rollback d’une initialisation défaillante ;
- la présence de la version
10dans une base neuve ; - la présence de
bank_account_entities; - la présence de plusieurs tables ajoutées après V1 ;
- la migration d’une base V1 vers la version courante V10 ;
- la conservation d’une preuve V1 ;
- le backfill V2 de
original_name; - l’ajout des colonnes V2 ;
- l’ajout des triggers V2 ;
- le rollback complet d’une migration V2 provoquée en échec ;
PRAGMA integrity_checkaprès le rollback.
10.2 Tests spécialisés observés
Le dépôt possède également des tests pour :
- les preuves et leur intégrité ;
- les entités ;
- les relations ;
- les types canoniques de relations ;
- les exécutions OSINT ;
- les extractions ;
- les positions du graphe ;
- les comptes sociaux ;
- les rôles des personnes ;
- le vocabulaire contrôlé ;
- l’analyse et la validation des propositions IBAN/BIC ;
- le pipeline EML asynchrone.
10.3 Lacunes de couverture à traiter
Le test principal de migration ne fournit pas une fixture indépendante pour chaque version V2 à V10.
Aucun test dédié nommé V9 → V10 n’a été identifié dans test_database.c.
La création d’une base neuve vérifie bien la présence de la table V10, et la
fixture V1 atteint bien la version 10, mais cela ne remplace pas une migration
V9 réaliste contenant des relations, extractions, preuves et données bancaires.
Matrice recommandée :
| Base d’entrée | Migration | Vérifications minimales |
|---|---|---|
| V1 | V1 → V10 | données, version, FK, intégrité |
| V2 | V2 → V10 | preuve V2 conservée |
| V3 | V3 → V10 | provenance OSINT conservée |
| V4 | V4 → V10 | comptes sociaux conservés |
| V5 | V5 → V10 | rôles conservés pendant reconstruction V6 |
| V6 | V6 → V10 | identité usurpée conservée |
| V7 | V7 → V10 | extractions conservées |
| V8 | V8 → V10 | viewport et positions conservés |
| V9 | V9 → V10 | relations canoniques conservées, table bancaire créée |
| V10 | réouverture | idempotence de schema_current.sql |
Chaque fixture devrait vérifier au minimum :
PRAGMA integrity_check;
PRAGMA foreign_key_check;
SELECT value FROM metadata WHERE key = 'schema_version';
11. Constats d’audit
AUD-001 — Documentation courante restée en V1
Sévérité : élevée
docs/database/DATABASE_ARCHITECTURE.md s’annonce encore comme :
Statut : Stable (V1)
Schéma : V1
alors que le code utilise V10.
Risque
- confusion des développeurs ;
- erreurs des agents locaux ;
- mauvaise interprétation de l’état du projet ;
- décisions basées sur des structures historiques ;
- oubli des tables V2 à V10.
Action recommandée
Créer :
docs/database/SCHEMA_AUDIT_CURRENT.md
et déplacer les audits historiques vers :
docs/database/audits/SCHEMA_AUDIT_V1.md
docs/database/audits/SCHEMA_AUDIT_V9.md
Le document courant doit indiquer le commit exact qu’il audite.
AUD-002 — Couverture spécifique V9 → V10 insuffisante
Sévérité : élevée
La V10 est bien publiée et installée par le code. Les tests confirment :
- une base neuve en version 10 ;
- la présence de
bank_account_entities; - une migration V1 atteignant la version 10.
Aucune fixture dédiée V9 → V10 n’a toutefois été identifiée.
Risque
Une régression propre au passage V9 → V10 pourrait ne pas être détectée, notamment sur :
- les relations canoniques V9 ;
- les références vers
preuvesetextractions; - l’idempotence des nouveaux types de relations ;
- le rollback après création partielle de la table bancaire.
Action recommandée
Ajouter un test synthétique V9 → V10 qui vérifie :
- la conservation des objets V9 ;
- la création de
bank_account_entities; - l’unicité des types de relations insérés ;
PRAGMA integrity_check;PRAGMA foreign_key_check;- le rollback complet d’une migration V10 volontairement mise en échec.
AUD-003 — Version courante dupliquée
Sévérité : moyenne
La version est définie deux fois :
DATABASE_SCHEMA_VERSION_CURRENT
DATABASE_SCHEMA_VERSION_CURRENT_TEXT
Les tests comparent aussi directement la chaîne "10".
Risque
Une future migration peut modifier une valeur et oublier l’autre.
Action recommandée
Conserver une seule constante numérique et produire la représentation textuelle au moment de l’écriture, ou centraliser les deux valeurs dans un fichier d’interface unique couvert par une assertion de test.
AUD-004 — schema_current.sql mélange plusieurs responsabilités
Sévérité : moyenne
Le fichier sert à la fois à :
- créer des structures manquantes ;
- maintenir la compatibilité ;
- migrer des positions ;
- supprimer les anciennes positions ;
- installer des triggers ;
- recréer la table bancaire V10 si elle manque ;
- réinsérer les types système du pivot e-mail.
Risque
Une opération supposée idempotente peut finir par modifier des données à chaque ouverture.
Action recommandée
Documenter chaque opération et ajouter un test exécutant
schema_ensure_current() plusieurs fois sur la même fixture.
AUD-005 — Contrôle des clés étrangères non généralisé
Sévérité : moyenne
La migration V9 exécute explicitement :
PRAGMA foreign_key_check;
Aucun contrôle générique similaire n’a été observé dans le pilote commun de toutes les migrations.
Action recommandée
Exécuter un contrôle générique avant le commit de chaque migration, ou fournir une justification documentée lorsqu’une migration ne le nécessite pas.
AUD-006 — Couverture de migration incomplète par version
Sévérité : élevée
Le test principal couvre :
- création d’une base neuve ;
- migration V1 vers la version courante ;
- rollback V2.
Il ne constitue pas une matrice complète de fixtures V2 à V10.
Action recommandée
Ajouter une fixture synthétique minimale pour chaque version publiée et migrer chacune vers la version courante.
AUD-007 — Absence de sauvegarde préalable observée
Sévérité : élevée pour des enquêtes réelles
Aucun appel de sauvegarde SQLite ou copie préalable n’a été observé dans
database_migrate_to_latest().
La transaction protège la cohérence logique, mais elle ne remplace pas une copie de sécurité face à :
- panne disque ;
- interruption brutale ;
- défaut SQLite ou système de fichiers ;
- erreur de migration non anticipée ;
- corruption déjà présente.
Action recommandée
Avant toute migration d’une base existante :
- fermer ou stabiliser les accès concurrents ;
- créer une sauvegarde cohérente ;
- vérifier sa création ;
- lancer la migration ;
- conserver la sauvegarde tant que la validation n’est pas terminée.
Cette fonctionnalité doit être testée uniquement sur des bases synthétiques.
AUD-008 — Ancienne et nouvelle identité du type de relation coexistent
Sévérité : moyenne
V9 conserve :
relations.type_relation
et ajoute :
relations.relation_type_id
La documentation du commit précise que la première colonne ne doit plus servir d’identité.
Risque
Un module ancien peut encore filtrer ou détecter les doublons par texte.
Action recommandée
Auditer tous les producteurs et lecteurs de relations, puis ajouter un test
interdisant toute régression vers type_relation comme clé métier.
La colonne historique pourra être supprimée dans une future migration seulement après validation de toutes les anciennes bases et de tous les adaptateurs.
AUD-009 — Append-only non imposé par SQLite
Sévérité : faible à moyenne
Le journal est documenté comme append-only, mais aucun trigger interdisant
UPDATE ou DELETE n’a été identifié dans les scripts examinés.
Action recommandée
Choisir explicitement l’une des deux politiques :
- garantie applicative documentée et testée ;
- garantie SQLite par triggers de refus.
Le document courant doit dire laquelle est réellement retenue.
AUD-010 — Paramètres SQLite de durabilité non documentés dans le code audité
Sévérité : à évaluer
Aucun réglage explicite n’a été identifié dans database.c pour :
journal_mode;synchronous;busy_timeout.
SQLite applique donc probablement ses valeurs par défaut, sauf réglage réalisé ailleurs.
Action recommandée
Documenter volontairement les paramètres retenus et leurs conséquences avant un usage opérationnel.
Ne pas activer WAL ou modifier synchronous sans étudier la portabilité d’une
enquête et les procédures de copie de ses fichiers annexes.
12. État de validation de la V10
12.1 Implémentation confirmée
Les éléments suivants sont présents au commit audité :
database/schema_v10.sql;- déclaration de
schema_install_v10(); - implémentation de
schema_install_v10(); database_migrate_v9_to_v10();- cas
9dansdatabase_migrate_to_latest(); - installation V10 dans
database_initialize(); - version numérique
10; - version textuelle
"10"; - table
bank_account_entities; - index IBAN et preuve ;
- nouveaux types système de relations ;
- mise à jour de
schema_current.sql; - mise à jour de
test_database.c.
12.2 Validation partielle confirmée
Les tests présents couvrent :
- la création d’une base neuve V10 ;
- la présence de
bank_account_entities; - l’arrivée d’une ancienne base V1 en version 10 ;
- le vocabulaire contrôlé ;
- l’analyse de propositions bancaires ;
- un scénario de pipeline EML.
12.3 Validation encore recommandée
Restent à ajouter ou confirmer :
- fixture directe V9 → V10 ;
- rollback provoqué de la migration V10 ;
- conservation de données V9 riches ;
- vérification des deux clés étrangères de
bank_account_entities; - contrôle de doublon des types système après ouvertures répétées ;
PRAGMA foreign_key_checkavant validation de V10 ;- DAO ou service de persistance clairement identifié pour
bank_account_entities; - test de réouverture multiple de
schema_current.sql; - validation complète des critères du ticket #107.
12.4 Statut fonctionnel
Le schéma V10 est implémenté.
Le pivot e-mail complet n’est pas déclaré terminé : le ticket #107 est toujours ouvert et couvre un périmètre supérieur à la seule migration SQLite.
13. Procédure de vérification reproductible
Utiliser uniquement une copie synthétique.
Ne jamais exécuter cette procédure sur une base d’enquête réelle sans sauvegarde et validation préalable.
13.1 Compilation
make clean
make -j8
make -j8 test
git diff --check
En cas d’échec provoqué par la parallélisation, revenir temporairement à :
make
make test
13.2 Création d’une base synthétique
Créer une enquête de test par l’API normale de l’application ou par un test dédié, puis vérifier :
sqlite3 /chemin/test/Enquete.sqlite \
"SELECT value FROM metadata WHERE key = 'schema_version';"
sqlite3 /chemin/test/Enquete.sqlite \
"PRAGMA integrity_check;"
sqlite3 /chemin/test/Enquete.sqlite \
"PRAGMA foreign_key_check;"
Résultats attendus :
<version courante>
ok
<aucune ligne pour foreign_key_check>
13.3 Inventaire du schéma
sqlite3 /chemin/test/Enquete.sqlite \
"SELECT type, name
FROM sqlite_master
WHERE name NOT LIKE 'sqlite_%'
ORDER BY type, name;"
13.4 Vérification de l’idempotence
- ouvrir la base ;
- fermer la base ;
- enregistrer un dump du schéma et les données de présentation ;
- rouvrir la base plusieurs fois ;
- comparer les résultats ;
- vérifier les positions du graphe ;
- vérifier les types de relations ;
- exécuter à nouveau les deux PRAGMA d’intégrité.
13.5 Vérification de migration
Pour chaque fixture V1 à V10 :
- calculer une copie de travail ;
- relever la version initiale ;
- compter les objets métier ;
- migrer ;
- vérifier la version finale ;
- comparer les UUID ;
- comparer les empreintes des preuves ;
- comparer les liaisons ;
- vérifier les contraintes ;
- vérifier le rollback sur une copie volontairement invalide.
14. Règle de maintenance proposée
Toute nouvelle version du schéma doit livrer ensemble :
migration SQL
+ fonction d’installation
+ fonction de migration
+ incrément de version
+ tests de base neuve
+ tests d’ancienne base
+ test de rollback
+ contrôle d’intégrité
+ mise à jour de SCHEMA_AUDIT_CURRENT.md
+ ticket Forgejo
+ commit vérifiable
Un ticket de migration ne doit pas être fermé tant que cette chaîne n’est pas complète.
Statuts documentaires obligatoires
Chaque table, colonne ou fonctionnalité mentionnée dans la documentation devrait porter l’un des statuts suivants :
IMPLÉMENTÉ
PARTIELLEMENT IMPLÉMENTÉ
DOCUMENTÉ MAIS NON IMPLÉMENTÉ
HISTORIQUE
ABANDONNÉ
Cette règle évitera de confondre :
- une architecture cible ;
- un ancien audit ;
- une fonctionnalité réellement présente ;
- un ticket encore ouvert ;
- une migration locale non publiée.
15. Conclusion
Le schéma V10 repose sur une base technique sérieuse :
- modèle relationnel riche ;
- versionnement explicite ;
- migrations transactionnelles ;
- provenance OSINT ;
- contraintes sur les preuves ;
- normalisation des types de relations ;
- séparation des données métier et de l’état du graphe ;
- table bancaire structurée avec provenance et statut contrôlés ;
- tests dédiés aux nouveaux composants EML et bancaires.
La V10 est bien publiée et détectable par le code comme version courante.
Le principal risque documentaire reste l’écart entre :
- l’ancienne documentation V1 ;
- le schéma courant V10 ;
- les fonctionnalités partielles déjà présentes ;
- le ticket #107, qui décrit encore un flux complet en cours de réalisation.
SCHEMA_AUDIT_V1.md et SCHEMA_AUDIT_V9.md doivent rester des documents
historiques. Le présent fichier doit devenir la référence courante jusqu’à la
prochaine migration.
Les prochaines actions recommandées sont :
- ajouter une fixture V9 → V10 ;
- tester le rollback V10 ;
- exécuter
integrity_checketforeign_key_checksur une base synthétique ; - clarifier le service responsable de la persistance bancaire ;
- maintenir ce document à chaque nouvelle version ;
- ne fermer le ticket #107 qu’après validation de son flux fonctionnel complet.
16. Références du dépôt
Commit audité
613d2096bc5eeb2c1c4f60ae701292e19a2abe66
feat(relations): centraliser les types et améliorer les aperçus
Date : 2026-07-24 12:53:31 +02:00
Le commit contient notamment :
28 fichiers modifiés
1826 ajouts
18 suppressions
Tickets Forgejo liés
#107 — Ajouter un pivot e-mail forensique avec OCR, métadonnées et
normalisation des données
État : ouvert
#106 — Normaliser et centraliser les types de relations
État : fermé
Documents historiques
docs/database/DATABASE_ARCHITECTURE.md
docs/database/SCHEMA_AUDIT_V1.md
docs/database/audits/SCHEMA_AUDIT_V9.md
Fichiers constituant la source de vérité technique V10
database/schema_v1.sql
database/schema_v2.sql
database/schema_v3.sql
database/schema_v4.sql
database/schema_v5.sql
database/schema_v6.sql
database/schema_v7.sql
database/schema_v8.sql
database/schema_v9.sql
database/schema_v10.sql
database/schema_current.sql
src/database/database.c
src/database/schema.c
src/database/statement.c
src/database/transaction.c
include/database/database.h
include/database/schema.h
include/core/bank_proposal.h
include/core/controlled_vocab.h
include/core/eml_mime_extractor.h
include/core/eml_pipeline_task.h
tests/test_database.c
tests/test_statement.c
tests/test_transaction.c
tests/test_bank_proposal.c
tests/test_controlled_vocab.c
tests/test_eml_pipeline_task.c