siop2/docs/03-architecture/adr/ADR-004-modeles-ia.md

ADR-004 — Modèles et topologie du service IA (R5)

• Statut : acceptée (R5.1, 17 juillet 2026)
• Contexte : les maquettes R5 et les décisions D1-D5 sont validées (l'IA propose/l'humain valide, sourcé ou silencieux, corpus fermé, anonymisation 09-08, voix purgée). Reste à trancher COMMENT : quels modèles, où tournent-ils, qui parle à qui. Contraintes : serveur Dokploy du partenaire (CPU, pas de GPU garanti), corpus en français, données d'un client marocain (loi 09-08), CI sans secret, démo qui marche sans dépendance externe.

Décision

1. Embeddings : locaux, sur CPU — fastembed (ONNX, sans PyTorch) avec sentence-transformers/paraphrase-multilingual-mpnet-base-v2 (768 dimensions, multilingue, ~1 Go, registre fastembed). Les textes du client ne quittent JAMAIS le serveur pour l'indexation ni pour la recherche. Le modèle est téléchargé au build de l'image (pas au démarrage). En tests/CI : embeddeur déterministe par hachage (pas de téléchargement, pas de flottement) derrière la même interface.

   Amendé en recette R5 (17/07/2026) : le choix initial, MiniLM-L12-v2 (384 d, ~220 Mo), a été invalidé par la mesure — sur un banc français question→passage, il classait la page contenant la réponse DERRIÈRE des passages sans rapport (0,24 contre 0,41) et ne laissait aucune marge pour le seuil de refus D2. mpnet-base-v2 rétablit le classement et une marge signal/bruit exploitable (pertinent ≥ 0,46 ; hors-corpus ≤ 0,42) pour un coût CPU encore raisonnable. multilingual-e5-large (1024 d, 2,2 Go) classait aussi correctement mais ses scores compressés (0,73-0,90) et son poids l'écartent — à réévaluer au calibrage sur le corpus client si la marge de mpnet s'avère insuffisante. Migration r5_embeddings_mpnet : colonne pgvector 384 → 768, index vidé (re-dérivable par réindexation). Seuils par défaut recalés : pertinence 0,45, suggestion 0,40, confiance forte 0,55.

2. Stockage vectoriel : pgvector dans le PostgreSQL existant (extension déjà installée depuis R0) — table RagChunk gérée par la migration Prisma (le schéma reste la propriété d'apps/api, source unique). Pas de base vectorielle de plus à opérer.

3. Génération (réponses rédigées de l'assistant) : opt-in par configuration.

   • Sans clé (AI_GENERATION=off, défaut) : l'assistant fonctionne en mode extractif — il montre les meilleurs extraits sourcés et une synthèse templatée, sans LLM. La démo, la CI et un déploiement sans budget API restent pleinement fonctionnels et honnêtes.
   • Avec clé (AI_GENERATION=api + AI_API_KEY, modèle configurable par AI_MODEL, défaut claude-opus-4-8) : rédaction par le SDK officiel Anthropic, sur textes DÉJÀ anonymisés (D4), avec l'obligation de citer les extraits fournis — jamais au-delà. La config est validée au boot (api sans clé = refus de démarrer) ; la clé n'apparaît ni dans les journaux ni au /healthz (qui n'expose que le mode). Tout échec du LLM (refus, quota, réseau) retombe silencieusement sur le mode extractif.
   • La suggestion de codes de bilan n'utilise PAS de LLM : similarité sémantique (embeddings locaux) entre la description et les libellés des référentiels + les bilans historiques du parc. Déterministe, testable, explicable (« 9 bilans similaires »).

4. Topologie : apps/ai (FastAPI/uv, conteneur siop2-ai) n'est jamais exposé — réseau interne Dokploy uniquement, comme MinIO. Les utilisateurs passent par l'API NestJS (auth JWT + matrice de permissions réutilisées) qui proxifie vers siop2-ai (AI_SERVICE_URL + secret partagé AI_SERVICE_TOKEN). apps/ai lit Postgres (métadonnées, bilans, écriture des chunks) et MinIO (octets des PDF) en direct sur le réseau privé — la règle d'or ESLint d'ADR-001 concerne le code TypeScript de l'API, la topologie « MinIO jamais exposé » du runbook reste respectée.

5. Transcription (dictée, R5 D5) : locale, opt-in, jamais de persistance de l'audio. Amendement du 22/07/2026 — le référent choisit faster-whisper (CTranslate2, CPU, licence MIT) plutôt qu'une API externe, même philosophie que les embeddings : « open source et local ». AI_TRANSCRIPTION=off par défaut (endpoint refuse proprement, 503) ; locale charge le modèle (taille configurable par AI_TRANSCRIPTION_MODEL, défaut small) ; deterministe en tests/CI (aucune dépendance audio). Le flux : l'audio ne transite qu'une fois vers siop2-ai (multipart, jamais écrit sur disque par siop2-api), un fichier temporaire le temps de l'inférence côté siop2-ai, supprimé aussitôt quoi qu'il arrive — succès ou erreur (loi 09-08, D5). Seul le texte transcrit revient, à relire par l'humain (D1) avant tout usage : suggestion de bilan immédiate, et/ou sauvegarde dans InterventionReport.note — qui, à la clôture de l'OT, rejoint le corpus comme les libellés codés (même pipeline d'anonymisation, D4). Point de vigilance non calibré (décision explicite du référent : pas de prototype de mesure préalable, contrairement au choix du modèle d'embeddings) : Whisper transcrit mal le darija, probable en mélange avec le français sur le terrain — à mesurer sur des enregistrements réels si la qualité déçoit en recette.

Conséquences

• L'anonymisation (D4) s'applique à l'ingestion — les index ne contiennent jamais d'identités ; le mode génératif n'envoie donc que des textes déjà nettoyés.
• Le mode extractif est le contrat de base : toute recette R5 doit passer SANS clé API.
• Si le partenaire veut un jour une génération 100 % locale (llama.cpp…), seul le point 3 change — interface Generateur prévue pour ça.
• La dictée (point 5) est opt-in et sans mesure de qualité préalable : à recetter avec attention avant toute promesse de qualité au client, en particulier en darija.
• Implémentée et vérifiée le 22/07/2026 : transcription réelle (français, voix de synthèse) juste et rapide en local, bout en bout via l'API NestJS, et dans l'image Docker de production construite pour l'occasion (modèle embarqué, aucun téléchargement au démarrage). Reste : le test tactile sur iPhone physique (bouton dicter, permission micro) n'a pas pu se jouer — blocage USB persistant malgré câble/port/redémarrage multiples, reporté comme la recette Android (attend un accès matériel qui fonctionne).