Découpage de documents
Diviser un document en sections plus petites et cohérentes pour la recherche et le contexte du modèle.
Quel contexte doit rester dans la section ?
Le découpage divise les documents en sections plus petites et cohérentes pour la recherche ou la présentation à un modèle. Les limites peuvent suivre phrases, titres et tableaux. Cela peut aider à respecter les limites d’entrée et à retrouver plus précisément des sujets distincts. La taille et le chevauchement éventuel dépendent du contenu et de la tâche ; aucune longueur n’est idéale partout. Chaque partie doit garder un lien avec sa source, sa version et les règles d’accès applicables.
Dans un corpus fictif, un tableau indique l’identifiant de l’équipement comme champ obligatoire du formulaire du portail. Si seule la ligne est extraite sans en-têtes de colonnes ni titre de section, le canal de signalement concerné peut devenir incertain. La préparation conserve donc le titre pertinent et le contexte du tableau avec la section. Des questions de recherche prévues évaluent si les sections trouvées préservent cette distinction et renvoient à la source d’origine. Lorsqu’une version est remplacée, les sections de recherche concernées doivent aussi être mises à jour de façon traçable.
Sources
Termes associés
- Fenêtre de contexteLa fenêtre de contexte limite les tokens qu’un modèle de langage peut considérer en une étape. Ce n’est pas une archive permanente de connaissances.
- Token de modèle de langageLes tokens sont des unités de traitement des modèles de langage. Ils ne correspondent pas toujours à des mots et n’ont rien à voir avec les design tokens.
- EmbeddingUn embedding représente un contenu par un vecteur numérique. Modèle et méthode de comparaison déterminent les similarités visibles.
- Génération augmentée par récupérationLa RAG associe recherche d’informations et réponse générée. L’accès aux sources ne remplace pas la conception de la qualité et des droits.
- Recherche sémantiqueRecherche qui trouve et classe les résultats selon leur proximité de sens avec la requête.
- Recherche hybrideCombiner recherche lexicale et recherche vectorielle dans une liste de résultats commune.
Votre projet avec ASES
Décrivez-nous votre projet. Nous revenons vers vous avec une première évaluation.