Aller au contenu

Découpage de documents

Diviser un document en sections plus petites et cohérentes pour la recherche et le contexte du modèle.

Également appeléChunking
Apprentissage automatique

Quel contexte doit rester dans la section ?

Le découpage divise les documents en sections plus petites et cohérentes pour la recherche ou la présentation à un modèle. Les limites peuvent suivre phrases, titres et tableaux. Cela peut aider à respecter les limites d’entrée et à retrouver plus précisément des sujets distincts. La taille et le chevauchement éventuel dépendent du contenu et de la tâche ; aucune longueur n’est idéale partout. Chaque partie doit garder un lien avec sa source, sa version et les règles d’accès applicables.

Dans un corpus fictif, un tableau indique l’identifiant de l’équipement comme champ obligatoire du formulaire du portail. Si seule la ligne est extraite sans en-têtes de colonnes ni titre de section, le canal de signalement concerné peut devenir incertain. La préparation conserve donc le titre pertinent et le contexte du tableau avec la section. Des questions de recherche prévues évaluent si les sections trouvées préservent cette distinction et renvoient à la source d’origine. Lorsqu’une version est remplacée, les sections de recherche concernées doivent aussi être mises à jour de façon traçable.

Sources