A belső AI kereső értéke nem attól függ, hogy tud-e szép választ írni. A nehéz rész az, hogy a megfelelő forrást találja meg, csak azt mutassa, amihez a felhasználónak joga van, jelezze a forrást, és tudjon nemet mondani, amikor nincs elég bizonyíték.
1. Előbb a forrásrendszereket tedd kereshetővé
SharePoint, OneDrive, belső wiki, fájltár és adatbázis más metaadatot, jogosultságot és frissítési logikát hoz. A RAG megoldásnak ezekből következetes, visszakövethető indexet kell építenie.
2. A vector-only keresés ritkán elég
A szemantikus hasonlóság jó a fogalmi kereséshez, de cikkszám, szerződésszám, dátum, név és pontos kifejezés is gyakori. Sok esetben a kulcsszavas és vektoros keresés kombinációja, majd újrarangsorolás ad jobb eredményt.
3. A jogosultságot a találatoknál kell érvényesíteni
A retrieval rétegnek már a modell elé küldött dokumentumokat is a felhasználó tényleges jogosultságai alapján kell szűrnie.
4. Chunking, metaadat és frissesség együtt számít
A túl nagy szövegrész zajt visz a promptba, a túl kicsi elveszíti a kontextust. A cím, fejezet, dokumentumtípus, dátum és más metaadat segít a pontos szűrésben.
5. A válasz legyen visszaellenőrizhető
Vállalati környezetben a válasz mellé forráslink kell. Ha a retrieval nem talál elég erős forrást, a rendszer inkább jelezze a bizonytalanságot, mint hogy hihető választ találjon ki.
6. Tesztkészlet nélkül nem tudod, hogy javult-e
Építs valós üzleti kérdésekből tesztkészletet, és külön mérd a retrieval és a végső válasz minőségét.