RAG pre firmy je AI asistent, ktorý odpovedá na otázky z vašich vlastných dokumentov a pri každej odpovedi ukáže presné miesto v zdroji. Navrhujem ho, staviam a meriam pre firmy na Slovensku a v Česku, v cloude alebo úplne lokálne.
AI, ktorá necituje zdroj, len háda. Každá odpoveď u mňa ukáže presnú pasáž v dokumente.
Pre koho to je
- Firmy, ktoré strácajú čas hľadaním v zmluvách, manuáloch a smerniciach
- Tímy, ktoré stále dookola odpovedajú na tie isté otázky zákazníkov alebo kolegov
- Firmy, ktorým nestačí ChatGPT, lebo dáta nesmú odísť mimo firmu
Ak máte pár desiatok strán dokumentov a otázky prídu raz za týždeň, RAG sa vám nevráti. Postačí dobre usporiadaná wiki.
Ako to funguje
- Vyberieme dokumenty a reálne otázky, na ktorých budeme kvalitu merať.
- Postavím prototyp na vzorke vašich dokumentov: hybridné vyhľadávanie, reranker, citácie.
- Zmeriame presnosť aj to, či AI odmietne odpovedať, keď odpoveď v dokumentoch nie je.
- Nasadím riešenie, napojím prístupové práva a nastavím priebežné meranie kvality.
Čo dostanete
Testovacia sada
Reálne otázky so správnymi odpoveďami, na ktorých sa meria každá zmena.
Vyhľadávanie s citáciami
Hybridné vyhľadávanie a reranker. Každá odpoveď odkazuje na pasáž v dokumente.
Odmietnutie bez odpovede
Ak odpoveď v dokumentoch nie je, AI to povie, namiesto toho aby si ju vymyslela.
Prístupové práva
Každý dostane odpovede len z dokumentov, ku ktorým má prístup.
Report s číslami
Presnosť pred a po, podiel odmietnutí a zoznam otázok, kde AI ešte zlyháva.
Z praxe
Na projekte Construction Graph RAG som na 128 testovacích otázkach zvýšil presnosť vyhľadávania (MRR) zo 76,1 na 96,5 %. 99,2 % odpovedí obsahuje presne očakávané fakty a 90 % otázok bez odpovede AI správne odmietne.
- Construction Graph RAG
99,2 % presných odpovedí na lokálnom modeli.
Čo sa vo firme zmení
Odpoveď, ktorú dnes niekto hľadá v zmluvách a manuáloch desiatky minút, dostane tím za pár sekúnd aj s odkazom na zdroj. Kolegovia, ktorí dnes odpovedajú na tie isté otázky, sa vrátia k svojej práci.
Technológie a bezpečnosť dát
Dokumenty môžu zostať na vašom serveri s lokálnym modelom, alebo pôjdu cez API v regióne EÚ s vypnutým ukladaním dát. Každá odpoveď cituje zdroj, takže sa dá overiť.
Cena
Prvá verzia nad menšou sadou dokumentov od 490 €. RAG pre firmu v prevádzke 3 600–5 400 €, 3–6 týždňov. Cenník
Časté otázky
Čo je RAG?
RAG (retrieval-augmented generation) je spôsob, ako AI odpovedá z vašich dokumentov: najprv vyhľadá relevantné pasáže a až z nich zostaví odpoveď s citáciou zdroja.
Je RAG lepší ako fine-tuning?
Na otázky nad firemnými dokumentmi áno. RAG odpovedá z aktuálnych dokumentov a cituje ich, fine-tuning mení správanie modelu, nie jeho znalosti. Fine-tuning dáva zmysel pri štýle alebo formáte odpovedí.
Funguje RAG aj so slovenskými dokumentmi?
Áno. Construction Graph RAG odpovedá na slovenské otázky z dokumentov v slovenčine aj angličtine a cituje presnú pasáž.
Koľko stojí AI projekt?
Súkromná AI nad dokumentmi začína od 490 €, AI audit stojí 540–1 080 €, automatizácia jedného procesu 800–2 400 € a RAG v prevádzke alebo prototyp agenta 3 600–5 400 €. Hodinová sadzba je 35–45 €, úvodný 30-minútový hovor je zadarmo.
Súvisiace
- Služby
- Lokálne LLM
AI na vašom serveri, dáta neopustia firmu.
- AI agenti
Agent pripraví návrh, človek ho schváli.
- RAG workshop
Workshop pre vývojárov: RAG s evaluáciou.