Адаптивне управління контекстом у RAG-системах для персоналізованих AI-асистентів

Abstract

Метою кваліфікаційної роботи є розробка системи адаптивного управління контекстом, яка динамічно формує діалоговий контекст у RAG- архітектурі, забезпечуючи баланс між історією діалогу та зовнішніми знаннями з урахуванням персональних характеристик користувача. Об'єкт дослідження – процес управління діалоговим контекстом у RAG- системах для персоналізованих AI-асистентів. Предмет дослідження – методи та алгоритми адаптивного формування контексту з урахуванням історії діалогу, профілю користувача та специфіки предметної області. Розроблено архітектуру системи з чотирма компонентами та реалізовано алгоритм динамічного балансування. Програмна реалізація використовує FastAPI, PostgreSQL з pgvector, Redis та OpenAI API. Експериментальна оцінка на 100 діалогових сесіях показала покращення релевантності та coherence на 13%, економію токенів на 22%. Область застосування – розробка персоналізованих AI-асистентів, систем підтримки клієнтів та віртуальних консультантів на основі великих мовних моделей. The purpose of the qualification work is to develop an adaptive context management system that dynamically forms dialogue context in RAG architecture, ensuring a balance between dialogue history and external knowledge taking into account personal user characteristics. The object of research is the process of dialogue context management in RAG systems for personalized AI assistants. The subject of research is methods and algorithms for adaptive context formation taking into account dialogue history, user profile, and domain specifics. A system architecture with four components was developed and a dynamic balancing algorithm was implemented. The software implementation uses FastAPI, PostgreSQL with pgvector, Redis, and OpenAI API. Experimental evaluation on 100 dialogue sessions showed improvements in relevance and coherence by 13%, token savings of 22%. The field of application is the development of personalized AI assistants, customer support systems, and virtual consultants based on large language models.