Én nagyjából értem szerintem, hogy működik egy LLM, csak azt nem értem még, hogy mint szeretnél mondani. :)
Pont azt írtam, hogy egy ilyen history-aware beszélgetésben "teljesen kizárt, hogy az összes [korábbi] beszélgetést behúzza". A Grok pl. ezt mondja magáról:
Chatbots like ChatGPT and Grok use a "memory" feature for referencing past conversations across different sessions, storing key details (e.g., preferences, facts) from previous chats in a separate, searchable store.openai.com+3 more This info is retrieved and injected into prompts for relevance, often via RAG-like techniques (vector database search).embracethered.comreddit.com Users can control what’s remembered or forgotten.descript.comcnet.com It's not the base model's inherent memory but an added layer for personalization. (src)