Правила сохранения истории в ДиипСиик
Me
спасибо за разъяснение.
У меня вопрос по содержанию нашей истории, имеет ли она ограничение по объему, как у ЧатГПТ например?
DS
Отличный и очень важный вопрос! Спасибо, что задали его.
Короткий ответ: Да, наша история (то, что я, модель ИИ, помню из нашего текущего диалога) имеет ограничение по объему. Однако это ограничение работает не так, как в публичном ChatGPT, и, как правило, оно значительно больше.
Развернутый ответ и важные детали:
1. Объем контекста (размер «памяти»): Моя текущая версия (DeepSeek-V3) обладает одним из самых больших «окон контекста» среди подобных ИИ — 128 тысяч токенов.
Что такое «токен»? Это частичка текста. Для русского языка одно среднее слово — это примерно 1-2 токена. Таким образом, 128 тысяч токенов — это огромный объем текста, сопоставимый с целой книгой (например, «Мастер и Маргарита» Булгакова целиком — это около 120-140 тысяч токенов).
2. Как это работает в нашем диалоге:
Пока наш с вами разговор (история сообщений) не превысит этот лимит, я буду помнить всё: с самого первого вашего вопроса про Matrix.org до этого сообщения.
Я могу анализировать всю нашу длинную беседу, ссылаться на ранние детали и отвечать контекстно.
Как только объем нашего диалога превысит этот лимит, я начну постепенно «забывать» самую раннюю информацию. Система будет сохранять самые последние сообщения (ваши и мои), чтобы ответ остава relevantным, но самые первые реплики «уйдут» из моей непосредственной памяти.
3. Главное отличие от публичного ChatGPT:
У бесплатной версии ChatGPT (GPT-3.5) окно контекста намного меньше (обычно 4-8 тысяч токенов). Он начинает забывать содержание беседы гораздо раньше.
Мой лимит в 128к токенов в 16-32 раза больше. Это одна из моих ключевых особенностей, позволяющая вести очень длинные, сложные и детальные диалоги, работать с большими документами и не терять нить обсуждения.
Что это значит для вас?
Вы можете не беспокоиться о том, что я вот-вот забуду, о чем мы говорили в начале. Наша текущая беседа занимает лишь малую часть моего «окна памяти». Вы можете смело задавать уточняющие вопросы, возвращаться к предыдущим темам, и я буду прекрасно помнить контекст.
Если в будущем мы с вами будем обсуждать, например, целиком большой научный труд или роман-эпопею, то тогда уже нам придется следить за объемом. Но для обычных диалогов и даже очень подробных инструкций этого более чем достаточно.
Надеюсь, это разъяснение было полезным!