Лимиты и SpellBook Pro: объясняю простыми словами
Привет. Это Кирилл Гайчуков, основатель и технический директор SpellBook. Пишу этот пост сам, без пресс-релизов и обтекаемых формулировок, потому что тема важная и я хочу объяснить всё честно и по-человечески.
Недавно у нас появился SpellBook Pro, наша умная модель. Вместе с ним мы ввели лимиты на использование. Ниже разберу простыми словами: что это, зачем и как устроено. Обещаю, без воды.
Что такое SpellBook Pro и при чём тут лимиты
SpellBook Pro это заметно более умная модель, чем то, что было раньше. Она лучше рассуждает, аккуратнее работает с длинным контекстом, точнее держит вашу задачу. Разница чувствуется на сложных запросах, на больших документах, на аналитике.
За эту силу приходится платить ресурсами. Умная модель тратит на каждый ответ в разы больше вычислений. Когда таких запросов много и они идут одновременно, нагрузка растёт нелинейно. Если этим не управлять, страдают все: ответы замедляются, качество проседает в часы пик.
Зачем нужны лимиты
Аудитория выросла сильно. Чтобы умная модель одинаково быстро и качественно работала для всех, а не только для тех, кто успел нажать первым, мы сглаживаем самые резкие всплески нагрузки. Это и есть лимиты.
Важно понять одно. Это не урезание того, за что вы платите. Это способ держать качество. Обычный рабочий ритм лимиты почти не задевают. Они срабатывают только на экстремальных объёмах, чтобы один тяжёлый сценарий не тормозил сервис для сотен других людей. По-честному для всех.
Как это работает
Лимит это не счётчик сообщений. Мы не считаем «пять сообщений в час». Считается объём работы, которую модель проделала для вас. Короткий вопрос весит мало. Длинный чат с кучей документов, веб-поиском и большими ответами весит много. Это честно: тяжёлая работа расходует запас быстрее, лёгкая почти его не трогает.
Запас у вас в двух окнах, которые работают вместе.
| Окно | Что это | Когда обновляется |
|---|---|---|
| Сессия | Небольшой запас на короткий промежуток в несколько часов. Сглаживает всплески, когда вы активно работаете подряд. | Само, через несколько часов после начала |
| Неделя | Основной, заметно больший запас на неделю. Именно он определяет ваш общий объём. | Раз в неделю, от вашего первого сообщения в цикле |
Оба окна привязаны к вам лично. Отсчёт идёт не от какого-то общего понедельника, а от вашего первого сообщения. Сессия отпускает сама через несколько часов, недельный запас обновляется через неделю. Если вы активно работаете, недельного запаса хватает с большим отрывом, а короткая пауза в сессии решается сама собой.
На каких тарифах и сколько
Чем выше тариф, тем больше запас в обоих окнах. Логика простая: тарифы для более плотной работы дают больше.
| Тариф | Запас лимитов | Кому подходит |
|---|---|---|
| Pro | Базовый запас умной модели | Регулярная личная работа, большинству хватает с запасом |
| Premium | Заметно больше, чем на Pro | Плотная ежедневная работа, большие проекты |
| Partner | Максимальный запас | Самые активные, кто работает в SpellBook постоянно и помногу |
Бесплатный доступ и гости работают на обычной модели и по своим правилам. Умная модель и её лимиты это про платные тарифы.
Как почти никогда не упираться в лимиты
Тут есть нюанс, который реально помогает, и он же улучшает качество ответов. Расскажу как технарь.
Когда чат становится очень длинным, при каждом новом сообщении модель заново перечитывает всю его историю. Это медленнее и расходует запас быстрее. Плюс на очень длинном контексте модель хуже удерживает детали из середины, то есть переполненный чат даёт не больше пользы, а менее точные ответы.
Что делать:
- Под каждую новую тему или проект заводите отдельный чат. Так каждый запрос лёгкий и быстрый.
- Постоянные материалы и методички держите в базе знаний. Она подтягивает нужное в любой чат и не раздувает переписку.
- Не сваливайте всё в один бесконечный чат. Это главная причина, по которой люди упираются в лимиты и получают ответы хуже, чем могли бы.
Сделаете так, и в обычном ритме про лимиты можно почти забыть.
Всё видно, ничего не спрятано
Ваш расход всегда перед глазами. В приложении и на сайте есть индикатор использования: он показывает, сколько запаса осталось в сессии и на неделе. Никаких сюрпризов. Если сессия подошла к концу, она восстановится сама через несколько часов, а недельный запас обновится в свой срок.
Мы сделали лимиты так, чтобы умная модель оставалась быстрой и качественной для всех и работала честно. Если после этого поста остались вопросы, пишите в поддержку. Разберёмся по вашему конкретному случаю.
Кирилл Гайчуков
Основатель и технический директор SpellBook
