Кейс разработки
ToProuter — LLM-роутер: доступ ко всем нейросетям по одной подписке за счёт оптовых токенов и ротации ключей
О проекте
ToProuter — фундаментальный слой AI-экосистемы 1SELLER: единая точка доступа клиентов сразу ко всем нейросетям (Claude, GPT и др.) по одной подписке. Себестоимость снижается за счёт оптовой закупки токенов и ротации ключей. На этом фундаменте работают остальные AI-продукты группы.
1. Задача
Клиенту дорого и неудобно держать несколько подписок на разные нейросети ($200+/мес суммарно). Нужен слой, который даёт «всё в одном месте за небольшие деньги»:
- Единый доступ ко множеству моделей через один интерфейс.
- Низкая себестоимость — закупка токенов оптом вместо розничных подписок.
- Отказоустойчивость — запросы не должны падать при исчерпании одного ключа.
- Основа для продуктов — через роутер ходят все внутренние AI-инструменты.
2. Архитектура решения
Роутер выступает прокси-слоем между продуктами и провайдерами моделей, управляя пулом ключей и экономикой токенов.
| Параметр | Значение |
|---|---|
| Роль | Фундаментальный слой: ToProuter → TopCode / Программа лояльности / прочие AI-продукты |
| Модели | Claude, GPT и другие — за единым доступом |
| Экономика | Оптовая закупка токенов (через AnyPay) |
| Отказоустойчивость | Ротация ключей по мере исчерпания |
3. Главная инженерная сложность
Суть продукта — в экономике и надёжности доступа: дать низкую цену за счёт опта и при этом не уронить запросы при выработке отдельных ключей.
- Оптовая экономика токенов — закупка крупными объёмами снижает стоимость в разы относительно розничных подписок.
- Ротация ключей — при исчерпании одного ключа запросы автоматически переключаются на следующий.
- Единый API для встраивания во все продукты группы (например, авто-ответы в Программе лояльности).
Статус
Основной долгосрочный продукт компании, в активной разработке. Готовится выдержать нагрузку участников интенсива Яндекс KIT.
4. Эффект для бизнеса
- Дешёвый AI для клиента — все модели по одной подписке вместо нескольких дорогих.
- Маржинальность — разница между оптовой себестоимостью токенов и розничной ценой.
- Единая основа — все AI-инструменты группы работают через один слой.
5. Технологический стек — кратко
| Параметр | Значение |
|---|---|
| Тип | LLM-роутер (прокси-слой) |
| Модели | Claude, GPT и др. |
| Экономика | Оптовые токены (AnyPay) + ротация ключей |
| Интеграция | Единый API для продуктов группы |
Кейс подготовлен на основе концепции и архитектуры продукта ToProuter, разрабатываемого группой 1SELLER. Описывается инженерное решение.