Сколько стоит AI-агент? Формула и калькулятор

Чтобы не уйти в минус, нужно сложить три компонента: вызов модели, вычислительные ресурсы и сеть. Базовая формула:

Где:

• C_tokens = (входные токены × цена входных + выходные × цена выходных) / 1 000 000
• C_infra = время выполнения (часы) × стоимость GPU/CPU в час
• C_network = объём переданных данных (GB) × цена CDN за GB

Пример: если агент обрабатывает 500 токенов на вход (0.0005M) и генерирует 200 токенов (0.0002M) на GPT-4o, стоимость токенов = (0.0005×2.50 + 0.0002×10.00) = $0.00325. При 10 000 запросов/день это $32.50/день только за модель.

На практике время GPU зависит от сложности промпта. Для простого чата — 0.5-1 с, для анализа документа — до 10 с. Используйте среднее по вашим логам. Цена GPU: A100 — $0.59/час, но можно взять L4 за $0.19/час для лёгких задач.

Допустим, агент читает документ (2000 токенов), делает ретривал (запрос к векторной БД) и генерирует ответ (500 токенов). Запрос занимает 3 секунды на GPU A100. Трафик: запрос 1 KB + ответ 10 KB = 11 KB.

1. Токены: вход 2000 (0.002M) × $2.50 = $0.005; выход 500 (0.0005M) × $10 = $0.005. Итого $0.01.
2. GPU: 3 с = 0.000833 часа × $0.59 = $0.000492.
3. CDN: 11 KB = 0.000011 GB × $0.01 = $0.00000011 (пренебрежимо).

Итого $0.0105 за вызов. При 1000 запросов/день = $10.50/день. Если продаёте подписку за $20/мес, нужно > 57 запросов на пользователя, чтобы окупиться. Полезно сравнить с Калькулятором стоимости CDN, чтобы не забыть про трафик.

Реальные затраты можно снизить в 2-3 раза. Основные приёмы:

• Кеш на уровне prompts: если 20% запросов повторяются, кеш в Redis даёт экономию токенов.
• Batch-обработка: объединение 10 запросов в один уменьшает накладные расходы GPU.
• Выбор модели: для простых задач используйте GPT-4o mini ($0.15/1M input) вместо full.

Важно: кеш не должен нарушать консистентность, если агент зависит от контекста времени. Для новостного агрегатора — можно, для юридического консультанта — осторожно.

1. Забывают про контекст: длинная история диалога (10K токенов) может стоить дороже ответа.
2. Бесплатный tier кончился: многие модели имеют лимит 1000 запросов/мес, затем — полная цена.
3. Не считают время инференса: 2 секунды на A100 — это $0.00033, но если 1 млн запросов — уже $330.
4. Игнорируют региональные цены: GPU в регионе centralus может быть на 20% дороже, чем eastus.

Чтобы проверить свои расчёты, используйте Калькулятор стоимости AI-агента — он учтёт все переменные.

Если счёт за AI вышел на 30% больше ожиданий, нужно профилировать. Сделайте логгер:

# Пример логирования стоимости на Python
import time, json

def log_cost(prompt, response, model_price):
    input_tokens = len(prompt.split()) * 1.3  # грубо
    output_tokens = len(response.split()) * 1.3
    cost = (input_tokens * model_price['input'] + output_tokens * model_price['output']) / 1e6
    return {'tokens_in': input_tokens, 'tokens_out': output_tokens, 'cost': cost}

# Использование
start = time.time()
resp = ai_agent.call(prompt)
elapsed = time.time() - start
cost_info = log_cost(prompt, resp, {'input': 2.50, 'output': 10.00})
print(json.dumps({**cost_info, 'time': elapsed}))

Анализируйте логи и ищите «тяжёлые» промпты. Часто проблема в неожиданно длинном history (например, 50K токенов). Ограничьте контекст последними 10 сообщениями.

Для старта удобен serverless (например, Modal, Replicate), но с ростом нагрузки дешевле арендовать GPU. Сравнение при 10 000 запросов/день с длительностью 2 с:

Разница в 3.6x. При 100 000 запросов/день экономия ещё значительнее. Но учтите: выделенный GPU требует управления и имеет downtime.

Если агент используется для сбора лидов, стоимость лида = cost-per-call × количество попыток до конверсии. Например, конверсия 5%, cost-per-call $0.01 → стоимость лида $0.20. Сравните с Калькулятором стоимости лида, чтобы понять маржу. Не забывайте накрутку в 30% на прибыль.