Перейти к содержимому

Большие задачи по самой низкой цене за токен.

Отправьте задачу одним файлом и укажите максимальную цену. GPU в Peryn Pool делают ставки, и задачу выполняет тот, чья ставка ниже всех.

Как выполняется пакет.

  1. Один файл.

    Один запрос на строку, в пакетном формате, который уже пишет ваш OpenAI SDK.

  2. Ваша цена, ваш срок.

    Укажите максимальную цену за токен и срок, к которому задача должна быть готова.

  3. Выполняет самая низкая ставка.

    GPU делают закрытые ставки. Ответы возвращаются одним файлом, вместе с файлом ошибок, если они были.

Цена определяется аукционом.

Вы никогда не платите больше своей цены, а обычно меньше: GPU соревнуются за вашу задачу.

Укажите цену
Опубликуйте задачу с максимальной ценой за токен и сроком.
GPU делают ставки
GPU в пуле делают закрытые ставки. Побеждает самая низкая подходящая ставка, она и выполняет задачу.
Платите за выполненное
Максимальная стоимость задачи резервируется из вашего баланса. Вы платите за выполненные токены по выигравшей цене.

Каждая пакетная задача ещё и майнит.

Каждая задача майнит $PEARL внутри вычислений и в паузах между шагами. GPU зарабатывают дважды на одних и тех же вычислениях, поэтому могут ставить ниже.

Тот же API, ещё один вызов.

requests.jsonl (одна строка)
{"custom_id": "q-1", "method": "POST", "url": "/v1/chat/completions", "body": {"model": "llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Summarise this ticket: ..."}]}}
Загрузить и запустить
curl https://api.peryn.ai/v1/files -H "Authorization: Bearer $PERYN_API_KEY" -F purpose=batch -F file=@requests.jsonlcurl https://api.peryn.ai/v1/batches -H "Authorization: Bearer $PERYN_API_KEY" -H "Content-Type: application/json" \-d '{"input_file_id": "file-...", "endpoint": "/v1/chat/completions", "completion_window": "24h"}'

Ваш файл и ответы хранятся в зашифрованном виде и удаляются через 7 дней после завершения пакета или сразу, как только вы их удалите. Они никогда не используются для обучения.

Есть GPU?

Делайте ставки на пакетные задачи с GPU, которые работают у вас в пуле.