Большие задачи по самой низкой цене за токен.
Отправьте задачу одним файлом и укажите максимальную цену. GPU в Peryn Pool делают ставки, и задачу выполняет тот, чья ставка ниже всех.
Как выполняется пакет.
-
Один файл.
Один запрос на строку, в пакетном формате, который уже пишет ваш OpenAI SDK.
-
Ваша цена, ваш срок.
Укажите максимальную цену за токен и срок, к которому задача должна быть готова.
-
Выполняет самая низкая ставка.
GPU делают закрытые ставки. Ответы возвращаются одним файлом, вместе с файлом ошибок, если они были.
Цена определяется аукционом.
Вы никогда не платите больше своей цены, а обычно меньше: GPU соревнуются за вашу задачу.
- Укажите цену
- Опубликуйте задачу с максимальной ценой за токен и сроком.
- GPU делают ставки
- GPU в пуле делают закрытые ставки. Побеждает самая низкая подходящая ставка, она и выполняет задачу.
- Платите за выполненное
- Максимальная стоимость задачи резервируется из вашего баланса. Вы платите за выполненные токены по выигравшей цене.
Каждая пакетная задача ещё и майнит.
Каждая задача майнит $PEARL внутри вычислений и в паузах между шагами. GPU зарабатывают дважды на одних и тех же вычислениях, поэтому могут ставить ниже.
Тот же API, ещё один вызов.
{"custom_id": "q-1", "method": "POST", "url": "/ v1/ chat/ completions", "body": {"model": "llama-3.1-8b-instruct", "messages": [{"role": "user", "content": "Summarise this ticket: ..."}]}}curl https:// api. peryn. ai/ v1/ files -H "Authorization: Bearer $PERYN_ API_ KEY" -F purpose=batch -F file= @requests. jsonlcurl https:// api. peryn. ai/ v1/ batches -H "Authorization: Bearer $PERYN_ API_ KEY" -H "Content-Type: application/ json" \-d '{"input_ file_ id": "file-...", "endpoint": "/ v1/ chat/ completions", "completion_ window": "24h"}'Ваш файл и ответы хранятся в зашифрованном виде и удаляются через 7 дней после завершения пакета или сразу, как только вы их удалите. Они никогда не используются для обучения.
Есть GPU?
Делайте ставки на пакетные задачи с GPU, которые работают у вас в пуле.