Информация
Новая версия модуля с поддержкой GPT5. Внимание! После установки обновлений увеличьте в настройках максимальное количество токенов минимум до 3000 и сохраните изменения.
- В 2 раза дешевле API - средняя стоимость 1 генерации 0.03$, возможность управления бюджетом
- Более управляемая модель, прислушивается ко всем командам и задачам, не игнорируются команды
- Возможность указать источники (сайты) для поиска информации в интернете
- Возможность указания количества источников для поиска
- Более умная модель, которая умеет сопоставлять информацию из нескольких источников
- Строгое соблюдение заданной HTML разметки
- Возможность генерации большого количества характеристик в одном запросе
- Более гибкие настройки, которые позволяют задавать сколько думать нейросети, насколько развернуто составлять текст, а также насколько глубоко искать данные
- Улучшенная обработка характеристик, в том числе определение числовых или строковых свойств
- Добавлена поддержка сохранения рыночной цены в свойстве и / или торговом каталоге (при включении поиска цены активируется предыдущая модель gpt4-search-preview в связи с тем, что новая модель при поиске подобных данных потребляет большое количество поисковых запросов, что сильно увеличивает затраты). Бюджет на использование API в новой версии складывается из множества факторов:
- Фиксированная стоимость за поиск данных - 0,01$ за поисковый запрос (при этом в рамках одного запроса к нейросети может быть несколько поисковых запросов, например, при указании нескольких источников, на которых нужно собрать и сопоставить информацию).
- Объем текста в исходящем запросе - чем больше инструкций и указаний, тем больше затрачиваемых токенов (стоимость исходящих токенов 1,25$ за 1 миллион)
- В исходящий запрос также добавляется весь текст, который найден в различных источниках в интернете, соответственно, чем больше источников вы просите обработать нейросеть, тем больше затрачиваемых токенов
- Повторные запросы с одним и тем же промтом кэшируются, стоимость кэшированных токенов в 10 раз меньше
- Во входящий текст также добавляются “рассуждения” нейросети, которые позволяют логично обработать найденные данные, сопоставить между собой и выдать результат. Увеличение времени такого рассуждения, а также размер найденных данных напрямую увеличивает входящие токены (стоимость входящих токенов 10$ за 1 миллион) Формирование цены токенов в новой модели GPT5 кардинально отличается от предыдущих моделей и имеет более гибкий формат, поэтому меняйте базовые настройки модуля по необходимости и под конкретную задачу. Приведем пример формирования бюджета на генерацию описания и характеристик товара.
Кейс 1: - Просим использовать не менее 6 различных источников для поиска, указываем конкретные ссылки для получения максимально точных и желаемых параметров - Просим найти не менее 20 характеристик товара по максимуму - Для выполнения данного запроса нейросети придется выполнить несколько поисковых запросов (каждый по цене 0,01$) Общая сумма затраченных токенов 50 000 Затрачено: 0,1$ на 1 товар
Кейс 2: - Задача сэкономить бюджет, но при этом получить достоверные сведения - Убираем требование для поиска 6 источников - Добавляем требование поиска данных на конкретном сайте производителя или любом другом сайте - Просим найти только конкретные характеристики товара (10 штук в списке) Общая сумма затраченных токенов 17 000 Затрачено на первый товар: 0,04$ Однотипные запросы кэшируются от 5-10 минут до 1 часа, значит чтобы сэкономить бюджет (порядка 20%) в течение этого времени надо обработать как можно больше товаров. У нас в запросах меняются только названия товаров в рамках одного раздела каталога, поэтому большая часть исходящего запроса будет кэшироваться. Затраты на последующие запросы с учетом кэша: 0,03$ Таким образом, чтобы минимизировать затраты на API необходимо ограничить поиск конкретным сайтом, а также указать искомые характеристики товара.
Скрытое содержимое для пользователя(ей):
iTnull
