Для text-embedding-3-small используйте Embeddings API.

О модели

text-embedding-3-small — модель OpenAI, которая превращает текст в числовые векторы для поиска, кластеризации, рекомендаций, поиска аномалий и классификации. OpenAI называет её улучшенной версией text-embedding-ada-002.

По данным OpenAI, на MTEB набирает 62,3 % против 61,0 % у text-embedding-ada-002, а на MIRACL — 44,0 % против 31,4 %.

Вектор длиной 1536 можно сократить параметром dimensions; векторы нормализованы до длины 1, поэтому косинусное сходство и скалярное произведение дают одинаковое ранжирование.

Принимает текст или массивы токенов: до 8192 токенов на один текст, до 2048 текстов и не более 300 000 токенов суммарно в одном запросе.

Стоимость

Текущая стоимость использования этой модели:

Токены

Стоимость за 1 млн токенов

Входные токены

2₽

Характеристики

Параметр

Значение

Вход

Текст

Выход

Числовой вектор

Размерность вектора

1536 по умолчанию; можно уменьшить при создании

Максимальный вход

8192 токена на один текст

Дата выхода

25 января 2024

Сравнение с соседними моделями

Модель

Размерность по умолчанию

Максимальный вход

MTEB

MIRACL

text-embedding-3-small (эта модель)

1536

8192 токена

62,3 %

44,0 %

text-embedding-3-large

3072

8192 токена

64,6 %

54,9 %

text-embedding-ada-002

1536

8192 токена

61,0 %

31,4 %

Бенчмарки

Бенчмарк

Результат

Условия

MTEB

62,3 %

условия не раскрыты

MIRACL

44 %

условия не раскрыты

API

Эндпоинт

http 
POST https://api.akashilab.ru/v1/embeddings
Эмбеддинг текста 
import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.akashilab.ru/v1",)response = client.embeddings.create(    model="text-embedding-3-small",    input="Как вернуть товар?",)vector = response.data[0].embeddingprint(len(vector), vector[:5])

Параметры

Параметр

Тип

По умолчанию

Описание

model

string

обязательный

ID модели: text-embedding-3-small.

input

string или array

обязательный

Текст, список текстов или массивы токенов. До 8192 токенов на один текст, до 2048 элементов в списке.

dimensions

integer

—

Длина возвращаемого вектора: сокращает вектор без потери смысловых свойств. Поддерживают модели text-embedding-3.

encoding_format

string

float

Формат вектора в ответе: float или base64.

Важно знать

  • Пустая строка не принимается, а каждый вход не должен быть длиннее 8192 токенов.

  • Если вы сокращаете вектор сами, после обрезки его нужно нормализовать заново; параметр dimensions делает это за вас.

  • Модель не знает событий после сентября 2021 года.

  • Вход — текст или массивы токенов; блоки image_url эта модель не принимает.