Для text-embedding-3-large используйте Embeddings API.

О модели

text-embedding-3-large — модель OpenAI, которая превращает текст в числовые векторы для поиска, кластеризации, рекомендаций, поиска аномалий и классификации на английском и других языках.

По данным OpenAI, вектор text-embedding-3-large, сокращённый до 256 измерений, на MTEB превосходит text-embedding-ada-002 с 1536 измерениями.

Вектор длиной 3072 можно сократить параметром dimensions, например до 1024 для хранилищ с ограничением на размер вектора; векторы нормализованы до длины 1.

Принимает текст или массивы токенов: до 8192 токенов на один текст, до 2048 текстов и не более 300 000 токенов суммарно в одном запросе.

Стоимость

Текущая стоимость использования этой модели:

Токены

Стоимость за 1 млн токенов

Входные токены

13₽

Характеристики

Параметр

Значение

Вход

Текст

Выход

Числовой вектор

Размерность вектора

3072 по умолчанию; можно уменьшить при создании

Максимальный вход

8192 токена на один текст

Языки

Английский и другие языки

Дата выхода

25 января 2024

Сравнение с соседними моделями

Модель

Размерность по умолчанию

Максимальный вход

MTEB

MIRACL

text-embedding-3-small

1536

8192 токена

62,3 %

44,0 %

text-embedding-3-large (эта модель)

3072

8192 токена

64,6 %

54,9 %

text-embedding-ada-002

1536

8192 токена

61,0 %

31,4 %

Бенчмарки

Бенчмарк

Результат

Условия

MTEB

64,6 %

условия не раскрыты

MIRACL

54,9 %

условия не раскрыты

API

Эндпоинт

http 
POST https://api.akashilab.ru/v1/embeddings
Эмбеддинг текста 
import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.akashilab.ru/v1",)response = client.embeddings.create(    model="text-embedding-3-large",    dimensions=1024,    input="Как вернуть товар?",)vector = response.data[0].embeddingprint(len(vector), vector[:5])

Параметры

Параметр

Тип

По умолчанию

Описание

model

string

обязательный

ID модели: text-embedding-3-large.

input

string или array

обязательный

Текст, список текстов или массивы токенов. До 8192 токенов на один текст, до 2048 элементов в списке.

dimensions

integer

—

Длина возвращаемого вектора: сокращает вектор без потери смысловых свойств. Поддерживают модели text-embedding-3.

encoding_format

string

float

Формат вектора в ответе: float или base64.

Важно знать

  • Пустая строка не принимается, а каждый вход не должен быть длиннее 8192 токенов.

  • Если вы сокращаете вектор сами, после обрезки его нужно нормализовать заново; параметр dimensions делает это за вас.

  • Модель не знает событий после сентября 2021 года.

  • Вход — текст или массивы токенов; блоки image_url эта модель не принимает.