Для GTE Base используйте Embeddings API.

О модели

GTE Base — модель текстовых эмбеддингов семейства GTE от Alibaba DAMO Academy на основе BERT для поиска информации, сравнения текстов по смыслу и переранжирования; работает только с английским языком.

Средняя из трёх моделей GTE: у gte-small вектор из 384 чисел, у gte-large — из 1024; по данным Alibaba DAMO Academy, средний счёт MTEB по 56 наборам растёт с 61,36 до 62,39 и 63,13.

Возвращает вектор из 768 чисел; на вход принимает до 512 токенов, более длинный текст обрезается.

Стоимость

Текущая стоимость использования этой модели:

Токены

Стоимость за 1 млн токенов

Входные токены

0,50₽

Характеристики

Параметр

Значение

Вход

Текст на английском языке

Выход

Эмбеддинг (вектор)

Размерность вектора

768

Максимальный вход

512 токенов, более длинный текст обрезается

Языки

Английский

Лицензия

MIT

Дата выхода

Август 2023

Сравнение с соседними моделями

Модель

Размерность вектора

Размер модели

Максимальный вход

MTEB, среднее по 56 наборам

gte-small

384

0,07 ГБ

512 токенов

61,36 балла

gte-base (эта модель)

768

0,22 ГБ

512 токенов

62,39 балла

gte-large

1024

0,67 ГБ

512 токенов

63,13 балла

Бенчмарки

Бенчмарк

Результат

Условия

MTEB, среднее по 56 наборам

62,39 балла

Английская таблица MTEB; остальные условия не раскрыты

API

Эндпоинт

http 
POST https://api.akashilab.ru/v1/embeddings
Эмбеддинг текста 
import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.akashilab.ru/v1",)response = client.embeddings.create(    model="gte-base",    input="Как вернуть товар?",)vector = response.data[0].embeddingprint(len(vector), vector[:5])

Параметры

Параметр

Тип

По умолчанию

Описание

model

string

обязательный

ID модели: gte-base.

input

string или array

обязательный

Текст или массив английских текстов; текст длиннее 512 токенов обрезается.

encoding_format

string

float

Формат вектора в ответе. Значения: float, base64.

Важно знать

  • Размерность вектора фиксирована — 768: изменить её нельзя.

  • Модель рассчитана только на английский язык.