Встроить мини-пакет категориальных функций.

Создание массива категориальных элементов, содержащих 5 наблюдений со значениями "Male" или "Female".

X = categorical(["Male" "Female" "Male" "Female" "Female"])';

Инициализируйте веса встраивания. Укажите измерение внедрения 10 и словарь, соответствующий количеству категорий входных данных плюс один.

embeddingDimension = 10;
vocabularySize = numel(categories(X));
weights = rand(embeddingDimension,vocabularySize+1);

Чтобы встроить категориальные данные, сначала преобразуйте их в мини-пакет числовых индексов.

X = double(X)

X = 5×1

     2
     1
     2
     1
     1

Для форматированных dlarray ввод, функция встраивания расширяется в одиночный 'C' (канал) размер с размером 1. Создание форматированного dlarray объект, содержащий данные. Чтобы указать, что строки соответствуют наблюдениям, укажите формат 'BC' (партия, канал).

dlX = dlarray(X,'BC')

dlX = 
  1(C) x 5(B) dlarray

     2     1     2     1     1

Встраивайте числовые индексы с помощью embed функция. Функция встраивания расширяется в 'C' размерность.

dlY = embed(dlX,weights)

dlY = 
  10(C) x 5(B) dlarray

    0.1576    0.8147    0.1576    0.8147    0.8147
    0.9706    0.9058    0.9706    0.9058    0.9058
    0.9572    0.1270    0.9572    0.1270    0.1270
    0.4854    0.9134    0.4854    0.9134    0.9134
    0.8003    0.6324    0.8003    0.6324    0.6324
    0.1419    0.0975    0.1419    0.0975    0.0975
    0.4218    0.2785    0.4218    0.2785    0.2785
    0.9157    0.5469    0.9157    0.5469    0.5469
    0.7922    0.9575    0.7922    0.9575    0.9575
    0.9595    0.9649    0.9595    0.9649    0.9649

В этом случае выводом является embeddingDimensionоколо-N матрица с форматом 'CB' (канал, партия), где N - количество наблюдений. Каждый столбец содержит векторы внедрения.

Внедрение мини-пакета текстовых данных.

textData = [
    "Items are occasionally getting stuck in the scanner spools."
    "Loud rattling and banging sounds are coming from assembler pistons."];

Создание массива маркированных документов.

documents = tokenizedDocument(textData);

Чтобы кодировать текстовые данные как последовательности числовых индексов, создайте wordEncoding объект.

enc = wordEncoding(documents);

Инициализируйте веса встраивания. Укажите размер встраивания 100 и размер словаря, чтобы он соответствовал размеру словаря, соответствующему количеству слов в кодировке слова плюс один.

embeddingDimension = 100;
vocabularySize = enc.NumWords;
weights = rand(embeddingDimension,vocabularySize+1);

Преобразование маркированных документов в последовательности векторов слов с помощью doc2sequence функция. doc2sequence функция по умолчанию отбрасывает устаревшие маркеры во входных данных. Чтобы отобразить несловарные маркеры на последний вектор встраивания весов, установите 'UnknownWord' опция для 'nan'. doc2sequence функция, по умолчанию, размещает слева входные последовательности с нулями, чтобы они имели одинаковую длину

sequences = doc2sequence(enc,documents,'UnknownWord','nan')

sequences=2×1 cell array
    {[         0 1 2 3 4 5 6 7 8 9 10]}
    {[11 12 13 14 15 2 16 17 18 19 10]}

Выходной сигнал представляет собой массив ячеек, где каждый элемент соответствует наблюдению. Каждый элемент является вектором строки с элементами, представляющими отдельные маркеры в соответствующем наблюдении, включая значения заполнения.

Преобразование массива ячеек в числовой массив путем вертикального объединения строк.

X = cat(1,sequences{:})

X = 2×11

     0     1     2     3     4     5     6     7     8     9    10
    11    12    13    14    15     2    16    17    18    19    10

Преобразование числовых индексов в dlarray. Потому что строки и столбцы X соответствуют наблюдениям и временным шагам соответственно, укажите формат 'BT'.

dlX = dlarray(X,'BT')

dlX = 
  2(B) x 11(T) dlarray

     0     1     2     3     4     5     6     7     8     9    10
    11    12    13    14    15     2    16    17    18    19    10

Встраивайте числовые индексы с помощью embed функция. embed функция сопоставляет маркеры заполнения (маркеры с индексом 0) и любые другие маркеры вне словаря с тем же самым вектором внесловарного встраивания.

dlY = embed(dlX,weights);

В этом случае выводом является embeddingDimensionоколо-Nоколо-S матрица с форматом 'CBT', где N и S - количество наблюдений и временных шагов соответственно. Вектор dlY(:,n,t) соответствует вектору внедрения временного шага t наблюдения n.