removeShortWords

Удалите короткие слова из документов или модели мешка слов

Описание

пример

newDocuments = removeShortWords(documents,len) удаляет слова длины len или меньше от documents.

пример

newBag = removeShortWords(bag,len) удаляет слова длины len или меньше от bagOfWords bag объекта.

Примеры

свернуть все

Удалите слова с двумя или меньшим количеством символов из документа.

document = tokenizedDocument("An example of a short sentence");
newDocument = removeShortWords(document,2)
newDocument = 
  tokenizedDocument:

   3 tokens: example short sentence

Удалите слова с двумя или меньшим количеством символов из модели мешка слов.

documents = tokenizedDocument([ ...
    "an example of a short sentence"
    "a second short sentence"]);
bag = bagOfWords(documents);
newBag = removeShortWords(bag,2)
newBag = 
  bagOfWords with properties:

          Counts: [2x4 double]
      Vocabulary: ["example"    "short"    "sentence"    "second"]
        NumWords: 4
    NumDocuments: 2

Входные параметры

свернуть все

Входные документы, заданные как tokenizedDocument массив.

Вход пакета слов, заданная как bagOfWords объект.

Максимальная длина слов для удаления, заданная как положительное целое число. Функция удаляет слова с len или меньше символов.

Выходные аргументы

свернуть все

Выходные документы, возвращенные как tokenizedDocument массив.

Выходная модель мешка слов, возвращенная как bagOfWords объект.

Введенный в R2017b