Запуск с Ground Truth Labeler

Приложение Ground Truth Labeler обеспечивает простой способ отметить прямоугольные метки видимой области (ROI), метки ROI ломаной линии, пиксельные метки ROI и метки сцены в видео или последовательности изображений. Этот пример получает вас, начал использовать приложение путем показа вам как к:

  • Метка Manually фрейм изображения от видео.

  • Метка Automatically через фреймы изображения с помощью алгоритма автоматизации.

  • Экспортируйте маркированные наземные данные об истине.

Загрузите немаркированные данные

Откройте приложение и загрузите видео управления автомобилей на магистрали. Видео должны быть в формате файла, читаемом VideoReader.

groundTruthLabeler('visiontraffic.avi')

Также откройте приложение от вкладки Apps под Automotive. Затем из меню Load загрузите источник видеоданных.

Исследуйте видео. Кликните по кнопке воспроизведения, чтобы проигрывать целое видео или использовать ползунок, чтобы перейти между кадрами.

Приложение также позволяет вам загрузить последовательности изображений, с соответствующими метками времени, путем выбора Load> Image Sequence. Изображения должны быть читаемыми imread.

Чтобы загрузить пользовательский источник данных, который читаем VideoReader или imread, смотрите Использование Пользовательский Читатель Источника данных для Разметки достоверных данных (Computer Vision Toolbox).

Установите временной интервал маркировать

Можно маркировать целое видео или запуститься с фрагмента видео. В этом примере вы маркируете интервал с пятью вторым разом в загруженном видео. В текстовых полях ниже видео введите эти времена в секундах:

  1. В поле Start Time введите 5.

  2. В поле Current Time введите 5 так, чтобы ползунок был в начале временного интервала.

  3. В поле End Time введите 10.

Опционально, чтобы внести изменения во временной интервал, перетащите красные флаги интервала.

Целое приложение теперь настраивается, чтобы фокусироваться на этом определенном временном интервале. Видео вопроизводит только в этом интервале, и алгоритмы маркировки и автоматизации применяются только к этому интервалу. Можно изменить интервал в любое время путем перемещения флагов.

Чтобы расширить временной интервал, чтобы заполнить целый раздел воспроизведения, нажмите Zoom in Time Interval.

Создайте определения метки

Задайте метки, вы намереваетесь привлечь кадры видео. В этом примере вы задаете метки непосредственно в рамках приложения. Чтобы задать метки из командной строки MATLAB® вместо этого, используйте labelDefinitionCreator.

Создайте метки ROI

ROI label является меткой, которая соответствует видимой области (ROI). Можно задать эти типы меток ROI.

Метка ROIОписаниеПример: управление сценой
RectangleЧертите прямоугольные (ограничительные рамки) меток ROI вокруг объектов.

Автомобили, пешеходы, дорожные знаки

LineЧертите линейные метки ROI, чтобы представлять строки. Чтобы чертить ROI ломаной линии, используйте две или больше точки.

Контуры маршрута, ограждения, дорожные ограничения

Pixel labelПрисвойте метки пикселям для семантической сегментации. Смотрите Маркируют Pixels for Semantic Segmentation (Computer Vision Toolbox).

Автомобили, дорожное покрытие, деревья, тротуар

В этом примере вы задаете группу vehicle для маркировки типов автомобилей, и затем создаете метку Rectangle ROI для Car и Truck.

  1. В панели ROI Label Definition слева, нажмите Label.

  2. Создайте метку Rectangle под названием Car.

  3. Из выпадающего меню Group выберите New Group ... и назовите группу Vehicle

  4. Нажмите OK.

    Название группы Vehicle появляется в панели ROI Label Definition с созданной меткой Car. Можно переместить метки в различное положение или группу путем щелчка левой кнопкой и перетаскивания метки.

  5. Добавьте вторую метку. Нажмите Label. Назовите метку Truck и убедитесь, что группа Vehicle выбрана. Нажмите OK.

  6. В первом кадре видео во временном интервале используйте мышь, чтобы чертить прямоугольных КОРОЛЕЙ Car вокруг этих двух автомобилей.

Создайте подметки

sublabel является типом метки ROI, которая соответствует родительской метке ROI. Каждая подметка должна принадлежать или быть дочерним элементом, определенная метка, заданная в панели ROI Label Definition. Например, в ведущей сцене, метка автомобиля может иметь подметки для фар, номерных знаков или колес.

Задайте подметку для фар.

  1. В панели ROI Label Definition слева, кликните по метке Car.

  2. Нажмите Sublabel.

  3. Создайте подметку Rectangle под названием headlight и опционально запишите описание. Нажмите OK.

    Подметка headlight появляется в панели ROI Label Definition. Подметка вкладывается под выбранной маркой ROI, Car, и имеет тот же цвет как своя родительская метка.

    Можно добавить несколько подметок под маркой. Можно также перетащить подметки, чтобы переупорядочить их в списке. Щелкните правой кнопкой по любой метке для дополнительных редактирований.

  4. В панели ROI Label Definition выберите подметку headlight.

  5. В кадре видео выберите метку Car. Метка становится желтой, когда выбрано. Необходимо выбрать метку Car (родительский ROI), прежде чем можно будет добавить подметку в него.

    Чертите подметки headlight для каждого из автомобилей.

  6. Повторите предыдущие шаги, чтобы маркировать фары другого автомобиля. Чтобы чертить метки более точно, используйте Pan, Zoom In и опции Zoom Out, доступные от панели инструментов.

Подметки могут только использоваться с прямоугольным или метками ROI ломаной линии и не могут иметь своих собственных подметок. Для получения дополнительной информации при работе с подметками, смотрите Подметки Использования и Атрибуты, чтобы Маркировать Ground Truth Data (Computer Vision Toolbox).

Создайте атрибуты

attribute обеспечивает дальнейшую классификацию метки ROI или подметки. Атрибуты указывают дополнительную информацию о drawable метке. Например, в ведущей сцене, атрибуты могут включать тип или цвет автомобиля.

Можно задать эти типы атрибутов.

Припишите типДемонстрационное определение атрибутаДемонстрационные значения по умолчанию

Numeric Value

String

Logical

List

Добавьте атрибут для типа автомобиля.

  1. В панели ROI Label Definition слева, выберите метку Car и нажмите Attribute.

  2. В поле Attribute Name введите carType. Установите тип атрибута на List.

  3. В разделе List Items введите различные типы автомобилей, такие как Sedan, Hatchback, и Wagon, каждый на его собственной строке. Опционально дайте атрибуту описание и нажмите OK.

  4. В первом кадре видео выберите метку Car ROI. В панели Attributes and Sublabels выберите соответствующее значение атрибута carType для того автомобиля.

  5. Повторите предыдущий шаг, чтобы присвоить атрибут carType другому автомобилю.

Можно также добавить атрибуты в подметки. Добавьте атрибут для подметки headlight, которая говорит, ли включена фара.

  1. В панели ROI Label Definition слева, выберите подметку headlight и нажмите Attribute.

  2. В поле Attribute Name введите isOn. Установите тип атрибута на Logical. Оставьте набор Default Value Empty, опционально запишите описание и нажмите OK.

  3. Выберите фару в кадре видео. Установите соответствующее значение атрибута isOn или оставьте набор значения атрибута Empty.

  4. Повторите предыдущий шаг, чтобы установить атрибут isOn для других фар.

Чтобы удалить атрибут, щелкните правой кнопкой по метке ROI или подметке, и выберите атрибут, чтобы удалить. Удаление атрибута удаляет информацию атрибута из всех ранее созданных аннотаций метки ROI.

Создайте метки сцены

scene label задает дополнительную информацию для целой сцены. Используйте метки сцены, чтобы описать условия, такие как подсветка и погода, или события, такие как маршрут изменяется.

Создайте метку сцены, чтобы использовать в видео.

  1. В панели Scene Label Definition слева, нажмите кнопку Define new scene label и создайте метку сцены, названную sunny. Убедитесь, что Group установлен в None. Нажмите OK.

    Панель Scene Label Definition показывает определение метки сцены. Метки сцены, которые применяются к текущему кадру, появляются в панели Scene Labels справа. Метка сцены sunny пустой (белый), потому что метка сцены еще не была применена к кадру.

  2. Целая сцена является солнечной, поэтому задайте, чтобы применить метку сцены sunny по целому временному интервалу. С определением метки сцены sunny, все еще выбранным в панели Scene Label Definition, выберите Time Interval.

  3. Нажмите Add Label.

Метка sunny теперь применяется ко всем кадрам во временном интервале.

Маркируйте Ground Truth

До сих пор вы маркировали только один кадр в видео. Чтобы маркировать остающиеся кадры, выберите одну из этих опций.

Маркируйте Ground Truth Manually

Когда вы кликаете по клавише со стрелкой вправо, чтобы перейти к следующему кадру, метки ROI от предыдущего кадра не переносят. Только метка сцены sunny применяется к каждому кадру, потому что эта метка была применена по целому временному интервалу.

Усовершенствуйте кадр кадром и чертите метку и подметку ROI вручную. Также обновите информацию атрибута для этих КОРОЛЕЙ.

Маркируйте Ground Truth Using Automation Algorithm

Чтобы ускорить процесс маркировки, можно использовать алгоритм автоматизации в рамках приложения. Можно или задать собственный алгоритм автоматизации, видеть, Создают Алгоритм Автоматизации для Маркировки (Computer Vision Toolbox) и Temporal Automation Algorithms (Computer Vision Toolbox), или используют встроенный алгоритм автоматизации. В этом примере вы маркируете наземную истину с помощью встроенного алгоритма отслеживания точки.

В этом примере вы автоматизируете маркировку только меток ROI Car. Встроенные алгоритмы автоматизации не поддерживают подметку и приписывают автоматизацию.

  1. Выберите метки, которые вы хотите автоматизировать. В первом кадре видео нажмите Ctrl и нажатие кнопки, чтобы выбрать две аннотации метки Car. Метки подсвечены в желтом.

  2. От панели инструментов приложения выберите Select Algorithm> Point Tracker. Этот алгоритм отслеживает одного или несколько прямоугольных КОРОЛЕЙ на коротких интервалах с помощью алгоритма Kanade-Lucas-Tomasi (KLT).

  3. (дополнительный) Конфигурируют настройки автоматизации. Нажмите Configure Automation. По умолчанию алгоритм автоматизации применяет метки от запуска временного интервала в конец. Чтобы изменить направление и время начала алгоритма, выберите один из вариантов, показавших в этой таблице.

    Направление автоматизацииЗапустите алгоритм отПример

    Import selected ROIs должен быть выбран так, чтобы Car маркировал вас выбранными, импортируются в сеанс автоматизации.

  4. Нажмите Automate, чтобы открыть сеанс автоматизации. Инструкции по алгоритму появляются на правой панели, и выбранные метки доступны, чтобы автоматизировать.

  5. Нажмите Run, чтобы отследить выбранных КОРОЛЕЙ на интервале.

  6. Исследуйте результаты выполнения алгоритма.

    Автомобили, которые вводят сцену позже, не маркированы. Немаркированные автомобили не имели начальной метки ROI, таким образом, алгоритм не отслеживал их. Нажмите Undo Run. Используйте ползунок, чтобы найти кадры, где каждый автомобиль сначала появляется. Чертите КОРОЛЕЙ vehicle вокруг каждого автомобиля, и затем нажмите Run снова.

  7. Усовершенствуйте кадр кадром и вручную переместите, измените размер, удалите или добавьте КОРОЛЕЙ, чтобы улучшить результаты алгоритма автоматизации.

    Когда вы будете удовлетворены результатами алгоритма, нажмите Accept. Также, чтобы отбросить метки, сгенерированные во время сеанса и метки вручную вместо этого, нажмите Cancel. Кнопка Cancel отменяет только сеанс алгоритма, не сеанс приложения.

Опционально, можно теперь вручную маркировать остающиеся кадры подметкой и информацией атрибута.

Чтобы далее оценить ваши марки, можно просмотреть визуальные сводные данные маркированной наземной истины. От панели инструментов приложения выберите View Label Summary. Используйте эти сводные данные, чтобы сравнить кадры, частоту меток и условия сцены. Для получения дополнительной информации Сводные данные вида на море Наземной Истины Маркируют (Computer Vision Toolbox). Эти сводные данные не поддерживают подметки или атрибуты.

Экспортируйте маркированную наземную истину

Можно экспортировать маркированную наземную истину в MAT-файл или в переменную в рабочем пространстве MATLAB. В обоих случаях маркированная наземная истина хранится как объект groundTruth. Можно использовать этот объект обучить основанный на глубоком обучении алгоритм компьютерного зрения. Для получения дополнительной информации смотрите Детектор Объекта Train или Семантическую Сеть Сегментации от Наземных Данных об Истине (Computer Vision Toolbox).

Примечание

Если вы экспортируете пиксельные данные, пиксельные данные о метке и наземные данные об истине сохранены в отдельных файлах, но в той же папке. Для факторов при работе с экспортируемыми пиксельными метками смотрите, Как Магазин приложений Этикетировочной машины Экспортируемый Пиксель Маркирует (Computer Vision Toolbox).

В этом примере вы экспортируете маркированную наземную истину в рабочее пространство MATLAB. От панели инструментов приложения выберите Export Labels> To Workspace. Экспортируемая переменная MATLAB, gTruth, является объектом groundTruth.

Отобразите свойства экспортируемого объекта groundTruth. Информация в вашей экспортируемой объектной силе отличается от информации, показанной здесь.

gTruth
gTruth = 

  groundTruth with properties:

          DataSource: [1×1 groundTruthDataSource]
    LabelDefinitions: [3×5 table]
           LabelData: [531×3 timetable]

Источник данных

DataSource является объектом groundTruthDataSource, содержащим путь к видео и видео меткам времени. Отобразите свойства этого объекта.

gTruth.DataSource
ans = 

groundTruthDataSource for a video file with properties

        Source: ...matlab\toolbox\vision\visiondata\visiontraffic.avi
    TimeStamps: [531×1 duration]

Маркируйте Definitions

LabelDefinitions является таблицей, содержащей информацию об определениях метки. Эта таблица не содержит информацию о метках, которые чертятся на кадрах видео. Чтобы сохранить определения метки в их собственном MAT-файле, от панели инструментов приложения, выбирают Save> Label Definitions. Можно затем импортировать эти определения метки в другой сеанс приложения путем выбора Import Files.

Отобразите таблицу определений метки. Каждая строка содержит информацию об определении метки ROI или определении метки сцены. Если вы экспортировали пиксельные данные о метке, таблица LabelDefinitions также включает столбец PixelLabelID, содержащий идентификационные номера для каждого пиксельного определения метки.

gTruth.LabelDefinitions
ans =

  3×5 table

     Name        Type         Group      Description     Hierarchy  
    _______    _________    _________    ___________    ____________

    'Car'      Rectangle    'Vehicle'        ''         [1×1 struct]
    'Truck'    Rectangle    'Vehicle'        ''         []          
    'sunny'    Scene        'None'           ''         []  

В LabelDefinitions столбец Hierarchy хранит информацию о подметке и определениях атрибута родительской метки ROI.

Отобразите подметку и информацию атрибута для метки Car.

gTruth.LabelDefinitions.Hierarchy{1}
ans = 

  struct with fields:

        carType: [1×1 struct]
      headlight: [1×1 struct]
           Type: Rectangle
    Description: ''

Отобразите информацию о подметке headlight.

gTruth.LabelDefinitions.Hierarchy{1}.headlight
ans = 

  struct with fields:

           Type: Rectangle
    Description: ''
           isOn: [1×1 struct]

Отобразите информацию об атрибуте carType.

gTruth.LabelDefinitions.Hierarchy{1}.carType
ans = 

  struct with fields:

      ListItems: {3×1 cell}
    Description: ''

Маркируйте Data

LabelData является расписанием, содержащим информацию о метках ROI, чертивших в каждой метке времени через целое видео. Расписание содержит один столбец на метку.

Отобразите первые несколько строк расписания. Первые несколько меток времени указывают, что никакие автомобили не были обнаружены и что меткой сцены sunny является false. Эти результаты состоят в том, потому что этот фрагмент видео не был маркирован. Только временной интервал 5–10 секунд был маркирован.

labelData = gTruth.labelData;
head(labelData)
ans =

  8×3 timetable

       Time           Car            Truck        sunny
    __________    ____________    ____________    _____

    5.005 sec     [1×2 struct]    [1×0 struct]    true 
    5.0384 sec    [1×2 struct]    [1×0 struct]    true 
    5.0717 sec    [1×2 struct]    [1×0 struct]    true 
    5.1051 sec    [1×2 struct]    [1×0 struct]    true 
    5.1385 sec    [1×2 struct]    [1×0 struct]    true 
    5.1718 sec    [1×2 struct]    [1×0 struct]    true 
    5.2052 sec    [1×2 struct]    [1×0 struct]    true 
    5.2386 sec    [1×2 struct]    [1×0 struct]    true 
    ...

Отобразите первые несколько строк расписания от 5-10 вторых интервалов, которые содержат метки.

gTruthInterval = labelData(timerange('00:00:05','00:00:10'),:);
head(gTruthInterval)
ans =

  8×3 timetable

       Time           Car            Truck        sunny
    __________    ____________    ____________    _____

    5.005 sec     [1×2 struct]    [1×0 struct]    true 
    5.0384 sec    [1×2 struct]    [1×0 struct]    true 
    5.0717 sec    [1×2 struct]    [1×0 struct]    true 
    5.1051 sec    [1×2 struct]    [1×0 struct]    true 
    5.1385 sec    [1×2 struct]    [1×0 struct]    true 
    5.1718 sec    [1×2 struct]    [1×0 struct]    true 
    5.2052 sec    [1×2 struct]    [1×0 struct]    true 
    5.2386 sec    [1×2 struct]    [1×0 struct]    true 

Для каждой метки Car структура включает положение ограничительной рамки и информации о ее подметках и атрибутах.

Отобразите положения ограничительной рамки для автомобилей в начале временного интервала. Ваши положения ограничительной рамки могут отличаться от тех показанных здесь.

gTruthInterval(1,:).Car{1}.Position % [x y width height], in pixels
ans =

  1×4 single row vector

  415.8962   82.4737  130.8474  129.3805


ans =

  1×4 single row vector

  235.2182    1.0000  117.0611   55.3500

Сохраните сеанс приложения

От панели инструментов приложения выберите Save и сохраните MAT-файл сеанса приложения. Сохраненный сеанс включает источник данных, определения метки и маркированную наземную истину. Это также включает ваши настройки сеанса, такие как размещение приложения. Чтобы изменить параметры макета, выберите Layout.

MAT-файл сеанса приложения является отдельным от наземного MAT-файла истины, который экспортируется, когда вы выбираете Export> From File. Чтобы совместно использовать маркированные наземные данные об истине, как лучшая практика, совместно используют наземный MAT-файл истины, содержащий объект groundTruth, не MAT-файл сеанса приложения. Для получения дополнительной информации смотрите Долю, и Хранилище Маркировало Ground Truth Data (Computer Vision Toolbox).

Смотрите также

Приложения

Объекты

Связанные примеры

Больше о

Для просмотра документации необходимо авторизоваться на сайте