datastore
функция создает datastore, который является репозиторием для наборов данных, которые являются слишком большими, чтобы уместиться в памяти. Datastore позволяет вам читать и обрабатывать данные, хранимые в нескольких файлах на диске, удаленном местоположении или базе данных как одна сущность. Если данные являются слишком большими, чтобы уместиться в памяти, можно управлять инкрементным импортом данных, создать tall
массив, чтобы работать с данными или использовать datastore в качестве входа к mapreduce
для последующей обработки. Для получения дополнительной информации смотрите Начало работы с Datastore.
Datastore является объектом для чтения одного файла или набора файлов или данных.
Выберите Datastore for File Format или Application
Выберите правильный datastore на основе формата файла ваших данных или приложения.
Чтение и Анализ большого табличного текстового файла
В этом примере показано, как создать datastore для файла крупного текста, содержащего табличные данные, и затем считать и обработать данные один блок за один раз или один файл за один раз.
Чтение и Анализ файлов изображений
В этом примере показано, как создать datastore для набора изображений, считайте файлы изображений и найдите изображения с максимальным средним оттенком, насыщением и яркостью (HSV).
Чтение и анализ MAT-файла на основе пар "ключ-значение"
В этом примере показано, как создать datastore для данных о паре "ключ-значение" в MAT-файле, который является выходом mapreduce
.
Чтение и анализ файла последовательности Hadoop
В этом примере показано, как создать datastore для файла Последовательности, содержащего данные в виде пар "ключ-значение".
Работа с удаленными данными в Amazon S3™, Устройстве хранения данных Azure® Blob или HDFS™.
Настройте Datastore для обработки на различных машинах или кластерах
Setup datastore на вашей машине, которая может загрузиться и обработана на другой машине или кластере.
Разработка пользовательского Datastore
Создайте полностью индивидуально настраиваемый datastore для своих пользовательских или собственных данных.
Разработайте пользовательский Datastore для данных DICOM
В этом примере показано, как разработать пользовательский datastore, который поддерживает операции записи.
Руководство по тестированию для пользовательских хранилищ данных
После реализации вашего пользовательского datastore следуйте за этой процедурой тестирования, чтобы квалифицировать ваш пользовательский datastore.