getCheckpointFile

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Получите имя файла, к которому отмечается контрольной точкой RDD

Синтаксис

file = getCheckpointFile(obj)

Описание

file = getCheckpointFile(obj) получает имя файла к который obj RDD отмечается контрольной точкой.

Входные параметры

развернуть все

Вход RDD, заданный как RDD объект.

Выходные аргументы

развернуть все

Имя файла, к которому был отмечен контрольной точкой RDD, возвратилось как вектор символов.

Примеры

развернуть все

Получите имя файла, к которому был отмечен контрольной точкой RDD.

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% getCheckpointFile
sc.setCheckpointDir('myDir')  % set the checkpoint directory
x = sc.parallelize({1,2,3})
y = x.map(@(x)({x,1}));
y.checkpoint()  % tell spark to checkpoint the RDD
y.collect()
% need to call collect, so that spark actually materializes the RDD 
% and checkpoints to the myDir directory
y.getCheckpointFile()

Смотрите также

| | |

Введенный в R2017b