exponenta event banner

glom

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Объединение всех элементов в каждом разделе RDD

Синтаксис

result = glom(obj)

Описание

result = glom(obj) возвращает RDD result создается путем объединения всех элементов в пределах каждой секции obj.

Входные аргументы

развернуть все

Входной RDD, указанный как RDD объект.

Выходные аргументы

развернуть все

Конвейерный RDD, содержащий объединенные элементы в каждом разделе входного RDD, возвращаемый как RDD объект.

Примеры

развернуть все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% glom
inputRDD = sc.parallelize({'A','B','C','D','E','C','B'}); 
mapRDD = inputRDD.map(@(x)({x,1})); 
redRDD = mapRDD.reduceByKey(@(x,y)(x+y),3); 
out = redRDD.glom().collect() % { {{'C',2}}, {{'A',1},{'D',1}}, {{'B',2},{'E',1}} } 
% 3 cell arrays as 3 partitions were created by reduceByKey

См. также

| |

Представлен в R2016b