reduceByKey

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Объедините значения для каждого ключа с помощью ассоциативной функции сокращения

Синтаксис

result = reduceByKey(obj,func,numPartitions)

Описание

result = reduceByKey(obj,func,numPartitions) объединяет значения для каждого ключа в obj использование ассоциативной функции редукции func. numPartitions задает количество секций, создаваемых в получившемся RDD.

Входные параметры

расширить все

RDD входа, заданный как RDD объект.

Ассоциативная функция, применяемая к элементам входного RDD, заданная как указатель на функцию.

Типы данных: function_handle

Количество создаваемых разделов, заданное как скалярное значение.

Типы данных: double

Выходные аргументы

расширить все

Конвейерный RDD, содержащий значения, уменьшенные на ключ, возвращенный как RDD объект.

Примеры

расширить все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% reduceByKey
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);
Введенный в R2016b