reduceByKey

Класс: matlab.compiler.mlspark. RDD
Пакет: matlab.compiler.mlspark

Слияние значения для каждого ключа с помощью ассоциативного уменьшает функцию

Синтаксис

result = reduceByKey(obj,func,numPartitions)

Описание

result = reduceByKey(obj,func,numPartitions) слияния значения для каждого ключа в obj с помощью ассоциативного уменьшают функциональный func. numPartitions задает количество разделов, чтобы создать в получившемся RDD.

Входные параметры

развернуть все

Вход RDD, заданный как объект RDD.

Ассоциативная функция, которая будет применена к элементам входа RDD, заданного как указатель на функцию.

Типы данных: function_handle

Количество разделов, чтобы создать, заданный как скалярное значение.

Типы данных: double

Выходные аргументы

развернуть все

Конвейерный RDD, содержащий значения, уменьшаемые ключом, возвращенным как объект RDD.

Примеры

развернуть все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% reduceByKey
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);

Введенный в R2017b