reduceByKey

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Слияние значения для каждого ключа с помощью ассоциативного уменьшает функцию

Синтаксис

result = reduceByKey(obj,func,numPartitions)

Описание

result = reduceByKey(obj,func,numPartitions) объединяет значения для каждого ключа в obj использование ассоциативного уменьшает функциональный funcnumpartitions задает количество разделов, чтобы создать в получившемся RDD.

Входные параметры

развернуть все

Вход RDD в виде RDD объект.

Ассоциативная функция, которая будет применена к элементам входа RDD в виде указателя на функцию.

Типы данных: function_handle

Количество разделов, чтобы создать в виде скалярного значения.

Типы данных: double

Выходные аргументы

развернуть все

Конвейерный RDD, содержащий значения, уменьшаемые ключом, возвращенным как RDD объект.

Примеры

развернуть все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% reduceByKey
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);

Смотрите также

| | | |

Введенный в R2017b