Exponenta Banner

coalesce

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Уменьшите количество разделов в RDD

развернуть все на странице

Синтаксис

result = coalesce(obj,numPartitions,doShuffle)

Описание

result = coalesce(obj,numPartitions,doShuffle) уменьшает количество разделов в RDD до числа, заданного numPartitions.

Входные параметры

расширить все

RDD входа, заданный как RDD объект.

Количество создаваемых разделов, заданное как скалярное значение.

Типы данных: double

Укажите, должен ли выполняться тасование или нет. По умолчанию doShuffle установлено в false.

Типы данных: logical

Выходные аргументы

расширить все

RDD с уменьшенным количеством разделов, возвращенный как RDD объект.

Примеры

расширить все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% coalesce
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);
coaRDD = redRDD.checkpoint(2);
viewRes = coaRDD.glom.collect() % {{{'B',2}},{{'C',1},{'A',2}}}

См. также

| | | |

Введенный в R2016b

Документация MATLAB Compiler

Поддержка