Exponenta Banner
exponenta event banner

соединиться

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Уменьшение количества разделов в RDD

развернуть все на странице

Синтаксис

result = coalesce(obj,numPartitions,doShuffle)

Описание

result = coalesce(obj,numPartitions,doShuffle) уменьшает количество разделов в RDD до числа, указанного numPartitions.

Входные аргументы

развернуть все

Входной RDD, указанный как RDD объект.

Число создаваемых секций, указанное как скалярное значение.

Типы данных: double

Укажите, следует ли выполнять тасование или нет. По умолчанию doShuffle имеет значение false.

Типы данных: logical

Выходные аргументы

развернуть все

RDD с уменьшенным количеством разделов, возвращаемый как RDD объект.

Примеры

развернуть все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% coalesce
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);
coaRDD = redRDD.checkpoint(2);
viewRes = coaRDD.glom.collect() % {{{'B',2}},{{'C',1},{'A',2}}}

См. также

| | | |

Представлен в R2016b

Документация по компилятору MATLAB

Поддержка