coalesce

Класс: matlab.compiler.mlspark.RDD
Пакет: matlab.compiler.mlspark

Сократите количество разделов в RDD

расширьте все на странице

Синтаксис

result = coalesce(obj,numPartitions,doShuffle)

Описание

result = coalesce(obj,numPartitions,doShuffle) сокращает количество разделов в RDD к номеру, заданному numPartitions.

Входные параметры

развернуть все

Вход RDD, заданный как RDD объект.

Количество разделов, чтобы создать, заданный как скалярное значение.

Типы данных: double

Задайте, должна ли перестановка быть выполнена или нет. doShuffle по умолчанию установлен в false.

Типы данных: логический

Выходные аргументы

развернуть все

RDD с сокращенным количеством разделов, возвращенных как RDD объект.

Примеры

развернуть все

%% Connect to Spark
sparkProp = containers.Map({'spark.executor.cores'}, {'1'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% coalesce
inputRDD = sc.parallelize({'A','B','C','A','B'},2);
redRDD= inputRDD.map(@(x)({x,1})).reduceByKey(@(x,y)(x+y),3);
coaRDD = redRDD.checkpoint(2);
viewRes = coaRDD.glom.collect() % {{{'B',2}},{{'C',1},{'A',2}}}

Смотрите также

| | | |

Введенный в R2017b

Документация MATLAB Compiler
Поддержка
Для просмотра документации необходимо авторизоваться на сайте