Exponenta Banner

keyLimit

Класс: matlab.compiler.mlspark. RDD
Пакет: matlab.compiler.mlspark

Возвратите порог уникальных ключей, которые могут храниться прежде, чем двигаться потоком к диску

расширьте все на странице

Синтаксис

result = keyLimit(obj)

Описание

result = keyLimit(obj) возвращает порог уникальных ключей в obj, который может храниться в памяти прежде, чем двигаться потоком к диску.

Входные параметры

развернуть все

Вход RDD, заданный как объект RDD.

Выходные аргументы

развернуть все

Порог уникальных ключей, которые могут храниться прежде, чем двигаться потоком к диску, возвратился как скалярное значение.

Примеры

развернуть все

Используйте метод keyLimit, чтобы возвратить порог уникальных ключей, которые могут храниться в объекте containers.Map, который задает свойства Spark™. Ключи, которые нарушают порог, пролиты к диску.

%% Connect to Spark
% Change number of keys from a default threshold of 10,000 to 500
sparkProp = containers.Map( ...
    {'spark.executor.cores',...
    'spark.executor.memory',...
    'spark.executor.instances',...
    'spark.matlab.worker.numOfKeys', ...
    }, ...
    {'1',...
    '2g',...
    '1', ...
    '500'});
conf = matlab.compiler.mlspark.SparkConf('AppName','myApp', ...
                        'Master','local[1]','SparkProperties',sparkProp);
sc = matlab.compiler.mlspark.SparkContext(conf);

%% keyLimit
x = sc.parallelize({1,2,3});
x.keyLimit % ans: 500

Смотрите также

Введенный в R2017b

Документация MATLAB Compiler
Поддержка