Пакет: matlab.compiler.mlspark
Суперклассы:
Интерфейсный класс, чтобы инициализировать связь с Spark включил кластер
Объект SparkContext
служит точкой входа к Spark™ путем инициализации связи с кластером Spark. Это принимает объект SparkConf
как входной параметр и использует параметры, заданные в том объекте настроить внутренние сервисы, необходимые, чтобы установить связь со средой выполнения Spark.
создает объект sc
= matlab.compiler.mlspark.SparkContext(conf
)SparkContext
, инициализирует связь с кластером Spark.
Свойства этого класса скрыты.
addJar | Добавьте зависимость от файла JAR для всех задач, которые должны быть выполнены в SparkContext |
широковещательная передача | Широковещательно передайте переменную только для чтения к кластеру |
datastoreToRDD | Преобразуйте MATLAB datastore в Spark RDD |
удаление | Завершите работу связь с Spark включила кластер |
getSparkConf | Получите параметры конфигурации SparkConf |
параллелизировать | Создайте RDD из набора локальных значений MATLAB |
setCheckpointDir | Установите директорию, в соответствии с которой должны быть отмечены контрольной точкой RDDs |
setLogLevel | Установите логарифмический уровень |
текстовый файл | Создайте RDD из текстового файла |
См. последнюю документацию Spark для получения дополнительной информации.