Действительные элементы данных в mxDOUBLE_CLASS массив
#include "matrix.h" mxDouble *mxGetDoubles(const mxArray *pa);
Эта функция доступна в чередованном комплексном API. Создавать myMexFile.c с помощью этой функции введите:
mex -R2018a myMexFile.c