Преобразуйте с 2 элементами mxArray к cv::Size.
#include "opencvmex.hpp"
cv::Size
ocvMxArrayToSize_single(const mxArray * in, bool rcInput = true);
cv::Size ocvMxArrayToSize_int32(const mxArray * in, bool
rcInput = true);
OpenCV cv::Size
ocvMxArrayToSize_{DataType} функция преобразует с 2 элементами mxArray к cv::Size. Пустой вход ([]) возвращает cv::Size(0,0);