Удалите выбросы контура polyshape
polyout = rmslivers(polyin,tol)возвращает объект polyout = rmslivers(polyin,tol) polyshape, составленный из контуров polyin с любыми удаленными вершинами изолированной части. tol задает граничные выбросы на основе отношения относительных расстояний между вершинами.