Удалите polyshape граничные выбросы
polyout = rmslivers( возвращает polyin,tol)polyshape объект составлен из контуров polyin с любыми удаленными вершинами выброса. tol задает граничные выбросы на основе отношения относительных расстояний между вершинами.