ну да, логично. Однако таким образом исчезнут мелкие и тонкие полигоны, а кто сказал, что они менее важные, пойма, например. Словом, для сплошного слоя задача звучит не как сглаживание, а как "генерализация".
Я бы сперва рассмотрел простой пример - треугольные соты. Сглаживая, можно добиться шестигранников - а вот дальше делать круги уже не стОит, некорректно будет. Хотя если важность разных сот разная, можно VIP слегка приблизить по форме к кругам. Но тогда прочие станут наоборот, менее сглаженными чем были - поскольку будут располагаться в звездчатых промежутках. В реальности еще больше нюансов.
Грамотным подходом было бы применение некоей интерполяционной модели, т.е. по сути - перестроение полигонов заново, как мы это делаем с горизонталями. Но опять же - с каким шагом и по какой сетке, в каждом случае отдельно.