Если у вас ЦМР в виде грида, то объем можно считать вычитанием двух гридов, ЦМР и любого другого, прямо в Spatial, не применяя 3D Analyst. "Другой" может включать дамбу и зеркало вод. Так, как вы придумали, тоже нормально - даже интересно своей простотой. В таком случае первый грид не нужен, как вы понимаете - модель днища вычитаете из некоей заданной высоты (плоскости зеркала вод). Для оперативных расчетов точно пойдет, для более точных - не знаю. Про вычисления объема "вручную" вот еще была тема
3D Analyst нужен, когда задействована треугольно-каркасная модель, а для гридов он не нужен - практически все его функции есть в Spatial, и много чего еще можно рассчитать там с помощью встроенного калькулятора растров. Вот если задумаете построить точную модель плотины, тогда да.