yumakaev, спасибо за ответ. Пардон за не совсем точную формулировку. :)
Попробую просто описать задачу. Возможно, так станет понятнее. Мы пишем систему планирования миссия для аэрофотосъемки. Попросту говоря, создается план, на котором определяются координаты точек, где необходимо произвести снимки. В основном точки съемки планируются линейно, т.е. снимки группируются в линии. Точки съемки на линии планируются таким образом, чтобы при определенной высоте обеспечивалось необходимое перекрытие снимков (обычно 60% для перекрытия по концам снимков одной линии, и 30% для перекрытия по сторонам снимков для соседних линий). Так вот, планирование сейчас производится плоское, т.е. считается, что высота полета постоянна, т.е. поверхность съемки плоская. Проекция снимков в данном случае прямоугольная (четырехугольная, если быть точным). В реальности же поверхность, естественно, не всегда плоская. Так вот, требуется, имея DTM с разрешением ~100 м, вычислить проекцию (я так понимаю, в результате получится полигон) границ снимка на поверхность съемки. Т.е., в результате вместо прямоугольника получится какой-то полигон. Вот его-то мне и надо определить, чтобы определить реальное перекрытие снимков на заданной местности. Наибольшее искажение будет в районах с большим перепадом высот, т.е. в горах.
Возможно, задача может формулироваться более общо, а именно в определении проекции прямоугольника на 3D - поверхность при заданных координатах прямоугольника и высоте над поверхностью.