Делал так. Когда в окне лишь кусочек растра - он экспортируется с нормальным качеством, а когда растр в полном экстенте - качество тиффа очень плохое, так как он экспортирует не растр а всё окно карты. Соответственно и геометрические размеры полученного тиффа (исходник был прямоугольный, а окно карты - квадратное) больше.
Нет ли функции, экспортирующей только растр с нарисованными поверх линиями?