JP2 прогрессивнее тем, что в нем есть сжатие без потерь. Но он под лицензией, я не знаю встроена ли она в AM.
ECW очень мощный формат, специально для снимков, но требует наличия особого модуля от ERDAS. Модуль бесплатный, но как-то формат в чисто AM среде пока не популярен. Наверно, потому, что для его обработки требуется ERDAS, тогда как JPG можно доводить любыми редакторами и, как показывает практика, для типовых задач это весьма эффективно.
Для сканированных карт лучше GIF нету, они ведь 8-битные. Есть еще TIF, но с ними проблем больше - то цветность забудешь понизить, то геопривязка сама собой внутрь встраивается :) Мы даже сканированные оригиналы карт иногда не храним полноцветные, GIF вполне достаточно по качеству и раз в 10 компактнее. Даже стали разрешение делать больше за счет экономии места по цветности. Правда, некоторые задачи типа цветоделения требуют полноцветности... Но обратная конвертация, как ни странно, дает вполне приемлемый результат.
В вашем случае вряд ли можно задаваться заранее, советую как следует протестировать варианты под ваши конкретные задачи, причем на больших объемах - в проектах AM, например, проблемы начинаются от ста штук :)