Ну, сам пиксель-то разумеется квадратный по определению. Полное пространство самого общего уровня - квадрат 256*256... Далее оно дробится на 4 каждый уровень, но форма остается квадратной :)
А вот форму квадрата в гис-пространстве, разумеется, можно задавать по разному. Если отображать этот квадрат на меркаторскую "сферическую" карту, то искажения не требуются, и пикселю можно оставлять квадратную форму, как и расписано на geofaq. В этом случае все геопривязки делаются проще.
Если же вы непременно хотите посадить квадрат гугла на меркаторскую "эллиптическую" карту, то вам придется слегка сжать растр по вертикали. Это и имеет в виду программа GIndexer. Проблема в том, что это сжатие неравномерное, и зависит от широты. Само по себе это рассчитывается, и привязывая околополярный растр, он выдаст размер пиксела dу меньше чем в экваториальном случае (где dx почти равен dу). Но если ваша мозаика большая, то, понятно, ее "сжатие" должно быть разным для ее северной части и для южной. Если быть более точным, высота каждого ряда пикселов в случае эллипса по широте должна задаваться разная. GIndexer же дает общий world-файл, где dy осредненный, следовательно, для больших мозаик ошибки привязки неизбежны. В общем, в ГИС это бывает заметно.
Есть подозрения, почему привязка в GIndexer была реализована с учетом эллипса, хоть это и сложнее и менее точно - проекция "меркатор на сфере", говорят, отсутствует в OZI. А эти все программы были написаны не гисовцами, а вездесущими туристами, со всеми вытекающими.
Программа GooGeo в ранних версиях также давала привязку с учетом эллипса - просто по инерции, но потом разобравшись со сферой это показалось лишним. Таким образом Gindexer она "замещает", уточняя и упрощая "автоматическую" геопривязку.
Может быть, Вадим Каминский добавит - насколько я помню, он привязывал растр и на эллипс, и на сферу вручную, ему видней что там на практике получается.