Для предопределённых способов преобразования нужный достаточно выбрать из списка в инструменте project (проецирование).
Если нужных Вам параметров нет в списке, то их придётся описывать в файле geogtran. Файл нужно создать и установить переменную окружения PEOBJEDITHOME на каталог в котором этот файл находится. Содержание файла должно выглядеть примерно так:
GEOGTRAN,208001,"WGS_1984_To_Pulkovo42_My",PE_GCS_WGS_1984, PE_GCS_PULKOVO_1942,PE_MTH_POSITION_VECTOR,PE_PAR_X_AXIS_TRANSLATION, 27.0,PE_PAR_Y_AXIS_TRANSLATION,-135.0,PE_PAR_Z_AXIS_TRANSLATION,-84.5,PE_PAR_X_AXIS_ROTATION,0.0,PE_PAR_Y_AXIS_ROTATION,0.0, PE_PAR_Z_AXIS_ROTATION,0.0,PE_PAR_SCALE_DIFFERENCE,0.0, PE_PAR_X_COORD_OF_ROTATION_ORIGIN,0.0,PE_PAR_Y_COORD_OF_ROTATION_ORIGIN, 0.0, PE_PAR_Z_COORD_OF_ROTATION_ORIGIN,0.0
Это всё одной строкой для одного метода преобразования.
Более подробно об описании своих проекций, параметров преобразования и пр. можно прочитать здесь:
http://arcsdeonline.esri.com/Support_files/capi_concepts/using_persistent_user.htm
Сразу замечу - ArcGIS после установки этой переменной будет медленнее восстанавливать списки проекций. Для коррекной работы пользовательских параметров преобразования необходим SP2. В качестве разделителя десятичных знаков в системе нужно установить точку. Ну и сами параметры нужно аккуратно устанавливать.