Разобралась с данной ошибкой!!!
В источнике данных в слоях карты необходимо указать имя машинки (на которой установлени ArcSDE), а не IP адрес. Да и еще на всякий случай добавила в файл services (\WINNT\system32\drivers\etc\) в конец строку :
esri_sde 5151/tcp
и увеличила timeout в appserver.properties до 6000
Надеюсь кому-нибудь поможет....:)))