Вы же его снесли - откуда он возьмется?
Подключение "к существующему сайты" это добавление нового сервера к уже работающему сайту.
А если сайта нет, то и подключать не к чему.
Компоненты ArcGIS for Server
Сценарии развертывания
Если Вы "папку arcgisserver сохранил", т.е. скопировали её содержимое в другое место, то создайте новый сайт,
указав при создании старое место расположения конфигурационных файлов (configuration store).
Теоретически всё должно подняться.
Если не подымется, то попробуйте остановить ArcGIS Server, замените содержимое нового сайта, на содержимое из сохраненной копии. Потом запустите ArcGIS Server.
