Ну для начала посмотреть журнал инсталляции:
"C:\Program Files\ArcGIS\ArcSDE\sqlexe\etc\sde_setup.log"
"Post Installation завершиться не может" - это слишком общее понятие.
Post Installation - четыре шага. Каждый из них можно попытаться выполнить последовательно, но по отдельности.
Кроме того, их можно выполнять с командной строки.
И базу не обязательно создавать именно с именем SDE.
Репозиторий создался успешно?
Можно попытаться создать репозиторий удаленно, не с самого сервера Windows2012, а с другой машины.
Installations of SQL Server and ArcSDE on separate servers