Вот эта фраза:
Login failed for user 'sde'
переводится:
Ошибка подключения с учетной записью 'sde'.
Т.е. СУБД такого пользователя или его пароля не знает.
Придется читать "installation guide" (файл install.htm) на диске с дистрибутивами.
Т.к. у Вас это MS SQL Server, то скорее всего, у СУБД не включена проверка подлинности SQL Server.
Или её нужно включить, или устанавливать не в схему sde, а выбрать схему dbo при инсталляции.