1. Вот руководство по инсталляции ArcSDE:
Installation Guide: ArcSDE for Microsoft SQL Server
Мне интересно где в нем "в самом начале при выборе лицензии при указании IP/имени компа"?
SDE требует файла с лицензиями для авторизации сервера. И никак не использует License Manager.
Для работы же ArcGIS Desktop ипользуется или плавающая лицензия, или фиксированная.
В случае работы с плавающей нужно установить и настроить менеджер лицензий.
Если он у Вас уже стоит, то нужно убедиться, что он работает. И у Вас есть доступные активные лицензии.
Если он работает на одном компьютере, и не виден с другого, то нужно настроить или отключить (для проверки) брандмауэр Windows (firewall).
Поэтому Вы сначала определитесь, что Вы устанавливаете. И почитайте руководство по установке.