Вам сначала необходимо в фотошопе или фотопоинте перевести цветной растр в 8-ми битный, с градациями серого(изображение-режим-ставим галочку на 8 бит канал и на градации серого),сохраняете,а когда загрузили в ГИС, заходите в свойства растра:properties-symbology-classified. откроется окно и там будет,справа строка classes, в ней значение (обычно 5),нужно поставить 2.вы перевели растр в черно белый вид,инструмент обязан заработать.