Ну тогда могу предложить такое решение:
1. Определяете сегменты, на которые попадают точки из другого шейп-файла
например, через ISpatialFilter
2. Суммируете длину всех сегментов(полных) между теми, на которые попали точки
3. Добавляете к ним 2 числа - расстояния от Ваших искомых точек до концов сегментов... (цифры 1 и 2 на рисунке)
Надеюсь, получится
Удачи!