У меня такое например было недавно при установке DLL.
Как варианты:
ArcGIS при установке компонентов может нужно запускать как Администратор. (В одном случае это решило проблему, хотя не знаю как это связано с 64-битностью).
И в проекте инсталлятора есть опция Platform - у меня стоит Any CPU, а можно и выбрать только x86 или x64 (у меня Visual Studio 2008).
аркмап запустить от администратора ? а СОМ-ы без инсталятора, просто библиотеки
СОМ-ы написаны мною ещё года 2 назад на VB6