Если этого типа нет в списке CoClasses that implement IGxObjectFilter (смотри IGxObjectFilter Interface), то нет никакого смысла (и, скорее всего, и возможности) использовать IGxDialog Interface для открытия этого файла.
Нужно использовать Microsoft Common Dialog Control.