Команда TopoToRaster очень требовательна к ресурсам. Во-первых нужно установить достаточный объем виртуальной памяти в системе (не менее 2 Гб) и достаточный объем свободного места на диске с временными файлами (переменная TEMP).
Во-вторых, попробовать для начала построить модель с большим размером ячейки - просто проверить что команда справляется с входным векторным набором.
Если не справляется, то придется разбивать входные векторные данные на части командой Clip и ограничивать область интерполяции устанавливая выходной экстент.
Полученные маленькие части модели потом можно объединить в одну большую построением мозаики растров командой Mosaic.
Почитайте раздел справки "How Topo to Raster works", особенно параграф "Likely causes of problems with Topo to Raster".
