Vecgulbenes muižas kompleksa vēsture ir spilgtiem notikumiem bagāta. Īpaši interesanta ir Baltās pils vēsture, kas atspoguļo gan baronu valdīšanas laikus šajā pilī, gan arī nežēlīgos kara laikus, kuru laikā pils tika pamatīgi izpostīta un vairs nepiedzīvoja savu sākotnējo krāšņumu.
Muižas komplekss Gulbenes D daļā veidojies viduslaiku nocietinātās pils tuvumā. No 1802. gada muiža ir baronu fon Volfu īpašums. Pašreizējā apbūve veidojusies 19. – 20. Gs. Kompleksā ir 2 kungu mājas: Baltā pils - neorenesanses stilā un Sarkanā pils – neogotikas stilā. Saglabājušās arī muižas saimniecības ēkas – siernīca, manēža, oranžērija, kalpu māja, kūtis un lopu virtuve.
Baltā pils celta 1763. gadā, vairakkārt pārbūvēta, ar terasi un plašām kāpnēm dārza pusē, tā ieguvusi renesanses villas stila iezīmes. Pils vairākas reizes nodedzināta – bet vienmēr atjaunota, taču ne sākotnējā greznībā.
Sarkano pili 19. gs. Beigās barons Heinrihs fon Volfs cēlis savai sievai.
Vecgulbenes muižas parki ierīkoti 19. gs. Beigās un tos varētu uzskatīt par barona Heinriha mūža darbu. Parki un stādījumi tapa par godu Heinriha sievai Marisai. Tiesa – viens parks ir par godu barona tēvam Rūdolfam. Pils parku ar Rūdolfa parku savienoja koka gaisa tilts, kas bija izbūvēts vairākos līmeņos un rotāts ar kokgriezumiem.