I forbindelse med Vilhelm Pedersens Maskinfabrik A/S’ ekspansion blev der i Høng opført en hel række bygninger med tilknytning til fabrikken. Man kan ligefrem tale om, at der opstod en særlig bygningskultur i relation til fabrikken: bygninger til produktion og administration samt boliger til arbejdere, funktionærer og direktører blev en del af bybilledet.
I 1942 blev der på adressen Østergade 4 bygget en sportshal, der straks i folkemunde fik navnet VP-hallen. Sportshallen blev primært bygget til medarbejderne, men er i tidens løb blevet benyttet af sportsudøvere fra hele omegnen. Hallen blev smukt udsmykket med samtidig kunst. Ved Vilhelm Pedersens død i 1952 var det i VP-hallen, at hele Høng og omegn samledes ved en storslået bisættelse.
De markante bygninger, som Vilhelm Pedersen skabte i forbindelse med fabrikken, er stadig at se i Høng, og kører man en tur gennem Hovedgaden, kan man også opleve Vilhelm Pedersens Plads, som står til minde om en mand, der havde stor betydning for sin tid, sin by og egn og for de mange mennesker, han kom i berøring med gennem sit virke.