北部縣市是台灣客家人的新移民區，因此，北部客家人一直期盼以山歌來凝聚鄉親鄉情。早在民國70年前後，胡泉雄曾數次應邀至台北市新公園演唱山歌，看到雨中萬人撐傘的場面即有所感。
民國77年，他請調至木柵國中任教，「世界客屬總會」立即開辦由戴美玉女士（吳伯雄先生之夫人）擔任班長的台北市第一個「山歌研習班」，請胡泉雄擔任教唱。之後旋即增開忠義、三興、長春與士林四個班，並擴展至板橋、中和、永和等地，造成日後雙北地區的山歌班如雨後春筍相繼成立的榮景。
這段期間，他除了獲范振宗縣長之邀，在新竹縣政府禮堂教唱學員超過500人的山歌班以外，並且北上基隆與遠赴宜蘭教唱。其中，基隆唯一的山歌班在袁倫熹理事長的領導下，至今24年，從未間斷。
民國79年，他組150人的觀摩訪問團到大陸；民國83年兩次應邀赴美國紐約等八大都市宣慰僑胞。山歌不但歌聲滿寶島，而且聲飄海內外。