身为著名歌手,林豪杰凭着迷人的歌声吸引了许多粉丝的心,他的粉丝遍及各地,超越各个年龄段,林豪杰于2003年出道,那时候的他发售了第一张创作专辑《乐行者》,专辑共收录了11首歌手,包含《就是我》、《不懂》、《会有那么一天》、《让我心动的人》等。2004年,林豪杰发售第二张专辑,当中《江南》就是这张专辑中的歌曲,他也由于这首歌引发广泛关注,林豪杰的音色十分独特,能够 掌控差别风格的歌曲,出道很多年的他曾尝试多种多样风格,例如中国风、R&B、电子、轻摇滚等。身为华语乐坛的代表歌手之一,林豪杰的人气很高,许多歌曲都曾火遍街头巷尾,他的代表作有《一千年今后》、《曹操》、《醉赤壁》、《修炼爱情》、《她说》、《不为谁而作的歌》、《可惜没有如果》等。2003年,发售第一张全创作专辑《乐行者》。尽管时逢SARS,但他和团队不轻言放弃,在3个月内走遍26个城市,开展了上百场演出,确立了今后在中国大陆的稳固基础。
2004年,游走大陆,让自小接受英语教育的林豪杰初次体味中华文化所带来的冲击性,融合西方R&B现代曲风和中国风的专辑《第二天堂》由此诞生,主打歌《江南》成为林豪杰音乐奇迹上的代表作;同一年更凭着《乐行者》专辑拿下第15届台湾金曲奖最佳新人奖。