埼玉県桶川市出身の五人組。ブルーハーツに憧れて、当時中学一年生の松本素生(Vo)、中澤寛規(Gt)、石原 聡(B)、伊藤洋一(当時Dr)により結成。何度かメンバーの出入りがありつつ、高校時代に当時ドラム未経験の現ドラマー河野丈洋を加えたちょうどその頃からGOING UNDER GROUNDと名乗り出し、高校卒業時に正式に現在の5人が揃う。
1998年春、都内のライブハウスに初出演。全国主要都市ライブツアー等、精力的な活動を展開し、2001年6月21日シングル「グラフティー」にてメジャーデビュー。9月にシングル「センチメント・エキスプレス」、10月にはメジャー1stアルバム「かよわきエナジー」リリース。その後のワンマンツアーでは各会場でSOLD OUTを連発した。2002年夏、シングル「ランブル」が好評な中、全国各地の夏フェスへ多数出演し、9月に2ndアルバム「ホーム」リリース。2003年9月、シングル「トワイライト」リリース。映画を思わせる胸キュンストーリー仕立てのPVが大好評で、全国各地のラジオチャートでベスト10入りを果たし、3rdアルバム「ハートビート」はロングセラー作品に。ツアー『every breath』は全会場でSOLD OUT、初めての渋谷公会堂は20分で完売した。2004年1月、ボーダフォンTVCM曲「ハートビート」をシングルカット。その後、「トワイライト」がNHK教育『あしたをつかめ』の主題歌に、「ダイアリー」が丸大食品アテネ五輪応援ソングに起用され、アルバムのロングセールスに拍車を掛かることになった。9月にシングル「サンキュー」、12月にはシングル「同じ月を見てた」リリース。2005年、セルフプロデュース・アルバム「h.o.p.s.」をリリース。3月からスタートした『h.o.p.s.』ツアーと同時に、新たに曲を書き下ろした三ツ矢サイダーTVCMのOAもスタート。CMが大好評となる中リリースされたシングル「STAND BY ME」はロングヒットとなった。8月にはNHK『みんなのうた』使用曲「トゥモロウズ ソング」が収録されたシングル「きらり」リリース。5thアルバム「TUTTI」を2006年2月にリリースし、3月よりレコ発ツアー『TUTTI』スタート。時期を同じくして2年連続となる、三ツ矢サイダーオリジナルCMソング「VISTA」が使用されたTVCMもスタート。5月には、J-WAVE春のキャンペーンソング「ハミングライフ」と共に両A面シングルとして発売。評判を呼び、6月にはその2楽曲を含む初のベスト盤「BEST OF GOING UNDER GROUND with YOU」を発売。今なお、ロングセールスを記録中。7月6日、ツアー『TUTTI』最終日となった日本武道館公演も大成功、ファイナルにふさわしいステージを魅せた。
その後も楽曲制作の傍ら、ライブDVD「TOUR TUTTI at BUDOKAN」発売や彼らの同名楽曲をモチーフに生まれた小説「ハミングライフ」の映画化、冬ツアー「parade」の大成功、他アーティストへの楽曲提供(中村雅俊、松たか子、ザ・コレクターズetc)…と活動の幅は益々拡がっている。2007年3月、新曲としては11ヶ月ぶりとなるシングル「胸いっぱい」を発表。この楽曲は5月に開催された「世界卓球2007」のテーマソングとなった。10月にシングル「さかさまワールド」を、11月に6thアルバム「おやすみモンスター」を発売し、同日スタートの『さかさまワールド・ツアー2007-2008』公演で見せた熱い興奮もさめやらぬままに、2008年3月より新たに春ツアーがスタート。同3月発売、サントリーCMソングとして先行配信ヒットしたシングル「初恋」、同5月発売のインディーデビュー10周年記念作品「COMPLETE SINGLE COLLECTION 1998-2008」が最新リリース作品。