2000年，高洪波成为中国国少队主教练，他在2001年加盟甲B球队上海中远队，任助理教练，辅佐徐根宝率队成功升入甲A。2004年，高指导接手厦门蓝狮队，第二年就率领厦门蓝狮队获得甲A冠军并成功冲超。2006年底，高洪波成为长春亚泰队主教练，并于上任的首个赛季率队获得中国足球超级联赛冠军，成为中国职业联赛历史上最年轻的冠军主帅。该赛季，高洪波还当选为联赛最佳主教练。

2009年，高洪波成为中国国家足球队主教练，在2010年的东亚杯上，高洪波率中国队3∶0大胜韩国队，终结国足长达32年的“恐韩症”，并获得该届杯赛冠军。2010年6月，高洪波的国足在热身赛中1∶0爆冷战胜前世界冠军法国国家队。同年，高洪波还率队逼平巴拉圭国家队，3∶0战胜勒沃库森队。

但在2011年的亚洲杯上，中国队未能进入8强，高洪波下课，2011年8月10日，国足主场迎战牙买加队的热身赛成为高洪波执教国足的最后一战，全场数万名球迷雨中举着下课标语，高呼“高洪波不下课”的口号，成为一道奇景。

执教国足期间，高洪波的国足取得国际足联A级比赛23胜11平4负的战绩，胜率近6成，不败率超过9成，FIFA排位由108位的历史最低排名上升到5年多来最高的69位。随后卡马乔走马上任，但后者堪称国足史上最差外籍主帅。此后，高洪波还曾出任贵州人和、江苏舜天主帅。

高洪波虽是执教欧洲球队的第一人，但并不是第一个执教国外球队的中国教练，从1978年3月到1979年4月，中国足坛名宿戚务生曾执教于索马里国家队。