1987年8月畢業於山東醫科大學（現山東大學），獲碩士學位；
1990年1月畢業於上海醫科大學（現復旦大學上海醫學院），獲醫學博士學位；
1990年公派留學德國，1993年畢業於德國美因茨大學醫學院，獲醫學博士學位。
1993年，他跟隨導師到埃森大學醫學院繼續從事博士後研究，1995年擔任埃森大學醫學院心內科血管內超聲室主任，1999年4月回國。
自1999年回國後，葛均波通過球囊擴張和支架植入術，為血管阻塞的冠心病患者打通血管，數百名患者重獲新生。數百名患者重獲新生。
自2000年以來，葛均波先後與南京醫科大學附屬醫院、意大利米蘭醫學中心合作主辦了六屆東方國際介入心臟病學會議。他還應邀在丹麥、意大利、希臘、南斯拉夫、英國、美國、韓國和德國的多所大學、歐洲心臟病學會、亞太介入心臟病學會、國際超聲大會、國際冠心病大會以及國內多所大學和大會上作報告。
2003年，葛均波獲得第八屆國家青年科技獎。現任2002年國家863計劃首席科學家、973項目子課題負責人、上海市醫學發展重點基金首席專家。
2005年10月，葛均波在經導管心血管治療學（TCT）會議上，首次通過衛星向遠在美國華盛頓的主會場直播、中國上海中山醫院心導管室的三例手術--室間隔缺損、冠狀動脈支架內支架再狹窄、冠狀動脈左主幹 "慢性全閉塞"（CTO），獲得圓滿成功。這是中國首次向美國TCT會議現場轉播手術，受到美國同行的高度贊揚。
2010年10月，葛均波還成功完成了國內首例經皮主動脈瓣置換術。該手術應用了心臟導管技術，無需開胸，為不能接受外科開胸手術的患者，尤其是老年患者帶來了希望，在中國心臟介入史上寫下了新的篇章。
上世紀90年代末，葛均波開始研發可降解冠脈藥物支架。經過多年努力，他成功研制出 "可降解塗層冠脈藥物支架"，降低了進口支架的支架血栓形成率，大大提高了支架的安全性；由於國產化，大大降低了支架的價格。由於其卓越的臨床療效和安全性，自2005年上市以來，在中國的市場占有率已達25%，平均每年惠及8萬多名冠心病患者，每年為患者節省醫療費用12億元人民幣，並出口國外，為國家創匯500多萬美元。"新型可降解塗層冠脈支架 "的研制成功，大大提升了我國冠脈支架研發和生產技術的核心競爭力。
2011年，中國科學院院士選舉結果於12月9日揭曉，中山醫院心內科主任葛均波教授當選為中國科學院生命科學與醫學學部院士。
2013年12月，任同濟大學副校長。2016年4月，不再擔任同濟大學副校長。