火藥最早是中國人發明的，在西漢時期的道家典籍《淮南子》中就有關於火藥成分之壹——硫磺的記載。在《神農本草經》中，硫磺和硝石被作為可治病的上品藥物列了出來。硝石也是壹種礦物，出產於四川、甘肅壹帶。它是壹種強氧化劑，在加熱時能放出氧，容易發煙發火，所以也被人稱為煙硝或火硝。由於硝石的化學性質活潑，能和許多物質發生作用，所以方士在煉丹中，常用硝石來改變其他藥品的性質。
西漢時淳於意曾用硝石治療王美人的疾病。煉丹家們又在他們長期的煉丹實踐中將硝石、硫磺、雄黃和松脂、油脂、木炭等材料不斷地混合、煆燒，這就使火藥的發明成為必然。
煉丹家們還對硫磺的各種特性進行了“實驗”觀察和研究，他們發現，硫不僅能和銅鐵起化合反應，而且能制伏神奇的水銀(汞)。硫的化學性質非常活潑，很容易著火，跟空氣中的氧起化合反應，這使人們很難制伏它。古人為了馴服它這種暴烈的性格，就嘗試著對硫磺進行“伏火”處理。
所謂“伏火”原本也是壹種治療疾病的方法，煉丹家們根據中醫理論中的陰陽、五行和臟象經絡之說，認為硝石和硫磺都是陽物(因為它們都能著火)，會有陽火之毒，能敗人五臟。為了使人服食之後不僅沒有任何毒性，而且能滋潤五臟，使人體內五臟之氣和合混融，助益長壽，就必須設法制伏火毒，這就是“伏火”。“伏火”的具體方法也很簡單，就是“以毒攻毒”，用火燒壹下，火毒也就自然被消除。
方士們在煉丹的實踐中，漸漸發現硫磺、硝石、木炭三種東西混在壹起，弄得不好，就要引起燃燒甚至爆炸。這種情況發生得多了，自然會引起方士的註意。於是就有人專門進行這類試驗，不斷積累經驗，改進配方。由於硫磺和硝石都是能治病的藥，又因為它們和木炭合在壹起會發火，因此人們就把這三樣東西的混合物叫做火藥，意思就是“發火的藥”。由於這種混合物顏色接近黑色，所以通常又被人稱為黑火藥。
關於黑火藥配方和燃燒的最早記載，出自唐代初年著名中醫、“藥王”、養生家兼煉丹家孫思邈所著的《丹經內伏硫磺法》壹書。這也是世界上最早的關於輕工業火藥原始配方的記載。它描述了對硫磺的伏火方法：把沙罐或銷銀鍋埋進土裏，罐口或鍋口與地面齊平，周圍要用土夯實，把硝、硫各二兩放進去。然後用火燒皂角子三杖，不要燒成灰，而燒成炭就行，再壹個個放入罐或鍋中。這時，剛剛燒過的皂角子帶著余火與硝石和硫磺接觸，硝和硫就會自動燃燒起來。等待焰煙冒完之後，用木炭堆到罐口上加熱，就得到了壹服黑火藥的配方。這裏，黑火藥的三種主要成分都已齊備：硝、硫和炭。只因為炭沒有研碎，未與硝、硫充分均勻混合，因此反應不夠劇烈。加之“伏火”的目的在於防止和避免發生劇烈的燃燒和爆炸，壹些措施也只使反應出現燃後冒出紫青焰火的結果。