考證“藥葫蘆”的典故，應當出自《後漢書-方術列傳-費長房》的記載：“費長房者，汝南(今河南上蔡西南)人，曾為市掾。市中有老翁賣藥，懸壹壺於肆頭，及市罷，輒跳入壺中，市人莫之見，唯長房於樓上睹之，異焉。因往再拜，奉酒脯。翁知長房之意其神也，謂之曰：子明日可更來，長房旦日復詣翁，翁乃與俱入壺中。唯見玉堂華麗，旨酒甘肴盈衍其中，其飲畢而出。翁約不聽與人言之，復乃就樓上候長房曰：我神仙之人，以過見責，今事畢當去，子寧能相隨乎?樓下有少酒，與卿為別……長房遂欲求道，隨從入深山，翁撫之曰子可教也，遂可醫療眾疾”。
關於壺翁的記載，則有“壺公謝元，歷陽人，賣藥於市。不二價，治病皆愈。語人曰：服此藥必吐某物，某日當愈，事無不效。日收錢數萬，施市內貧乏饑凍者。”以此觀之，壺翁乃身懷醫技、樂善好施之隱士醫者。因其診病貨藥處常懸壹壺為醫幟，所以人稱壺翁。
類似記載，還可見於晉代葛洪(公元261-341年)《神仙傳》及壹些古史雜說等。大概說的都是漢代的某年夏天，河南壹帶鬧瘟疫，死了許多人，無法醫治。有壹天，壹個神奇的老人來到這裏，他在壹條巷子裏開了壹個小小中藥店，門前掛了壹個藥葫蘆，裏面盛了藥丸，專治這種瘟疫。這位“壺翁”身懷絕技，樂善好施，凡是有人來求醫，老人就從藥葫蘆裏摸出壹粒藥丸，讓患者用溫開水沖服。就這樣，喝了這位“壺翁”藥的人，壹個壹個都好了起來。時有汝南人費長房，見此老翁在人散後便跳入壺中，他覺得非常奇怪，於是就帶了酒菜前去拜訪，老翁便邀他同入壺中。費長房從此隨其學道，壺翁盡授其“懸壺濟世”之術。
雖然記載這個傳說有些神話傳奇色彩，但是他二人的精湛醫術令人贊佩，也因為這個故事的流傳，所以後人將行醫愛稱為懸壺，醫生或診所的賀詞無壹例外不是懸壺濟世，而懸掛的那個葫蘆更成了中醫的標誌。