भगवान विश्वनाथ के त्रिशूल पर बसी तीन लोक से न्यारी काशी में गंगा के घाट पर सुबह-सवेरे शहनाई के सुर बिखरने वाले उस्ताद बिस्मिल्ला खाँ का जन्म 21 मार्च, 1916 को ग्राम डुमराँव, जिला भोजपुर, बिहार में हुआ था। बचपन में इनका नाम कमरुद्दीन था। इनके पिता पैगम्बर बख्श भी संगीत के साधक थे। वे डुमराँव के रजवाड़ों के खानदानी शहनाईवादक थे। इसलिए कमरुद्दीन का बचपन शहनाई की मधुर तान सुनते हुए ही बीता।
जब कमरुद्दीन केवल चार वर्ष के ही थे, तो इनकी माता मिट्ठन का देहान्त हो गया। इस पर वे अपने मामा अल्लाबख्श के साथ काशी आ गये और फिर सदा-सदा के लिए काशी के ही होकर रह गये। उनके मामा विश्वनाथ मन्दिर में शहनाई बजाते थे। धीरे-धीरे बिस्मिल्ला भी उनका साथ देने लगे। काशी के विशाल घाटों पर मन्द-मन्द बहती हुई गंगा की निर्मल धारा के सम्मुख शहनाई बजाने में युवा बिस्मिल्ला को अतीव सुख मिलता था। वे घण्टों वहां बैठकर संगीत की साधना करते थे।
बिस्मिल्ला खाँ यों तो शहनाई पर प्रायः सभी प्रसिद्ध राग बजा लेते थे; पर ठुमरी, चैती और कजरी पर उनकी विशेष पकड़ थी। इन रागों को बजाते समय वे ही नहीं, तो सामने उपस्थित सभी श्रोता एक अद्भुत तरंग में डूब जाते थे। जब बिस्मिल्ला खाँ अपना कार्यक्रम समाप्त करते, तो सब होश में आते थे। 15 अगस्त 1947 को जब लालकिले पर स्वतन्त्र भारत का तिरंगा झण्डा फहराया, तो उसका स्वागत बिस्मिल्ला खाँ ने शहनाई बजाकर किया।
धीरे-धीरे उनकी ख्याति बढ़ने लगी। केवल देश ही नहीं, तो विदेशों से भी उनको निमन्त्रण मिलने लगे। बिस्मिल्ला खाँ के मन में काशी, गंगा और भगवान विश्वनाथ के प्रति अत्यधिक अनुराग था। एक बार अमरीका में बसे धनी भारतीयों ने उन्हें अमरीका में ही सपरिवार बस जाने को कहा। वे उनके लिए सब व्यवस्था करने को तैयार थे; पर बिस्मिल्ला खाँ ने स्पष्ट कहा कि इसके लिए आपको माँ गंगा और भगवान् विश्वनाथ को भी काशी से अमरीका लाना पड़ेगा। वे धनी भारतीय चुप रह गये।
बिस्मिल्ला खाँ संगीत की उन ऊँचाइयों पर पहुँच गये थे, जहाँ हर सम्मान और पुरस्कार उनके लिए छोटा पड़ता था। भारत का शायद ही कोई मान-सम्मान हो, जो उन्हें न दिया गया हो। 11 अपै्रल, 1956 को राष्ट्रपति डा0 राजेन्द्र प्रसाद ने उन्हें हिन्दुस्तानी संगीत सम्मान प्रदान किया।
27 अपै्रल, 1961 को पद्मश्री, 16 अपै्रल, 1968 को पद्मभूषण, 22 मई, 1980 को पद्म विभूषण और फिर 4 मई, 2001 को राष्ट्रपति श्री के.आर. नारायणन ने उन्हें सर्वोच्च नागरिक सम्मान ‘भारत रत्न’ से सम्मानित किया।
इतनी ख्याति एवं प्रतिष्ठा पाकर भी उन्होंने सदा सादा जीवन जिया। काशी की सुहाग गली वाले घर के एक साधारण कमरे में वे सदा चारपाई पर बैठे मिलते थे। बीमार होने पर भी वे अस्पताल नहीं जाते थे। उनकी इच्छा थी कि वे दिल्ली में इण्डिया गेट पर शहनाई बजायें। शासन ने इसके लिए उन्हें आमन्त्रित भी किया; पर तब तक उनकी काया अत्यधिक जर्जर हो चुकी थी।
21 अगस्त, 2006 को भोर होने से पहले ही उनके प्राण पखेरु उड़ गये। देहान्त से कुछ घण्टे पहले उन्होंने अपने पुत्र एवं शिष्य नैयर हुसेन को राग अहीर भैरवी की बारीकियाँ समझायीं। इस प्रकार अन्तिम साँस तक वे संगीत की साधना में रत रहे।