बहुमुखी संगीत प्रतिभा के धनी मोहम्मद ऱफी  का जन्म 24 दिसंबर, 1924 को पंजाब के अमृतसर ज़िले के गांव मजीठा में हुआ. संगीत प्रेमियों के लिए यह गांव किसी तीर्थ से कम नहीं है. मोहम्मद ऱफी के चाहने वाले दुनिया भर में हैं. भले ही मोहम्मद ऱफी साहब हमारे बीच में नहीं हैं, लेकिन उनकी आवाज़ रहती दुनिया तक क़ायम रहेगी.

मोहम्मद ऱफी के पिता का नाम हाजी अली मोहम्मद और माता का नाम अल्लारखी था. उनके पिता खानसामा थे. ऱफी के ब़डे भाई मोहम्मद दीन की हजामत की दुकान थी, जहां उनके बचपन का का़फी व़क्त गुज़रा. वह जब क़रीब सात साल के थे, तभी उनके ब़डे भाई ने इकतारा बजाते और गीत गाते चल रहे एक फक़ीर के पीछे-पीछे उन्हें गाते देखा. यह बात जब उनके पिता तक पहुंची तो उन्हें का़फी डांट प़डी. कहा जाता है कि उस फक़ीर ने ऱफी साहब को आशीर्वाद दिया था कि वह आगे चलकर खूब नाम कमाएगा. एक दिन दुकान पर आए कुछ लोगों ने ऱफी साहब को फक़ीर के गीत को गाते सुना. वह उस गीत को इस क़दर सधे हुए सुर में गा रहे थे कि वे लोग हैरान रह गए. ऱफी साहब के ब़डे भाई ने उनकी प्रतिभा को पहचाना. 1935 में उनके पिता रोजगार के सिलसिले में लाहौर आ गए. यहां उनके भाई ने उन्हें गायक उस्ताद उस्मान खान अब्दुल वहीद खान की शार्गिदी में सौंप दिया. बाद में ऱफी साहब ने पंडित जीवन लाल और उस्ताद ब़डे ग़ुलाम अली खां जैसे शास्त्रीय संगीत के दिग्गजों से भी संगीत सीखा.

मोहम्मद ऱफी साहब उस व़क्त के मशहूर गायक और अभिनेता कुंदन लाल सहगल के दीवाने थे और उनके जैसा ही बनना चाहते थे. वह छोटे-मोटे जलसों में सहगल के गीत गाते थे. क़रीब 15 साल की उम्र में उनकी मुलाक़ात सहगल से हुई. हुआ यूं कि एक दिन लाहौर के एक समारोह में सहगल गाने वाले थे. ऱफी भी अपने भाई के साथ वहां पहुंच गए. संयोग से माइक खराब हो गया और लोगों ने शोर मचाना शुरू कर दिया. व्यवस्थापक परेशान थे कि लोगों को कैसे खामोश कराया जाए. उसी व़क्त ऱफी के ब़डे भाई व्यवस्थापक के पास गए और उनसे अनुरोध किया कि माइक ठीक होने तक ऱफी को गाने का मौक़ा दिया जाए. मजबूरन व्यवस्थापक मान गए. ऱफी ने गाना शुरू किया, लोग शांत हो गए. इतने में सहगल भी वहां पहुंच गए. उन्होंने ऱफी को आशीर्वाद देते हुए कहा कि इसमें कोई शक नहीं कि एक दिन तुम्हारी आवाज़ दूर-दूर तक फैलेगी. बाद में ऱफी को संगीतकार फिरोज निज़ामी के मार्गदर्शन में लाहौर रेडियो में गाने का मौक़ा मिला. उन्हें कामयाबी मिली और वह लाहौर फिल्म उद्योग में अपनी जगह बनाने की कोशिश करने लगे. उस दौरान उनकी रिश्ते में ब़डी बहन लगने वाली बशीरन से उनकी शादी हो गई. उस व़क्त के मशहूर संगीतकार श्याम सुंदर और फिल्म निर्माता अभिनेता नासिर खान से ऱफी की मुलाक़ात हुई. उन्होंने उनके गाने सुने और उन्हें बंबई आने का न्यौता दिया. ऱफी के पिता संगीत को इस्लाम विरोधी मानते थे, इसलिए ब़डी मुश्किल से वह संगीत को पेशा बनाने पर राज़ी हुए. ऱफी अपने भाई के साथ बंबई पहुंचे.