इस लिंग की स्थापना का इतिहास यह है कि एक बार राक्षसराज रावण ने हिमालय पर जाकर शिवजी की प्रसन्नता के लिये घोर तपस्या की और अपने सिर काट-काटकर शिवलिंग पर चढ़ाने शुरू कर दिये। एक-एक करके नौ सिर चढ़ाने के बाद दसवाँ सिर भी काटने को ही था कि शिवजी प्रसन्न होकर प्रकट हो गये। उन्होंने उसके दसों सिर ज्यों-के-त्यों कर दिये और उससे वरदान माँगने को कहा। रावण ने लंका में जाकर उस लिंग को स्थापित करने के लिये उसे ले जाने की आज्ञा माँगी। शिवजी ने अनुमति तो दे दी, पर इस चेतावनी के साथ दी कि यदि मार्ग में इसे पृथ्वी पर रख देगा तो वह वहीं अचल हो जाएगा। अन्ततोगत्वा वही हुआ। रावण शिवलिंग लेकर चला पर मार्ग में एक चिताभूमि आने पर उसे लघुशंका निवृत्ति की आवश्यकता हुई। रावण उस लिंग को एक अहीर जिनका नाम बैजनाथ था(जो की भगवान विष्णु थे), को थमा लघुशंका-निवृत्ति करने चला गया। इधर भगवान विष्णु ने ज्योतिर्लिंग को भूमि पर रख दिया। फिर क्या था, लौटने पर रावण पूरी शक्ति लगाकर शिवलिंग को उठाने की कोशिश करने लगा जिससे शिवलिंग पर रावण के अंगुठे का हिस्सा दब गया, और कुछ समय बाद वह वापस लंका को चला गया। इधर ब्रह्मा, विष्णु आदि देवताओं ने आकर उस शिवलिंग की पूजा की। भगवान विष्णु(बैजनाथ) द्वारा स्थापना के कारण इस ज्योतिर्लिंग को बैजनाथ ज्योतिर्लिंग कहा जाता है ,शिवजी का दर्शन होते ही सभी देवी देवताओं ने शिवलिंग की वहीं उसी स्थान पर प्रतिस्थापना कर दी और शिव-स्तुति करते हुए वापस स्वर्ग को चले गये। जनश्रुति व लोक-मान्यता के अनुसार यह वैद्यनाथ-ज्योतिर्लिग मनोवांछित फल देने वाला है।