महात्मा गांधी वर्ष 1934 में यहां आए और भूकंप पीड़ितों की ना केवल मदद की थी, बल्कि पीड़ितों के लिए राशि भी एकत्रित की थी। इस राशि के लिए उन्होंने अपने ऑटोग्राफ लेने वालों से पांच-पांच रुपए की राशि ली थी और फिर पीड़ितों की मदद के लिए उसे सौंप दिया था। 

बापू अप्रैल, मई 1934 में यहां आए थे। बिहार में आए भूकंप और कांग्रेस द्वारा चलाए जा रहे राहत कार्य को देखने के लिए वे सहरसा से बिहपुर होते हुए भागलपुर पहुंचे थे।

भागलपुर आने के बाद गांधी दीपनारायण सिंह के घर ठहरे और लाजपत पार्क में लोगों को संबोधित करते हुए भूकंप पीड़ितों की मदद करने और राहत कार्य में सहयोग करने की अपील की थी।

सभा में स्वयंसेवकों ने झोली फैला लोगों से चंदा एकत्र किया था। गांधीवादी विचारक कुमार कृष्णन बताते हैं कि उस सभा में बहुत से लोग गांधी का ऑटोग्राफ लेना चाहते थे। गांधीजी ने पांच-पांच रुपये लेकर ऑटोग्राफ दिया था और इससे एकत्र राशि पीड़ितों की मदद के लिए सौंप दी थी।

भागलपुर के जिला एवं सत्र न्यायाधीश आरएस राय ने अपने सरकारी आवास को दिखाते हुए कहा कि यह जो सरकारी आवास है, वह प्रख्यात स्वतंत्रता सेनानी तथा ब्रिटेन से बैरिस्टर की डिग्री प्राप्त करने वाले दीप नारायण सिंह की निजी संपत्ति रही है, जो उनकी इच्छानुसार जिला न्यायाधीश का आवास बना। उन्होंने बताया कि विशिष्ट वास्तुकला व बनावट के कारण यह भवन बिहार में अनूठा है और यहां महात्मा गांधी भी ठहर चुके हैं। इस भवन के शिल्प-सौंदर्य और ऐतिहासिक महत्ता के कारण इसे ‘हेरिटेज बिल्डिंग’ की सूची में शामिल करने के लिए सरकार से पत्राचार भी किया है।’ गांधी भागलपुर में सबसे पहले एक छात्र सम्मेलन को संबोधित करने पहुंचे थे।