1916 ई. के लखनऊ अधिवेशन में वे सर्वप्रथम महात्मा गाँधी के सम्पर्क में आये। गांधी उनसे 20 साल बड़े थे। दोनों में से किसी ने भी आरंभ में एक-दूसरे को बहुत प्रभावित नहीं किया। बहरहाल, 1929 में कांग्रेस के ऐतिहासिक लाहौर अधिवेशन का अध्यक्ष चुने जाने तक नेहरू भारतीय राजनीति में अग्रणी भूमिका में नहीं आ पाए थे। इस अधिवेशन में भारत के राजनीतिक लक्ष्य के रूप में संपूर्ण स्वराज्य की घोषणा की गई। उससे पहले मुख्य लक्ष्य औपनिवेशिक स्थिति की माँग था। नेहरू जी के शब्दों में:-
कुटिलता की नीति अन्त में चलकर फ़ायदेमन्द नहीं होती। हो सकता है कि अस्थायी तौर पर इससे कुछ फ़ायदा हो जाए। अगर हम इस देश की ग़रीबी को दूर करेंगे, तो क़ानूनों से नहीं, शोरगुल मचाके नहीं, शिकायत करके नहीं, बल्कि मेहनत करके। एक-एक आदमी बूढ़ा और छोटा, मर्द, औरत और बच्चा मेहनत करेगा। हमारे सामने आराम नहीं है।
समय के साथ-साथ पं. नेहरू की रुचि भारतीय राजनीति में बढ़ती गयी। जलियाँवाला बाग़ हत्याकाण्ड की जाँच में देशबन्धु चितरंजनदास एवं महात्मा गाँधी के सहयोगी रहे और 1921 के असहयोग आन्दोलन में तो महात्मा गाँधी के अत्यधिक निकट सम्पर्क में आ गये। यह सम्बन्ध समय की गति के साथ-साथ दृढ़तर होता गया और उसकी समाप्ति केवल महात्मा गाँधी जी की मृत्यु से ही हुई।
गाँधी जी के अनुयायी के रूप में
नेहरू की आत्मकथा से भारतीय राजनीति में उनकी गहरी रुचि का पता चलता है। उन्हीं दिनों अपने पिता को लिखे गए पत्रों से भारत की स्वतंत्रता में उन दोनों की समान रुचि दिखाई देती है। लेकिन गांधी से मुलाक़ात होने तक पिता और पुत्र में स्वतंत्रता प्राप्ति के लिए निश्चित योजनाओं का विकास नहीं हुआ था। गांधी ने उन्हें राजनीति में अपना अनुयायी बना लिया। गांधी द्वारा कर्म पर बल दिए जाने के गुण से वह दोनों प्रभावित हुए। महात्मा गांधी का तर्क था कि ग़लती की सिर्फ़ निंदा ही नहीं, बल्कि प्रतिरोध भी किया जाना चाहिए। इससे पहले नेहरू और उनके पिता समकालीन भारतीय राजनीतिज्ञों का तिरस्कार करते थे, जिनका राष्ट्रवाद, कुछ अपवादों को छोड़कर लंबे भाषणों और प्रस्तावों तक सीमित था। गांधी द्वारा ग्रेट ब्रिटेन के ख़िलाफ़ बिना भय या घृणा के लड़ने पर ज़ोर देने से भी जवाहरलाल बहुत प्रभावित हुए।