আব্দুল জলিল ১৯৩৯ সালের ২১ জানুয়ারি জন্মগ্রহণ করেন নওগাঁ জেলার সদর উপজেলার চকপ্রাণ গ্রামে। তার বাবার নাম ফয়েজউদ্দিন আহমেদ এবং মাতার নাম জারিনা ফায়েজ। বাবা ফয়েজউদ্দিন আহমেদ ছিলেন ব্যবসায়ী। স্থানীয় একটি প্রাথমিক বিদ্যালয়ে তার শিক্ষা জীবনের শুরু। স্থানীয় শিক্ষা প্রতিষ্ঠানগুলোতেই তিনি মাধ্যমিক শিক্ষা সম্পন্ন করেন। তিনি নওগাঁ কে. ডি. সরকারী উচ্চ বিদ্যালয়ে ভর্তি হন। ১৯৫৭ সালে ম্যাট্রিকুলেশন পাশ করেন। সেখানে পড়াশুনা শেষে ভর্তি হন রাজশাহী কলেজে। সেখানে তিনি উচ্চ মাধ্যমিক পড়াশোনা সম্পন্ন করেন। ১৯৬০ সালে আব্দুল জলিল ঢাকা বিশ্ববিদ্যালয়ে ভর্তি হন। এরপর ১৯৬৩ সালে তিনি রাষ্ট্রবিজ্ঞানে স্নাতক (সম্মান) সম্পন্ন করেন এবং ১৯৬৪ সালে স্নাতকোত্তর সম্পন্ন করেন। এরপর তিনি আইন বিষয়ে পড়াশুনা করার জন্য লন্ডনে যান। কিন্তু, পড়াশুনা শেষ না করেই ১৯৬৯ সালে তাকে দেশে ফিরে আসতে হয়।