الشيخ إبراهيم المدني نشأ وترعرع في بيئة دينية بفضل الله، وكان جده لوالدته حافظًا لكتاب الله، وقد تأثر فيه كثيرًا، وأول ما بدأ الأذان في مسجد حيه في المدينة وكان عمره خمسة عشر عامًا، واستمر في الأذان مناوبة مع ثلاثة من الجيران إلى أن تخرج من الكلية، وبعدها انقطع لظروف التدريس خارج المدينة وبعد سبع سنوات.
وفي عام 1428هـ طلب منه الأذان في مسجد المداح الذي بقي فيه إلى أن أكرمه الله سبحانه وتعالى بالأذان في الحرم المكي الشريف.