او در روستای وفس (رزن) متولد شد. پدرش مشهدی ابراهیم معصومی کشاورز بود. وی تحصیلات مقدماتی را در زادگاه خویش رزن انجام داد و به تهران رفت و علوم اسلامی را فراگرفت. با ورود شیخ عبدالکریم حائری یزدی به قم به آن شهر رفت و در حوزه علمیه قم به تحصیل پرداخت. پس از ده سال تحصیل در قم به تدریس پرداخت. پدر ایشان مردی پرهیزکار و باتقوا به نام ابراهیم بود و پس از مشاهده ی هوش و نبوغ فرزندش آخوند ملاعلی را نزدمرحوم آخوند محمدتقی ثابتی برای آموختن و فراگیری قرآن فرستاد. آخوند همدانی پس از فراگیری مقدمات عازم شهر همدان شد و در حوزه علمیه آن شهر نزد عالمانی چون آیت الله میرزا عبدالرزاق محدث حائری و مرحوم حاج شیخ علی دامغانی به تحصیل پرداخت و از محضر عارف وارسته آیت الله شیخ علی گنبدی همدانی (از عرفای بزرگ و مدفون در قبرستان شیخان قم) بهره ها گرفت. همچنین در تهران نزد آیت الله شیخ عبدالنبی نوری و آیت الله العظمی تنکابنی به ادامه تحصیل پرداخت.