הישיבה נוסדה בבני ברק לאחר מלחמת העולם השנייה, כהמשך לישיבת סלבודקה בליטא, חנוכת הבניין התקיימה בקיץ ה'תש"ז, 1947. מייסד הישיבה בבני ברק היה הרב יצחק אייזיק שר (חתנו של "הסבא מסלבודקה" הרב נתן צבי פינקל), שלפני כן כיהן כראש הישיבה שבליטא. לצדו של הרב שר בהקמת הישיבה עמד חתנו, הרב מרדכי שולמן...