נולד בשנת תרמ"ו (1886) לאשר צבי יפה'ן. למד בישיבות סלוצק וקוברין, וכן אצל הרב זלמן סנדר כהנא שפירא. בשנת תרס"ז (1907), בגיל 20, עבר לנובהרדוק, שם התקרב ל"סבא מנובהרדוק", הרב יוסף יוזל הורוביץ. בשנת תרע"ג (1913) נישא לבתו של רבו "הסבא מנובהרדוק". בשנת תרע"ד (1914) נשלח על ידי חמיו לברנוביץ' לייסד שם ישיבה בשיטת המוסר של נובהרדוק.

בי"ז בכסלו תר"פ (1919) נפטר חמיו והוא התמנה תחתיו כראש הישיבה המרכזי וכממשיכו בהנהגת שיטת המוסר של נובהרדוק. למרות האיסור שהטילו השלטונות הבולשביקים, המשיך ללמד תורה בתנאי מחתרת, ואף נאסר בשל כך למשך כחודש. בהתייעצות עם החפץ חיים הועברה הישיבה לביאליסטוק שבפולין. כמוה עשו גם שאר ישיבות נובהרדוק ברוסיה שהעבירו את פעילותן לערים שונות בפולין - מזריטש, ורשה ופינסק.

בשנת תרפ"ט (1929) ביקר בארץ ישראל וייסד ישיבה בתל אביב יחד עם עמיתו הרב הלל ויטקינד. במהלך ביקורו בארץ נפגש עם הרב יוסף חיים זוננפלד. עם פרוץ מלחמת העולם השנייה העביר את הישיבה מביאליסטוק לווילנה. הוא קיווה לעלות לארץ ישראל, אך משהייתה הזדמנות נסע דרך סיביר לשאנגחאי שבסין. בסוף שנת תש"א (1941) הגיע לארצות הבריתהערה|הוא נסע באונייה היפנית האחרונה שיצאה לחופי ארצות הברית בטרם פרוץ מצב המלחמה בין ארצות הברית ליפן. יחד עמו נסעו בספינה זו: רבי משה מרדכי שקופ, רבי משה שצ'קס, רבי יחיאל מיכל פיינשטיין ואחרים. וייסד בניו יורק את ישיבת "בית יוסף".

בשנת תשכ"ג (1963) העלה את עצמות חמיו "הסבא מנובהרדוק" לקבורה בהר המנוחות בירושלים. כעבור שנה, בשנת תשכ"ד (1964), עלה לישראל והתגורר בירושלים, שם ייסד מחדש את ישיבת "בית יוסף".

נפטר בליל י"ד בניסן תש"ל, ונקבר בהר המנוחות, סמוך לקבר חמיו.

בנו היה הרב יעקב חיים יפה'ן, ראש ישיבת בית יוסף בניו יורק ומחבר ספר "נר משפט" על מסכת סנהדרין, ונכדו היה הרב אהרן יפה'ן, מראשי ישיבת חברון ונינו הוא הרב איתן יפה'ן מגיד שיעור בישיבת חברון. חתנו היה הרב יהודה לייב נקריץ מישיבת נובהרדוק, שבתו שושנה נישאה לרב יחיאל יצחק פאר ראש ומייסד ישיבת "דרך איתן" על שם הרב יפה'ן.

בנו זלמן נפטר בתשנ"ג.

• הרב יעקב ישראל קניבסקי
• הרב אליעזר בן ציון ברוק