נולד במגנישוב לאביו ר' יעקב שרמן, נכד הג"ר ישראל אברהם ר"פ ממגנישוב נכד רח"כ. לרגל מלחמת רוסיהיפן ערק מפולין לגליציה, והתישב בעיירה וואיניטש. נשא בה את פערל בת הגביר החסיד ר' אהרן קרייזווירט, והיא השתדלה לפרנס את הבית כדי שיוכל לעסוק בתורה במנוחה. כל ימיו ישב שם ע"ה ועל מעשים בצינעה ובהסתר, ובני המקום קבלוהו עליהם כרב ומורה. הם העריצוהו על מידותיו התרומיות, כאיש אמת ובעל מעשים בצינעה ובהסתר. בימי חודש אלול צלם ולמד תקו"ז, מהותו נשתנתה, והוד קדושה האיר את פניו. בתרס"ט נדפס ספרו בית אברהם עה"ת מלא מוסר ויר"ש, ואינו רשום. עשר שנים עסק בחיבוריו שו"ת מהרי"א ושמלה רחבה על טריפות הריאה, אלא שהכתבים אבדו בשואה. בשנת הזעם חזר לקוזניץ מחוז מולדתו, ומשם הובל עם משפחתו לטרבלינקה, בה נספה ביום ט"ו תשרי תש"ב. עמו נספו זו' וילדיו: שלום מרדכי, נתן דוד, יהודה, וחוה גננדל הי"ד. שרד רק הרב חיים שליט"א אב"ד אנטוורפן.
פרטים על המשפחה בהקדמת מקצוע בתורה (צינץ), ניו יורק תשמ"ב.