רבי ירמיה נולד ולמד תורה בבבל. בצעירותו עלה לארץ ישראל וגדל שם בתורה, עד שנהיה לאחד מגדולי אמוראי ארץ ישראל בדור השלישי והרביעי.
רבותיו: רבו המובהק היה רבי זירא. רבי ירמיה זכה ללמוד תורה גם מפי רבי יוחנן, וכן למד אצל רבי אבהו ורבי אבא. מתלמידיו: רבי יונה ורבי יוסי בר זבדא, ראשי ישיבת טבריה בדור הרביעי, וכן רבין ורב דימי.
רבי ירמיה עסק בצרכי ציבור, היה אחראי מטעם השלטון לתשלום מיסים, ונסע עקב כך למקומות רבים בארץ. כלל בידנו (סנהדרין דף יז ע"ב): כל מקום שנאמר בתלמוד "אמרי במערבא", הכוונה לרבי ירמיה. רבי ירמיה הרבה לחקור בשאלות תיאורטיות, רוב בעיותיו לא הוכרעו ונשארו בתיקו. במקרה מסוים הקפידו חכמים על שאלתו והרחיקוהו מבית המדרש לזמן מה, עד שראו מידת ענוותנותו הגדולה והחזירוהו (הרחקתו מבית המדרש: בבא בתרא דף כג ע"ב. החזרתו לבית המדרש: בבא בתרא דף קסה ע"ב).
רבי ירמיה הקפיד מאוד בקריאת שמע ותפילה, והיה מאריך באחד ושוחה כל גופו בתפילת מודים (ירושלמי ברכות פ"ב ה"א ופ"א ה"ה). לפני מותו ציוה להלבישו בתכריכים לבנים, ולתת נעליו ברגליו ומקלו בידו ולהשכיבו על הצד, על מנת שיהא מוכן לביאת המשיח (ירושלמי כלאים פ"ט ה"ג). ממאמריו: "במחשכים הושיבני זה תלמודה של בבל" (סנהדרין דף כד ע"א), "העוסק בצרכי ציבור כעוסק בדברי תורה" (ירושלמי ברכות פ"ה ה"א).
(כתב: הרב אוריאל לוי)