תנא בדור הראשון לתנאים. תלמידם של הלל ושמאי ורבם של רבי אליעזר ורבי יהושע.
נאמר בגמרא (ראש השנה דף לא ע"ב): "כל שנותיו של רבן יוחנן בן זכאי מאה ועשרים שנה: ארבעים שנה עסק בפרקמטיא, ארבעים שנה למד, ארבעים שנה לימד". עוד נאמר (סוכה דף כח ע"א): "אמרו עליו על רבן יוחנן בן זכאי: מימיו לא שח שיחת חולין, ולא הלך ארבע אמות בלא תורה ובלא תפילין... לא הניח מקרא ומשנה גמרא הלכות ואגדות דקדוקי תורה ודקדוקי סופרים תקופות וגימטריאות שיחת מלאכי השרת... מעשה מרכבה". "רבן יוחנן בן זכאי מה היה כחו, שכך היה אומר: אם כל השמים יריעות וכל בני אדם לבלרין וכל היערים קולמוסין, אינן יכולין לכתוב מה שלמדתי מרבותי; ולא חסרתי מהם אלא ככלב המלקק בים" (ילקוט שמעוני, בראשית רמז, כ).
"תנו רבנן צדק צדק תרדוף, הלך אחר חכמים לישיבה. אחר רבי אליעזר ללוד, אחר רבן יוחנן בן זכאי לברור חיל, אחר רבי יהושע לפקיעין, אחר רבן גמליאל ליבנה, אחר רבי עקיבא לבני ברק, אחר רבי מתיא לרומי, אחר רבי חנניא בן תרדיון לסיכני, אחר רבי יוסי לציפורי, אחר רבי יהודה בן בתירה לנציבין, אחר רבי יהושע לגולה, אחר רבי לבית שערים, אחר חכמים ללשכת הגזית" (סנהדרין דף לב ע"ב).
"תנו רבנן: ארבעים שנה קודם חורבן הבית לא היה גורל עולה בימין, ולא היה לשון של זהורית מלבין, ולא היה נר מערבי דולק, והיו דלתות ההיכל נפתחות מאליהן, עד שגער בהן רבן יוחנן בן זכאי. אמר לו: היכל היכל! מפני מה אתה מבעית עצמך? יודע אני בך שסופך עתיד ליחרב" (יומא דף לט ע"ב).
בעת המצור על ירושלים התחזה רבן יוחנן בן זכאי למת וכך התאפשרה יציאתו מהעיר. אחר כך נפגש עם אספסיינוס המצביא הרומאי וניבא לו את עלייתו לשלטון ברומא, ואספסיינוס מילא את שלוש בקשותיו: תן לי יבנה וחכמיה, הצלת שושלת הנשיאות, ורופאים שירפאו את רבי צדוק (גיטין דף נו ע"ב). בכך הציל רבן יוחנן בן זכאי את מעמד הנשיאות ואת עולם התורה.
אחרי דיכוי המרד הגדול, חורבן המקדש והריגת רבן שמעון בן גמליאל הנשיא, כיהן רבן יוחנן בן זכאי כנשיא הסנהדרין באופן זמני, והנהיג את האומה לשמירת הדת גם בלא מקדש, וכן התקין תקנות זכר למקדש. משהתאפשר למנות את רבן גמליאל לנשיא, פינה לו את מקומו ביבנה, וייסד ישיבה בברור חיל.
מסופר באבות דרבי נתן (אבות דרבי נתן נוסחא ב, פרק ז): "היה רבן יוחנן יושב ומצפה כנגד חומת ירושלים לדעת מה יעשה בה... כיון שראה רבן יוחנן בן זכאי שחרב בית המקדש ונשרף ההיכל, עמד וקרע את בגדיו וחלץ את תפליו, והיה יושב ובוכה ותלמידיו עמו". עוד מסופר (אבות דרבי נתן פרק ד משנה ה): " פעם אחת היה רבן יוחנן בן זכאי יוצא מירושלים והיה רבי יהושע הולך אחריו וראה בית המקדש חרב. אמר רבי יהושע, אוי לנו על זה שהוא חרב! מקום שמכפרים בו עונותיהם של ישראל. אמר לו: בני, אל ירע לך, יש לנו כפרה אחת שהיא כמותה, ואיזה זה גמילות חסדים. שנאמר: כי חסד חפצתי ולא זבח".
על זמן פטירתו מסופר (ברכות דף כח ע"ב): "כשחלה רבי יוחנן בן זכאי, נכנסו תלמידיו לבקרו. כיון שראה אותם, התחיל לבכות. אמרו לו תלמידיו: נר ישראל, עמוד הימיני, פטיש החזק, מפני מה אתה בוכה? אמר להם: אילו לפני מלך בשר ודם היו מוליכין אותי, שהיום כאן ומחר בקבר... אף על פי כן הייתי בוכה; ועכשיו שמוליכים אותי לפני מלך מלכי המלכים הקדוש ברוך הוא... ויש לפני שתי דרכים, אחת של גן עדן ואחת של גהנם, ואיני יודע באיזו מוליכים אותי, ולא אבכה?... בשעת פטירתו אמר להם: פנו כלים מפני הטומאה, והכינו כסא לחזקיהו מלך יהודה שבא".
(כתב: הרב אוריאל לוי)
