סתם רבי יהושע במשנה הוא רבי יהושע בן חנניה, תנא בדור השני, תלמיד מובהק לרבן יוחנן בן זכאי, חבר של רבי אליעזר, ורבם של רבי עקיבא ורבי ישמעאל.
רבי דוסא בן הרכינס סיפר עליו (ירושלמי יבמות פרק א דף ג): "זכור אני שהיתה אמו מולכת עריסתו לבית הכנסת, בשביל שיתדבקו אזניו בדברי תורה". לכן שבחו רבן יוחנן בן זכאי במילים: "אשרי יולדתו" (מסכת אבות פרק ב משנה ח).
רבי יהושע היה לוי, ושירת עם המשוררים במקדש (ערכין דף יא ע"ב). אחר החורבן עבר ליבנה, היה לאב בית הדין תחת נשיאותו של רבן גמליאל, והתפרנס ממכירת פחמים (ברכות דף כח ע"א). נאמר בגמרא (בבא בתרא דף ס ע"ב): "כשחרב הבית רבו פרושין בישראל שלא לאכול בשר ושלא לשתות יין. נטפל להן רבי יהושע... אמר להן: בני, שלא להתאבל כל עיקר אי אפשר, שכבר נגזרה גזירה; ולהתאבל יותר מדי אי אפשר, שאין גוזרין גזירה על הציבור אא"כ רוב ציבור יכולין לעמוד בה".
רבי יהושע פעל בתקופת גזרות הקיסר אדריינוס, ושיכנע את העם לא למרוד בשלטון הרומי (בראשית רבה פרשה סד). היה חכם מופלג, וייצג את העם בויכוחים באמונה עם השלטון הרומי ועם המינים. ומסופר בגמרא (חולין דף ס ע"א): הקיסר ביקש מרבי יהושע לראות את אלהי ישראל. הוציאו החוצה בימי תמוז ואמר לו להסתכל בשמש, וכשהשיבו שאינו יכול, אמר לו שאם אינו יכול להביט על אחד מהמשמשים לפני הקב"ה כל שכן שאינו יכול להסתכל בשכינה.
נאמר בגמרא (סנהדרין דף לב ע"ב): "תנו רבנן: צדק צדק תרדוף, הלך אחר חכמים לישיבה. אחר רבי אליעזר ללוד, אחר רבן יוחנן בן זכאי לברור חיל, אחר רבי יהושע לפקיעין, אחר רבן גמליאל ליבנה, אחר רבי עקיבא לבני ברק, אחר רבי מתיא לרומי, אחר רבי חנניא בן תרדיון לסיכני, אחר רבי יוסי לציפורי, אחר רבי יהודה בן בתירא לנציבין, אחר רבי חנינא בן אחי רבי יהושע לגולה, אחר רבי לבית שערים, אחר חכמים ללשכת הגזית".
כשנפטר רבי יהושע, שאלוהו מי יגן עתה מפני המינים, השיב: "כיון שאבדה עצה מבנים נסרחה חכמתן של אומות העולם" (חגיגה דף ה ע"ב). "משמת רבי יהושע, בטלה עצה ומחשבה" (סוטה מט ע"ב).
(כתב: הרב אוריאל לוי)