ומעשה ביהושע בן גמלא שקדש את מרתא בת ביתוס ומנהו המלך להיות כהן גדול, וכנסה... דאמר רב אסי תרקבא דדינרי עיילה ליה מרתא בת בייתוס לינאי מלכא עד דמוקי ליה ליהושע בן גמלא בכהני רברבי. (יבמות סא א)
דאמר רב יהודה אמר רב ברם זכור אותו האיש לטוב ויהושע בן גמלא שמו, שאלמלא הוא נשתכח תורה מישראל, שבתחלה מי שיש לו אב מלמדו תורה, מי שאין לו אב לא היה למד תורה, מאי דרוש ולמדתם אותם ולמדתם אתם, התקינו שיהו מושיבין מלמדי תינוקות בירושלים, מאי דרוש כי מציון תצא תורה, ועדיין מי שיש לו אב היה מעלו ומלמדו, מי שאין לו אב לא היה עולה ולמד, התקינו שיהו מושיבין בכל פלך ופלך ומכניסין אותן כבן ט"ז כבן י"ז, ומי שהיה רבו כועס עליו מבעיט בו ויצא, עד שבא יהושע בן גמלא ותיקן שיהו מושיבין מלמדי תינוקות בכל מדינה ומדינה ובכל עיר ועיר ומכניסין אותן כבן שש כבן שבע... (בבא בתרא כא א)