יוסף כרמון הוא שחקן תיאטרון וקולנוע. כשחקן תיאטרון מזוהה כרמון בעיקר עם התיאטרון הקאמרי, ובייחוד עם מחזותיו של חנוך לוין, בזכות שיתוף הפעולה ארוך השנים שלהם במחזות "יעקובי ולידנטל" (1972), "נעורי ורדה'לה" (1974), "סוחרי הגומי" (1978), "סולומון גריפ" (1981), "ייסורי איוב" (1981), "אורזי מזוודות" (1983), "כולם רוצים לחיות" (1985), "אשכבה" (1999) ועוד. בין סרטי הקולנוע שבהם השתתף: "אף מילה למורגנשטיין" (בן עויזרמן, בנימין קורצקי ואריה אליאס, 1963), "לאן נעלם דניאל וקס" (אברהם הפנר, 1972), "דודה קלרה" (אברהם הפנר, 1977), "שרגא קטן" (זאב רווח, 1978), "תל־אביב–ברלין" (ציפי טרופה, 1987), "מר באום" (אסי דיין, 1997), "עלילה" (עמוס גיתאי, 2003), "אדמה משוגעת" (דרור שאול, 2006), "ד"ר פומרנץ" (אסי דיין, 2011) ו"מיתה טובה" (טל גרניט ושרון מימון, 2014). תפקידו בסרט "חיותה וברל" (עמיר מנור, 2012) זיכה אותו בפרס השחקן הראשי הטוב ביותר בפסטיבל ירושלים.
כרמון הוא אביו של הבמאי והעורך אסף קורמן.
