Griffith se proslavil v šedesátých letech díky komediálnímu seriálu Andy Griffith Show. Série si rychle získala oblibu diváků i kritiky, zejména díky Griffithovi, jakožto představiteli ovdovělého šerifa Andyho Taylora. I přes nabytou popularitu se mu nikdy nepodařilo prorazit jako filmovému herci a vetšinu své kariéry hrál v televizních filmech a seriálech. Slavnější výjimku představuje film Tvář v davu (1957) o manipulaci veřejnosti skrze média.
Českému publiku je ale především znám jako advokát/detektiv Matlock ze stejnojmeného seriálu ze soudního prostředí, který se v letech 1986 až 1995 dočkal celkem 181 epizod a několika filmů. Postava advokáta, který se vrtá v případech svých klientů, dokud neodhalí skutečného vraha, si získala velikou oblibu a dokázala ustát v konkurenci detektivních seriálů té doby, než se stala nádivkou vždy atraktivního dopoledního vysílání.
V posledních letech se Griffithův zdravotní stav zhoršoval, naposledy se před kamerou objevil ve filmu Pravidla hry z roku 2008.