Первоначально его увлечением была музыка, он выступал в клубах в качестве пианиста и барабанщика. Затем Ларри Миллер стал пробовать себя в комедийных постановках в клубах «Comic Streap» и «Catch A Rising Star», после чего решил посвятить себя актерской карьере. Ларри Миллер стал появляться в различных программах на телевидении, таких как «Шоу Ларри Сандерса», снискав известность в качестве популярного комика. Кроме того, он снялся в телесериале «Слава».
В 1988 году пришел черед большого кино. Снявшись в небольших ролях в картинах «Три беглеца» и «Замерзший», Ларри Миллер появился в знаменитой «Красотке» в роли мистера Холлистера. После роли в «Красотке» Ларри Миллер стал чаще сниматься в кино, в том же 1990 году появившись в комедии «Почти ангел», а в следующем – в фильмах «Коммандо из пригорода» и «Необходимая жестокость». В последнем он сыграл декана, похожий образ он воплотил в комедиях «Чокнутый профессор» и «Чокнутый профессор-2» в 1996 и 2000 годах соответственно.
Также Ларри запомнился американскому зрителю по роли мстительного швейцара в популярнейшем комедийном сериале «Сайнфилд», выходившем на канале «NBC» в течение девяти лет. Первоначально он претендовал на роль Джоржда Костанцы, но в результате в качестве приглашенной звезды стал появляться в сериале в роли злого привратника. Помимо «Сайнфилда», актер снимался и в других телесериалах. Кроме того, актера можно было видеть в триллере 1993 года «Секс, ложь, безумие», в комедийном детективе «Убийство на радио» в 1994 году и в боевике «Поцелуй навылет» в 2005 году. В 2007 году Ларри Миллер снялся в комедийной мелодраме «Блондинка с амбициями» с Джессикой Симпсон в главной роли, после чего появился в комедии «Напряги извилины» в 2008 году и в мелодраме «День Святого Валентина» в 2010 году.
Любопытно, что Ларри Миллер стал единственным актером, сыгравшим в обоих вариантах «10 причин моей ненависти» – в полнометражной ленте 1999 года и в телевизионной адаптации 2009-2010 года.
Также Ларри ведет свою юмористическую рубрику в политическом журнале неоконсервативного толка «The Weekly Standard».
