Актёрскую карьеру Хефлин начал на Бродвее в начале 1930-х годов, а в 1936 году, после подписания контракта с «RKO», дебютировал на большом экране в фильме «Женщина восстает» с Кэтрин Хепбёрн в главной роли. В 1940 году он появился в картине студии «Warner Bros.» «Дорога на Санта-Фе», а затем перешёл на студию «MGM», где добился большого успеха и признания за роли в фильмах «Г.М. Пульхэм Эсквайр» (1941) и «Джонни Игер» (1942). За последний он даже стал обладателем премии «Оскар» за лучшую мужскую роль второго плана.

Несмотря на это студия «MGM» продолжала снимать Хефилина на ведущих ролях лишь в фильмах категории B, а в более престижных картинах ему предлагали лишь второстепенные роли. Всё же ролей в кино у него было довольно много, и он продолжал оттачивать своё актёрское мастерство на протяжении всех 1940-х годов. У него были успешные роли в картинах «Теннесси Джонсон» (1942), «Пока плывут облака» (1946), «Странная любовь Марты Айверс» (1946), «Улица Грин Долфин» (1947) и «Три мушкетера» (1948), «Акт насилия» (1948) и «Мадам Бовари» (1949).

В годы Второй мировой войны Ван Хефлин служил оператором в американских ВВС в Европе.

В начале 1950-х годов наиболее яркой стала его роль в картине «Шейн» с Джин Артур в главной роли. В дальнейшем он достаточно успешно исполнил роли в фильмах «Чёрная вдова» (1954) и «В 3:10 на Юму» (1957). На протяжении своей карьеры в кино Хефлин продолжал играть и в театре, где у него были заметные роли в постановках «Филадельфийская история», которая ставилась ан Бродвее в конце 1930-х, а также в пьесах Артура Миллера «Воспоминания о двух понедельниках» и «Вид с моста».

Его последняя крупная роль была в фильме-катастрофе «Аэропорт», где он исполнил роль Д.О. Герреро, пассажира, который решил взорвать себя вместе с самолётом, чтобы его жена (в исполнении Морин Стэплтон) получила страховку. Ван Хефлин удостоен двух звёзд на Голливудской аллее славы: за вклад в киноиндустрию и телевидении.

Ван Хефлин трижды был женат, а его последняя супруга, актриса Френсис Е. Нил, с которой он прожил 25 лет, стала матерью его троих детей. 6 июля 1971 года во время купания в бассейне у актёра случился сердечный приступ. Ему удалось доплыть до лестницы, где он потерял сознание и провисел на ней несколько часов, пока его не обнаружили. Он был доставлен в больницу, где 23 июля 1971 года умер, не приходя в сознание. Ван Хефлин был кремирован, а его прах развеян над океаном.