Тахар Рахим родился в семье выходцев из Орана, Алжир. В подростковом возрасте смотрел по несколько фильмов в день. Начинал увлекаться спортом, затем программированием. В конечном итоге решил посвятить себя кино. Во время учёбы в Университете Поля Валери (Монпелье) Тахар Рахим стал главным героем документального фильма «Тахар, студент», показанного на телеканале France 5.

В 2005 году Тахар переехал в Париж и некоторое время изучал драматическое искусство в Актёрской лаборатории под руководством Элен Зиди-Шерюи. Параллельно он работал на фабрике и подрабатывал в ночном клубе, чтобы свести концы с концами. В середине 2006 года Тахар Рахим заключил контракт с агентом и вскоре был приглашён в популярный телесериал «Община», сценаристом которого был Абдель Рауф Дафри. В то время Дафри уже написал первый вариант сценария о тюремной жизни, который собирался предложить Жаку Одиару.

Роль неграмотного арабского подростка из неблагополучной семьи, который попадает в тюрьму и учится жить по её законам, досталась Рахиму далеко не сразу. Изнуряющие пробы длились три месяца. Но в конце концов Тахар был признан лучшим. Жак Одиар неоднократно подчёркивал, что искал на роль Малика Эль-Джебены актёра-дебютанта, ещё не известного зрителям.