Dopo essersi laureato alla prestigiosa National School of Drama di Nuova Delhi in India, è apparso per la prima volta al cinema in una breve ma intensa scena nell'acclamato esordio alla regia di Mira Nair, Salaam Bombay!.
Nel 2003, lo sguardo inconsueto di Khan e i suoi occhi intensi gli sono valsi l'ambito ruolo del protagonista nella pellicola Maqbool, una versione Hindi del Macbeth, ambientata nei quartieri malfamati di Bombay. Quello stesso anno, ha fornito un'altra interpretazione notevole nella storia d'amore Haasil. In precedenza, è stato il protagonista di The Warrior del regista britannico Asif Kapadia, la pellicola in lingua Hindi che nel 2003 si è aggiudicata il BAFTA come miglior film britannico.
Recentemente, Khan ha ottenuto consensi internazionali nel ruolo dell'emigrante indiano negli Stati Uniti nella pellicola di Mira Nair Il destino nel nome - The namesake (The Namesake) e interpretando il Capitano che è alla caccia dei rapitori di Daniel Pearl nel film di Michael Winterbottom Un cuore grande (A Mighty Heart), con protagonista Angelina Jolie.