Si è aggiudicato un Academy Award per la miglior sceneggiatura originale grazie al fortunato dramma romantico Ghost -fantasma (Ghost), che gli ha anche permesso di essere candidato ai BAFTA e ai Writers Guild of America Award. La pellicola, che vedeva protagonisti Patrick Swayze, Demi Moore e Whoopi Goldberg, è anche stata candidata come miglior film agli Oscar e ai Golden Globe. Attualmente, sta lavorando a un adattamento a Broadway di Ghost in versione musical, che esordirà a Londra nel 2010.
Tra le sue altre sceneggiature, ricordiamo Il segreto dell'universo - The last Mimzy (The Last Mimzy), Stuart Little 2, Deep Impact e Allucinazione perversa (Jacob's Ladder). Ha anche scritto e diretto My life - questa mia vita (My Life), con protagonisti Michael Keaton e Nicole Kidman.
Nel 1965, si è laureato alla New York University in produzione e regia cinematografica. E' stato assistente al montaggio a NBC News a metà degli anni sessanta e, seguendo lo spirito dei tempi, ha viaggiato il mondo in autostop tra il 1966 e il 1967.
Inoltre, è stato il curatore cinematografico del Whitney Museum of American Art a New York, dove ha contribuito a creare un programma chiamato The New American Filmmakers Series, un importante trampolino di lancio per i registi indipendenti all'inizio degli anni settanta.
Oltre alla sua carriera nel mondo del cinema, Rubin è stato studente e insegnante di meditazione negli ultimi quarant'anni.