John S. Romita Jr. ha iniziato la sua carriera presso la Marvel UK facendo i bozzetti delle copertine delle ristampe. Ha fatto il suo debutto americano con "Chaos at the Coffee Bean!", una storia contenuta in "Amazing Spider-Man Annual #11" (1977).
Romita è diventato popolare per "Iron Man", nel 1978, e all'inizio degli anni ‘80, ha lavorato alla serie "Amazing Spider-Man". In quel periodo è stato anche l'artista della serie "Dazzler", e ha lavorato al popolare "Uncanny X-Men".
Alla fine degli anni '80 e all'inizio degli anni ‘90, Romita ha lavorato a "Daredevil" assieme alla scrittrice Ann Nocenti e al disegnatore vincitore dell'Eisner Award, Al Williamson. Durante gli anni ‘90, ha lavorato in una serie di titoli della Marvel, tra cui "The Punisher War Zone", "The Hulk", la miniserie "Cable", "The Mighty Thor", "Iron Man", "Armor War", scritto da John Byrne, e al cross-over "Punisher Barman".
Negli anni 2000, Romita è tornato a lavorare in "The Amazing Spider-Man", assieme allo scrittore J Michael Straczynski. Ha disegnato "Wolverine", della Marvel assieme a Mark Millar, come parte delle celebrazioni per il trentesimo anniversario del personaggio. Nel 2004, il progetto creato da Romita, "The Grey Area", è stato pubblicato da Image Comics. L'arte di Romita, da allora, è apparsa in "Black Panther", "The Sentry", e "Ultimate Vision", scritto da Mark Millar. Nel 2006, Romita ha collaborato assieme a Neil Gaiman nella reinterpretazione di "The Eternals" sotto forma di una miniserie di sette numeri. Romita ha lavorato assieme a Greg Pak nel maggiore degli eventi crossover della Marvel del 2007, "World War Hulk". Nel 2008, Romita è tornato a lavorare in "Amazing Spider-Man".