Johann Oppolzer se narodil 3. srpna 1808 na novohradském hradě.Medicínská studia absolvoval v Praze, kde na něho měl velký vliv profesor Krombholz, proslulý encyklopedickou znalostí všech lékařských oborů. Jako sedmadvacetiletý si nechal Oppolzer v Praze vytisknout svou doktorskou disertaci věnovanou tehdejším epidemiím.
V té době byl asistentem na pražské klinice, což byla tehdy funkce téměř bezplatná, a proto byl zároveň i pražským praktickým lékařem.
Na jeho lékařské působení a především lidský přístup vzpomíná ve svých Pamětech pozdější známý historik W. W. Tomek - tehdy to byl chudý dvaadvacetiletý student, o kterého přesto doktor Oppolzer, bez naděje na větší honorář, pečoval až do uzdravení.
„Některý den před Novým rokem došel jsem k doktorovi Oppolzerovi, mladému tehdáž, však již pověstnému lékaři a příznivci študentů, žádat jeho lékařskou pomoc. Ohledal mě a nařídil mi, abych si lehl, že bude ke mně přicházet. Učinil jsem tak, ale brzy se ukázalo, že jsem měl horkou nemoc, ač mně to nepověděli, až když bylo po hlavní krizi. Doktor Oppolzer přicházel každý den…“
V roce 1841 byl již primářem pražské všeobecné nemocnice a na základě habilitačního spisu z roku 1839 se stal profesorem klinických předmětů na pražské univerzitě. V Praze patřil mezi ty internisty, kteří vyšetřovali podle vzoru Vídně pomocí poklepů a poslechů.
V té době se také oženil s Marií Pleischlovou. Stal se tak zetěm neméně významného vědce Adolfa Martina Pleischla (1787 - 1867), zakladatele lékařské chemie na pražské univerzitě. S jeho podporou založil Oppolzer v roce 1845 v pražské nemocnici první chemickodiagnostickou laboratoř v českých zemích, která vedle rozboru krve a moči, močových a ledvinových kamenů přinesla i nové metody chemických zkoušek pro tehdejší klinickou praxi.
Jméno Johanna Oppolzera bylo známé nejen v Čechách, ale i v evropských městech. Jako vynikajícího vysokoškolského učitele a vynikajícího diagnostika ho pozvali na lipskou univerzitu, kde se jako profesor patologie a terapie zároveň stal ředitelem lipské Jakubské nemocnice. V roce 1850 byl povolán na vídeňskou universitu a postaven do čela všeobecné vídeňské nemocnice. V této funkci byl velkým propagátorem nových terapeutických metod a speciálních výzkumů.
Středem jeho vědeckých zájmů byly choroby srdce,dýchacího ústrojí a ústní dutiny a o těchto tématech také hojně publikoval. Vedle odborných znalostí je dodnes připomínán jeho přístup k pacientům a jeho heslo, kterým se po celou dobu své lékařské praxe řídil: „Nikdy by žádný lékař neměl zapomenout, že ne s nemocemi, ale s nemocnými lidmi máme co do činění…“
U jména doktora Oppolzera se objevuje označení „von Oppolzer“. Známý lékař a pedagog byl totiž za své zásluhy oceněn císařem a povýšen na rytíře. Zemřel 16. srpna 1871 na skvrnitý tyfus, kterým se nakazil při práci v nemocnici.