Oberhuber studierte von 1945 bis 1949 an der Staatsgewerbeschule in Innsbruck Bildhauerei. 1948 erfolgte der erste Versuch, Texte als „Bildwert“ zu verwenden. 1949 Beginn der informellen Malerei und Begründung der informellen Plastik. Informelle Plastiken wurden von sogenannten „Gerümpelplastiken“ aus „unnützen“ Gegenständen abgelöst. Hervorzuheben sind sowohl seine Text-Bilder als auch seine Möbelskulpturen. 1950–1951 studierte er an der Akademie der bildenden Künste Wien bei Fritz Wotruba und zur gleichen Zeit studierte er auch bei Willi Baumeister an der Staatlichen Akademie der bildenden Künste in Stuttgart. Mitte der 50er-Jahre wendete sich Oberhuber der gegenständlichen Malerei zu.
Oberhuber gilt als einer der schillerndsten Figuren der österreichischen Nachkriegskunst, er agierte als Galerist, Hochschulprofessor und -Direktor, Maler, Zeichner, Plastiker, Bühnenbildner, Möbel- und Modedesigner. Ende der 50er-Jahre verkündete der Künstler die „Theorie der permanenten Veränderung.“ In diesem Zusammenhang erfolgte die Ablehnung jeglicher Stilbildung. Seither hält er an seinem Prinzip fest und werkt in unterschiedlichen Gefilden.
Mitte der 60er-Jahre entstand eine Serie von Zahnbildern. 1964–1965 war er gemeinsam mit Hans Hollein, Walter Pichler und Gustav Peichl bei der Architekturzeitung „Bau“ als Redakteur tätig. 1972 war er bei der Biennale in Venedig vertreten. Eine Freundschaft verband Oberhuber mit Monsignore Otto Mauer von der Galerie nächst St. Stephan, Wien, deren künstlerischer Leiter er schließlich in den 70er-Jahren wurde (1973–1978); 1977 nahm er an der Documenta 6 teil, er übernahm eine Professur an der Hochschule für angewandte Kunst Wien und wurde schließlich zu deren Rektor (1979–1987; 1991–1995).
1983 stellte er seine Werke in der Albertina in Wien aus. 1982 nahm er erneut an der documenta7 in Kassel teil. 1990 erhielt der Künstler den Österreichischen Staatspreis für Auslandskultur und den Tiroler Landespreis für Kunst. 1999 wurde er Ehrenmitglied der Wiener Secession, in der er 2006 auch ausstellte. 2004 erhielt der Künstler das Österreichische Ehrenkreuz für Wissenschaft und Kunst. 2009 war er in der Österreichischen Galerie Belvedere mit der Einzelausstellung „Die Leidenschaften des Prinz Eugen“ zu sehen.