Svoji akademickou kariéru začal Karel Dyba jako pedagog na Vysoké škole ekonomické v Praze, kde působil od roku 1964 do roku 1971. Studijní zkušenosti rozšířil v Kanadě, po návratu se stal zaměstnancem Ekonomického ústavu ČSAV a později pracoval v Prognostickém ústavu ČSAV, kde roku 1973 získal titul kandidát věd.

V období 1990–1992 byl ministrem bez portfeje ve vládě Petra Pitharta. Patřil mezi první členy ODS, kteří zastávali vládní posty, a po roce 1992 pokračoval jako ministr pro hospodářskou politiku a rozvoj v první vládě Václava Klause až do roku 1996. Během svého působení jako ministr a politik se Dyba soustředil na transformaci české ekonomiky z plánovaného na tržní systém. Jeho práce v první vládě Václava Klause jako ministra pro hospodářskou politiku a rozvoj byla klíčová pro realizaci ekonomických reforem, které zahrnovaly privatizaci státních podniků, liberalizaci cen a otevření české ekonomiky zahraničním investicím.

V roce 2007 byl jmenován velvyslancem a stálým představitelem ČR při OECD a stal se profesorem na VŠE v Praze, kde působil až do roku 2009 na katedře hospodářské a sociální politiky národohospodářské fakulty.

Karel Dyba zanechal trvalý odkaz ve formě svých vědeckých publikací, politických reforem a pedagogického působení, které měly významný dopad na vývoj české ekonomiky.

Redakci iDnes zprávu o jeho úmrtí potvrdil Petr Macinka, mluvčí bývalého prezidenta Václava Klause.