Budapesten született 1883. szeptember 23-án. Pályájának meghatározó személyisége édesapja, Gundel János volt, az Erzsébet Királyné Szálloda, majd az István Főherczeg Szálloda tulajdonosa, aki közéleti tevékenységével is nevet szerzett magának.

Károly az apja szállodájában töltötte „inaséveit”, pikolóként, majd kenyeresfiúként dolgozott. 1900-ban végbizonyítványt szerzett a budapesti Kereskedelmi Akadémián, s ezt követően Svájc, Németország, Anglia és Franciaország szállodáiban és vendéglőiben sajátította el a szakma fortélyait, és szerzett életre szóló vendéglátóipari tapasztalatokat.

1906-ban a Nemzetközi Hálókocsi Társaság Csorba-tavi és tátralomnici telepének szállodai titkára lett, majd két év múlva az igazgatói székbe került. 1910-ben családjával együtt Budapestre költözött, és átvette a Székesfővárosi Állatkert tőszomszédságában fekvő, kerthelyiséggel is rendelkező Wampetics vendéglőt, amelynek nevét hamarosan Gundelre változtatta. Az étterem az okos és jól átgondolt üzletpolitikának, a kiváló konyhának és a magas színvonalú szolgáltatásoknak köszönhetően igen hamar fogalommá vált.

Egyed Zoltán újságíró azt írta róla: Egy kicsit fél Budapest a Gundel családhoz tartozik, hiszen ha valaki nemcsak flancból megy el ebédelni vagy vacsorázni, hanem tényleg jól is akar enni, akkor azt szokták mondani: menjünk el a Gundelhez. Gundel Károly mindent meg is tett azért, hogy vendégei kellemesen töltsék idejüket: zenészeket és énekeseket szerződtetett, magántársaságok összejövetelei számára a vendéglő kertjében elkülönített részeket hozott létre, a társaság krémje számára külön terasz állt rendelkezésre.

A konyhában 13 szakács készítette az ízletes ételeket, 52 pincér szolgált fel, és még 40 alkalmazott dolgozott a vendégek kényelméért. A családi hagyomány folytatásaként a tulajdonos 13 gyermeke közül többen is részt vettek az étterem működtetésében.

A 1920-1930-as évekre már nemzetközi hírnévre tett szert, és amikor 1937-ben III. Viktor Emánuel olasz király Magyarországra látogatott, a székesfehérvári bankett megrendezésével Gundel Károlyt bízta meg a kormány.

Két évvel később a New York-i világkiállítás magyar pavilonjának hivatalos étterme a Gundel volt, és a The New York Times elismerően így írt: A Gundel-vendéglő nagyobb, jobb hírverést biztosít Budapest számára, mint egy hajórakomány turista-prospektus. A második világháború viharát a vendéglő is megsínylette, kapuit 1945 áprilisában nyitotta meg újra. Régi fényében azonban nem sokáig tündökölhetett, 1949-ben államosították. A városligeti vendéglőn kívül Gundel Károly 1920 és 1926 között a Royal Szálló, majd 1927-től 1948-ig a Gellért Szálló éttermeit is bérelte.

Szakmai munkája mellett – édesapjához hasonlóan – tevékeny közéleti szerepet is vállalt, részt vett a Vendéglősök Beszerző Csoportja és a Promontoria Borbevásárló Szövetség alapításában, tagja volt az Idegenforgalmi Szövetség elnöki tanácsának, nagy szerepet játszott a Szállodások és Vendéglősök Ipartestülete működésében, amelynek tiszteletbeli elnöke és örökös tagja is lett. 1928-ban tevékenységéért az Országos Iparegyesület aranyérmével tüntették ki.

A magyar vendéglátást, a magyar konyhát gasztronómiai tárgyú írásaival, könyveivel is népszerűsítette. Legfontosabb művei közé tartozik a szakmai tapasztalatait összegző A vendéglátás művészete és A vendéglátás mestersége, valamint a magyarok étkezési szokásait megörökítő A magyar konyha fejlődése és A magyar szakácskönyv-irodalom a XVIII. század végéig című munkája.

Kis magyar szakácskönyvét több nyelvre is lefordították, és több mint 30 kiadást ért meg. Tanácsaival segítette Karinthy Frigyest Vendéget látni, vendégnek lenni című könyvének összeállításában.

Vendéglőjében a hagyományos magyar és francia fogások mellett saját, méltán világhírűvé vált ételeit is felszolgálták, ilyen a nemzetközi étlapokon ma is megtalálható fogas Gundel módra, a Gundel-tokány, a borjúborda Gundel-módra, a Gellért, a Liget vagy éppen a Gundel nevet viselő saláták.

Egyéni receptjeinek csúcsa azonban minden bizonnyal a „palacsinták királyának” is nevezett ételkölteménye, a Gundel-palacsinta. A cukrozott narancshéjjal, mazsolával és tejszínnel dúsított diós töltelékkel, tejszínes csokoládéöntettel tálalt desszert elfogyasztása igazi kulináris élvezetet nyújt.

Gundel Károly művészi érzékét, alkotóképességét leszármazottai is örökölték, gyerekei közül többen is a vendéglátás területén tűntek ki, unokái közül pedig a színész Latinovits Zoltán és Bujtor István, valamint a népszerű zenész, Frenreisz Károly lett hivatásának ismert és elismert képviselője.

Sikerének titkáról Kellér Andor írt érzékletesen: Minden vendéget egyforma kedvességgel üdvözölt, de görnyedés nélkül, nem a hasznát sóvárgó üzletember alázatával, hanem a vendéget szívesen látó házigazda figyelmességével.