Jiří Gruša a csehországi Pardubicében született 1938. november 10-én. Érettségi után történelmet és filozófiát tanult a prágai Károly Egyetem Bölcsészkarán, tanulmányait 1962-ben fejezte be. 1964 és 1970 között különböző folyóiratok szerkesztőségében dolgozott (Nové knihy, Výběr z nejzajímavějších knih, Zítřek, a Tvář magazin és az általa alapított Sešity pro mladou literaturu). Mimner című könyve miatt az 1968-as Prágai Tavaszt követő retorziók során elvesztette szerkesztői állását. Bár börtönbe nem csukták, nem dolgozhatott az irodalommal kapcsolatos szakmákban. Hivatalnokként, könyvtárosként és építési tanácsadóként helyezkedett el. Gruša így is folyamatosan írt és 1972-ben megalapította a Petlice nevű szamizdat kiadót Ludvík Vaculikkal közösen. 1980-tól hivatalosan is íróként dolgozott.
A hivatalos nyilvánosságból kitiltva, Gruša szamizdatban és emigráns kiadóknál publikálta műveit. 1981-ben az Egyesült Államokba utazott egy irodalmi ösztöndíjjal, de kintléte alatt megfosztották csehszlovák állampolgárságától. Gruša visszatért Európába és kényszer emigránsként Nyugat-Németországban telepedett le. 1989 után diplomata pályára lépett, 1991-től nagykövet Németországban, 1997-ben oktatási miniszter, 1998 és 2004 között nagykövet Ausztriában, majd újabb öt éven át a Diplomáciai Akadémia igazgatója Bécsben. Ezzel egy időben a nemzetközi PEN Club elnöke is volt.
Gruša költőként indult, de az 1960-as közepétől a prózaírás felé fordult. Költészete erősen intellektuális tartalmú, tele rejtett utalásokkal, melyet a fennálló viszonyok kritikája jellemez. Jelentős munkái közé tartoznak az orwelliánus disztópiák: Mimner aneb Hra o smraďocha illetve, Dotazník aneb Modlitba za jedno město. Az 1990-es évektők kezdze Gruša főként esszéket írt: Česko, návod k použití, Šťastný bezdomovec illetve, Beneš jako Rakušan. Munkái számos irodalmi díjat nyertek, 1976-ban a Jiří Kolář, két évvel később az Egon Hostovský díjat, 2002-ben pedig a Magnesia Litera és a Jaroslav Seifert díjat. Jiří Gruša 2011. október 28-án halt meg Bad Oeynhausenben, Németországban.