Powstał w drugiej połowie XVII wieku z inicjatywy biskupa ołomunieckiego Karla z Lichtensteinu-Castelcorna (1664–1695). Pierwszy etap budowy, obejmujący zasadniczą część ogrodu, zrealizowano w latach 1665–1675, natomiast prace uzupełniające prowadzono w latach osiemdziesiątych XVII wieku. Początkowo budową kierował włoski architekt Filiberto Luchese (1607–1666), a po jego śmierci nadzór nad pracami przejął jego współpracownik Giovanni Pietro Tencalla (1629–1702).

Biskup od początku miał jasno sprecyzowaną wizję nowego ogrodu. Czerpała ona z renesansowej koncepcji ogrodów zakładanych w sąsiedztwie, lecz poza głównym założeniem rezydencjonalnym. Inspirację stanowiły przede wszystkim ogrody francuskie, a także włoskie, niemieckie i niderlandzkie.
Centralną część ogrodu, założonego na planie wydłużonego prostokąta z bogatym układem geometrycznie formowanej zieleni, tworzą dwie strefy – kwietnik oraz sad. Główna oś kompozycyjna, rozpoczynająca się reprezentacyjną loggią wejściową, prowadzi przez kolejne elementy architektoniczne i rzeźbiarskie: partery ozdobne, fontanny, Rotundę, labirynty, kompozycje wodne, kręgielnię oraz tzw. Wzgórza Truskawkowe.
Od strony wschodniej, tj. od strony miasta, układ ten uzupełniają przyległe części ozdobne i gospodarcze: Ogród Pomarańczowy, Ogród Holenderski, szklarnie, dziedziniec gospodarczy, bażantarnia, Wzgórze Królicze oraz ptaszarnia.

Ogród Kwiatowy w swojej XVII-wiecznej formie stanowi jedno z przełomowych osiągnięć europejskiej sztuki ogrodowej. Z jednej strony nawiązuje do późnorenesansowych założeń włoskich i niemieckich, takich jak Villa d'Este w Tivoli, Villa Doria Pamphili w Rzymie, ogród rezydencyjny w Monachium, Hortus Palatinus w Heidelbergu, Neugebäude pod Wiedniem czy Villa Anghiana w Belgii. Z drugiej strony zapowiada już francuski ogród barokowo-klasycystyczny, którego najwybitniejszym przykładem jest Wersal. To wyjątkowe połączenie dwóch tradycji czyni Ogród Kwiatowy założeniem unikatowym w skali europejskiej.

W XVIII oraz na początku XIX wieku, wraz ze zmianami gustów artystycznych i kulturowych, ogród uzupełniono o nowe szklarnie i zaczął on pełnić przede wszystkim funkcję zaplecza botanicznego oraz gospodarczego pałacu. Większe przekształcenia przeprowadzono dopiero w latach czterdziestych XIX wieku za pontyfikatu arcybiskupa Maxmiliána Josefa Sommerau-Beckha (1837–1853). Pod koniec XIX wieku, za czasów arcybiskupa Theodora Kohna (1893–1904), przebudowano również Rotundę.

Rewaloryzację najbardziej zniszczonych części ogrodu przeprowadzono w latach pięćdziesiątych XX wieku pod kierunkiem architekta Pavla Janáka (1882–1956). W 1998 roku Ogród Kwiatowy wraz z Ogrodem Przypałacowym oraz Pałacem Arcybiskupim w Kromieryżu został wpisany na Listę światowego dziedzictwa UNESCO. Kolejne prace konserwatorskie, których celem było możliwie wierne odtworzenie historycznego wyglądu ogrodu, opracował zespół czołowych czeskich architektów pod kierunkiem pracowni Architekti D.R.N.H. i Transat architekti.
Po zakończeniu kompleksowej rekonstrukcji Ogród Kwiatowy został uroczyście otwarty 6 i 7 września 2014 roku podczas pierwszej edycji festiwalu HORTUS MAGICUS, przybliżającego zwiedzającym rozrywki i kulturę dworską minionych epok. Od tego czasu każdego roku odbywają się tu spektakle teatralne, koncerty, przedstawienia operowe i baletowe, pokazy fajerwerków oraz liczne warsztaty i gry plenerowe dla rodzin z dziećmi.