Příprava vzniku našeho gymnázia začala ve školním roce 1968/69, tedy v bouřlivém politickém období, které zpočátku přinášelo mnoho nadějí a radostných očekávání, aby je posléze vystřídalo dlouhé období zmaru a deziluzí. Druhé gymnázium v Havířově vzniklo 1. září 1969, v duchu prvorepublikových tradic jako první a jediné víceleté gymnázium v okrese Karviná pod názvem Experimentální gymnázium.
Stávající gymnázium, jež vzniklo v roce 1956, v ulici Tajovského se přestěhovalo do nově postavené budovy na ulici Rudé armády (dnes Studentská) a nové gymnázium dostalo k dispozici dosavadní budovu, ve které sídlilo až do roku 1978. O víceleté gymnázium, které mělo poskytnout hluboké vzdělání těm nejnadanějším žákům, byl naprosto nečekaný zájem.
O přijetí do primy a sekundy se ucházelo 700 dětí, které prošly nejdříve náročnými psychologickými testy a posléze 200 nejúspěšnějších zájemců o primu a 100 o sekundu absolvovalo přijímací zkoušky z českého jazyka a matematiky. Od školního roku 1969/1970 byly otevřeny tři třídy primy, jedna třída sekundy a dvě třídy čtyřletého gymnázia. Jenomže, stejně jako celá řada jiných reforem, byla i koncepce víceletého gymnázia v roce 1970 zrušena. Žáci primy a sekundy se vrátili na základní školy, aby později znovu nastoupili po 9. třídě na naši školu, a ta pokračovala od uvedeného roku jako druhé čtyřleté gymnázium v Havířově.
Rostoucímu počtu obyvatel Havířova, potažmo stále většímu počtu zájemců o studium, již nestačila stávající budova v ulici Tajovského. Proto se v době konce školního roku a letních prázdnin v roce 1978 gymnázium za značného úsilí vyučujících i studentů přestěhovalo do větší a vhodnější školní budovy v ulici Komenského ve středu města.
1. září byla zahájena výuka na místě, kde sídlí dodnes a odkud pramení označení Gymnázium Komenského či „dolní“ gymnázium. Jistou historickou ironií je, že na tomto místě v 50. letech sídlila jedenáctiletka (oficiálně Jedenáctiletá střední škola – JSŠ), která v tomto budovatelském období měla nahradit tradiční gymnázium.
Největšími změnami prošla naše škola, stejně jako celá společnost, po roce 1989. Budova školy prošla rozsáhlou rekonstrukcí – byla vybudována půdní vestavba s novými učebnami, vyměněna okna, stejně jako vodo- a elektroinstalace. Dále byla opravena, poprvé od roku 1956, celá fasáda. Zásadně se změnily i odborné učebny a jejich vybavení, jež odpovídá současným potřebám moderní školy. Učitelé i studenti se účastní řady národních i mezinárodních projektů. Někteří absolvují roční studijní pobyt na školách v USA či ve Francii. Krátkodobé výměnné pobyty a exkurze jsou již samozřejmostí.