气相色谱的样品分离系统主要由进样室和色谱柱组成。

进样室有多种型式，如气体进样阀、液体进样室和热裂解进样室等。而色谱柱通常为内径2-3毫米、长1-3米、内盛固定相的填充柱，或内径0.25毫米、长20米以上、内涂固定液的开管柱。

色谱仪利用色谱柱先将混合物分离，然后利用检测器依次检测已分离出来的组分。色谱柱的气相色谱仪直径为数毫米，其中填充有固体吸附剂或液体溶剂，所填充的吸附剂或溶剂称为固定相。与固定相相对应的还有一个流动相。流动相是一种与样品和固定相都不发生反应的气体，一般为氮或氢气。待分析的样品在色谱柱顶端注入流动相，流动相带着样品进入色谱柱，故流动相又称为载气。载气在分析过程中是连续地以一定流速流过色谱柱的；而样品则只是一次一次地注入，每注入一次得到一次分析结果。

样品在色谱柱中得以分离是基于热力学性质的差异。固定相与样品中的各组分具有不同的亲合力（对气固色谱仪是吸附力不同，对气液分配色谱仪是溶解度不同）。当载气带着样品连续地通过色谱柱时，亲合力大的组分在色谱柱中移动速度慢，因为亲合力大意味着固定相拉住它的力量大。亲合力小的则移动快。

为了获得最好的分离分析效果，色谱柱长应以最难分离的物质对能达到所需的分离度为准（分离度与柱长平方根成正比）。