贯云石的伯父忽失海涯、父亲贯只哥都托庇祖荫，先后在南方担任军政要职;而贯云石幼年，一直生活在大都，受着良好而又特殊的教育。贯云石的母亲廉氏是精通汉学的维族名儒廉希闵的女儿。她的一位叔父廉希宪曾任宰相，被世祖称为“廉孟子”;另一位叔父廉希贡则是著名的书法家。贯云石自幼就常随母亲住在廉家的别墅“廉园”里修文习武。尤其是园内有两万多卷藏书，使贯云石从小就受到了丰富的汉民族文化的熏陶与严格训练，既有“善骑射、工马槊”的维吾尔气质，又能“折节读书，目五行下”，为他以后用汉文写作打下了扎实的基础。

　　元成宗大德十年(1306)，年方二十的贯云石承袭父爵，出任两淮万户达鲁花赤(这是一个拥有实际兵权的三品要职)。不久，又出镇永州。这位血气方刚、文武双全的青年军官，管辖着十一万户百姓，统率着七千将士。他“在军气候分明，赏罚必信”、“御军极严猛，行伍肃然”;公务之暇，则写诗作曲，投壶雅歌。他要凭着自己的才能建功立业，又愿意“自适，不为形势禁格”，然而这在当时那样的社会里，简直是不可能的。在苦闷与矛盾中，他终于作出了将官职军权让给弟弟忽都海涯的决定。

　　贯云石让爵后，“与文士徜徉佳山水处”，“倡和终日，浩然忘却”，真是：

　　弃微名去来心快哉，一笑白云外。知音三五人，痛饮何妨碍，醉袍袖舞嫌天地窄。——〔清江引〕

　　当时，元代的散曲创作正处于由草创时期向黄金时代过渡的阶段。贯云石开始以通脱豪爽的风格闯入了散曲阵地，犹如天马入苑，在元代诗坛上引起了强烈反响。1308年，贯云石回到了文人荟萃的元大都。