張軌幼年聰明好學，很有才氣名譽，姿勢儀表高雅端莊，與同郡人皇甫謐乾係很好，隱居在宜陽郡女幾山。西晉泰始初年（公元265年），擔當叔父恩蔭的五品官。曾與中書監張華議論經義以及政事利弊，深得正視他，以為安寧郡的中正壓抑人才，對張軌言談為人大為歌頌，感覺他就是在二品品級裡也是很優良的。衛將軍楊珧征召任用他為屬官，授職為太子舍人，累次升任至散騎常侍、征西軍司。3

次年，秦王司馬鄴被立為皇太子，派使者前去涼州拜張軌為驃騎大將軍、儀同三司，張軌果斷推卻。秦州刺史裴苞、東羌校尉貫與占有險要與朝廷斷絕來往，張軌號令宋配率兵討伐。西平人王叔與曹祛餘黨麹儒等威脅前福祿令麹恪為君主，拘繫太守趙彝，與東邊的裴苞等人相照應。張寔回師討伐，斬殺麹儒等。左督護陰預與裴苞在狹西交兵，大敗裴苞，裴苞逃到桑凶塢。這一年，北宮純投降劉聰。皇太子派使者向張軌重申先前的受命，張軌果斷推讓。左司馬竇濤向張軌進言道：“周公旦封於曲阜而不辭，薑子牙封於營丘而受命，這就是所謂明白國度法律，嘉獎有大功者。天下崩潰，主上逃亡，涼州雖為遙遠之州，但明公不忘匡扶朝廷，是以朝廷推誠相待，嘉獎任命再三傳送至州。明公應順從朝廷旨意，以滿足世人之心。”張軌還是果斷不從。

，母親為隴西辛氏。2