張邈開始是後涼的效谷縣令。李暠占領敦煌,張邈任敦煌郡長史,北涼段業派將領索嗣率軍來爭,李暠害怕,想要出迎。張邈與宋繇切諫:「段王暗弱,正是英豪有為之日;將軍據一國成資,奈何拱手授人!嗣自恃本郡,謂人情附已,不意將軍猝能拒之,可一戰擒也。」認為不能遷就而失地,應以軍隊相抗,為李暠採納。李暠派遣張邈、宋繇以及他的兩個兒子李歆、李讓,帶兵攻擊索嗣,索嗣大敗而走,立西涼基業。李暠稱涼公,任命唐瑤為征東將軍,郭謙為軍咨祭酒,索仙為左長史,張邈為右長史,尹建興為左司馬,張體順為右司馬。李暠定議遷都酒泉,以抗北涼沮渠蒙遜。