张九龄居家时间，与曲江县尉王履震、韶州王司马来往密切，诗酒唱酬，结成知己。
开元五年夏秋之间他与王履震联袂来到广州，写下《与王六履震广州津亭晓望》诗。
开元六年春张九龄被召入京，返京时，王司马一直送到大庾岭上，到京后，张九龄因修大庚岭路有功，拜左补阙，主持吏部选拔人才。
张九龄的才学与能干渐为大家所认识，吏部考试选拔人才，他与右拾遗赵冬曦四次奉命参与评定等第，都能公允服人。
开元七年，张九龄改任礼部员外郎，开元八年又升迁为司勋员外郎。
开元九年张说入拜宰相，张说对张九龄早寄以厚望，见他果然文才出众，又和自己同姓，便与他论谱叙辈，夸奖张九龄“后出词人之冠也”。
靠张说的赏识和提拔，张九龄提升为中书舍人内供奉，张九龄并不因为和张说关系密切而随声附和，他对张说的断然行事多有劝说，体现出办事公允和卓有预见。
。