奈良時代の貴族である大伴祖父麻呂は、霊亀2年（716年）に従五位下に叙爵された。養老4年（720年）には式部少輔に任じられ、元正朝末の養老7年（723年）に従五位上に昇進。その後も順調に昇進を重ね、神亀3年（726年）に正五位下、天平元年（729年）には正五位上に昇進し、天平3年（731年）には従四位下に至る。この時期には越前按察使兼越前守を務めていたとされる。『続日本紀』にその業績が記録されている。