天応元年（781年）春宮大夫として仕えた山部親王が即位（桓武天皇）すると天皇に重用され、さらに光仁朝以来の重臣が相次いで没したこともあり、急速に昇進を果たす。同年正三位・中納言に叙任されて、同い年ながら10年近く早く参議となっていた同じ南家の藤原継縄に肩を並べ、翌天応2年（782年）継縄を越えて大納言に昇進する。延暦2年（783年）には右大臣に任じられ、桓武朝に入ってわずか3年ほどで一介の参議から太政官の筆頭にまで昇り詰めた。