父・持国より後継者に定められるが、それに納得しない家臣団に擁立された従兄弟の弥三郎・政長一派と争う。その争いは多くの大名家を巻き込み、最終的に管領・細川勝元に支持された政長が家督を相続した。その後、義就は細川勝元と対抗する山名宗全・斯波義廉の支持を得て、寛正6年（1465年）8月に挙兵。細川方（東軍）と山名方（西軍）に分かれて争う応仁の乱が勃発する。