В молодости отличался довольно беззаботным характером и участвовал в сомнительных авантюрах, нередко на пару с Саманосукэ Кисии. Также у него были плохие отношения со своей бесплодной мачехой, которая недолюбливала его из-за того, что он, будучи сыном любовницы, являлся наследником дома, и всячески третировала его по этому поводу. Отца же он очень уважал и испытывал перед ним чувство вины за своё поведение. После встречи с Дзюбэем Мацуокой взял себя в руки и стал достойным сыном своего отца.