Sinusundan ng serye ang titular na Yaiba Kurogane isang samurai boy na inspirasyon ni Miyamoto Musashi, ang tunay na swordsman na gumawa ng Hyoho Niten Ichi-ryu estilo ng dalawang espada labanan at sumulat The Book of Five Rings klasikong tungkol sa militar estratehiya.