从小就被圣音痴之家的鲁里米索先生收养，在私立无伴奏学校学唱卡拉OK的麦克风次郎（高山みなみ 配音），因为是音痴，他一唱歌能把窗户震坏，让同学们崩溃。而自以为唱歌最好而傲慢的若王子殿（小林优子 配音）更是鄙视他，并向他父亲学校的理事长若王子大殿（佐藤正治 配音）告状要把次郎开除出学校去。一心想唱好歌的次郎好朋友舟木吉道（柏仓つとむ 配音）家里经营着蛇之道卡拉OK连锁店，他缠着舟木要去练歌。王子和妹妹若王子姬（江森浩子 配音）没安好心，邀请次郎唱卡拉OK，那里其实是整人屋，当次郎将要遇到危险时，却得到了父母留给他的能使他成为真正卡拉OK麦克风战士的麦克风。王子要抢麦克风，却意外用自己的戒指打开了次郎被上了锁的声带。没想到声带解锁后，次郎的声音竟犹如天籁......
《魔法小歌王》中，选录了许多的经典老歌，因为动画中次郎正是以卡拉OK为武器来打败对手，所以歌成为了动画必不可少的一部分。比如动画中收录的演歌“川の流れのように”，“昴”“ 人生いろいろ”等，在百家榜单上都排名前列。因此以歌作为武器也成为了动画的一大特色。