琵琶又称“批把”，最早见于史载的是汉代刘熙《释名-释乐器》：“批把本出于胡中，马上所鼓也。推手前曰批，引手却曰把，象其鼓时，因以为名也。”意即枇把是骑在马上弹奏的乐器，向前弹出称做批，向后挑进称做把；根据它演奏的特点而命名为“批把”。在古代，敲、击、弹、奏都称为鼓。当时的游牧人骑在马上好弹琵琶，因此为“马上所鼓也”。大约在魏晋时期，正式称为“琵琶”。
琵琶由历史上的直项琵琶及曲项琵琶演变而来，据史料记载，直项琵琶在我国出现得较早，秦、汉时期的“秦汉子”，是直柄圆形共鸣箱的直项琵琶（共鸣箱两面蒙皮），它是由秦末的弦鼗发展而来的。“阮咸”或“阮”是直柄木制圆形共鸣箱，四弦十二柱，竖抱用手弹奏的琵琶。晋代阮咸善奏此乐器，故以其名相称，即今天的阮。
南北朝时，通过丝绸之路与西域进行文化交流，曲项琵琶由波斯经今新疆传入我国。曲项琵琶为四弦、四相（无柱）梨形，横抱用拨子弹奏。它盛行于北朝，并在公元6世纪上半叶传到南方长江流域一带。