在创始人释迦牟尼圆寂之后，佛教发生分裂。大约从公元前4世纪开始，佛教分裂为上座部和大众部。其后，从两大部又分裂出更多部派。根据史料记载，总共有十八部之多。接着，大众部式微，上座部成为正统。正统到公元前1世纪，一股新思潮诞生为止。
这股新思潮吸取大众部失败的教训，一开始便向上座部发起攻击，很不厚道地把上座部贬低为“小乘”，同时自我标榜为“大乘”。所谓“乘”，为运载之车的意思。因此按汉字古音应读作shèng（“剩”音），但是现代人都读作chéng（“成”音），这也未尝不可。佛教信徒将修行法门比喻为乘车。大车当然比小车好。大乘鄙视小乘就好比红旗牌轿车鄙视永久牌自行车。
大乘和小乘有很多显著的不同，譬如对“空”的理解、对佛陀的看法等等。而最根本的对立，也就是“小乘”、“大乘”名字的因由，是修行目的的不同。简而言之，小乘佛教修行的目的，用中国人熟悉的说法是“独善其身”，而大乘则是要“兼善天下”。小乘重在自我解脱，通过个人修行，入于涅槃。大乘则反对小乘“自利”，颂扬“利他”，他们以成佛为目的，普度众生。
大乘佛教自印度诞生后，很快向北传播，经中亚进入中国，再传到朝鲜和日本。而小乘佛教则向南发展，传入斯里兰卡和东南亚诸国。故此小乘佛教也叫南传佛教。
由于包含贬义，现代佛教徒和学者都呼吁避免再使用小乘佛教这个称呼，改为上座部佛教或者南传佛教。
鄙人没有宗教信仰，在此说句公道话。小乘佛教被贬低二千多年，信徒并没有用“滥乘佛教”、“乱乘佛教”、“醉驾佛教”对大乘佛教以牙还牙。注意力集中在自身的人，是不会在意别人怎么看、怎么说的。小乘佛教这个名字还是保留下来吧，正如哥特式、巴洛克、印象派、野兽派等名字，原本也是贬称。
