二胡的命名由胡琴演变来的，跟有两根弦无关。

二胡起源于“胡琴”，始于唐朝，至今已有一千多年的历史。它最早发源于我国古代北部地区的一个少数民族，那时叫“奚琴”。宋朝学者陈旸在《乐书》中记载“奚琴本胡乐也……”唐代诗人岑参所载“中军置酒饮归客，胡琴琵琶与羌笛”的诗句，说明胡琴在唐代已开始流传。

据《中国文化史三百题》提供资料，宋代是外来乐器与中原文化融合发展的第二阶段。 到了宋代，又将胡琴取名为“嵇琴”。宋代末学者陈元靓在《事林广记》中这样记载：嵇琴本嵇康所制，故名“嵇琴”。

宋代大学者沈括在《补笔谈乐律》中记载：教坊伶人徐衍为皇帝大臣们演奏“嵇琴”时，断了一根弦，仍然用另一根弦奏完曲，没有娴熟的技艺是做不到的，这说明在宋代已有很高的演奏水平。 到了明清时代胡琴已传遍大江南北，始成为民间戏曲伴奏和乐器合奏的主要演奏乐器。

宋元明清时期，随着戏曲、曲艺的发展，民间乐器发展了自己的伴奏乐器。其中最主要的乐器是源自蒙古、西域的马尾胡琴（又称“二弦琴”），经与前朝留下的嵇琴、乳筝融合，创制出新颖的胡琴。这一乐器充分标明中国弓弦乐器走向成熟。

后来，由于地方戏唱腔风格需要，胡琴又逐渐分化，出现板胡、京胡、京二胡、坠胡等等弓弦乐器。所以，二胡实际上是这众多的弓弦乐器中的一种，其名由胡琴演变而来。