Название «балалайка», иногда встречающееся в форме «балабайка» — народное, вероятно данное инструменту в подражание бренчанию, «балаканью» струн во время игры. «Балакать», «балагурить» на народном наречии значит болтать, пустозвонить.
Некоторые приписывают слову «балалайка» татарское происхождение. У татар есть слово «бала» означающие «дитя». Оно быть может и послужило источником происхождения слов «балакать», «балабонить» и т.д. заключая в себе понятие о неразумной, как бы детской болтовне.
Упоминаний о балалайке даже в XVII — XVIII очень мало. В некоторых случаях действительно встречаются намёки на то, что в России был инструмент одного типа с балалайкой, но скорее всего упоминается там домра, родоначальница балалайки.
При царе Михаиле Фёдоровиче состояли при дворцовой потешной палате игрецы домрачеи. При Алексее Михайловиче инструменты подвергались гонению. К этому времени, т.е. ко 2 половине XVII века , вероятно, относится переименование домры в балалайку.
Впервые название «балалайка» встречается в письменных памятниках времён Петра Великого. В 1715 г. при праздновании устроенной по приказу царя шуточной свадьбы в числе инструментов, фигурировавших в руках ряженных участников церемонии, упоминаются балалайки. Причём инструменты эти даны были в руки группе наряженных калмыками.
В течении XVIII в. балалайка широко распространилась в великорусском народе, сделавшись настолько популярной, что её признали за древнейший инструмент, и даже присвоили ей славянское происхождение.
Русское происхождение может быть приписано лишь треугольному очертанию корпуса или кузова балалайки, заместившего круглую форму домры. Форма балалайки XVIII века отличалась от современной. Гриф балалайки был очень длинным, длиннее кузова примерно в 4 раза. Корпус инструмента был более узким.
Кроме того, балалайки, встречающиеся на старинных лубочных картинах снабжены только 2 струнами. Третья струна была редким исключением. Струны у балалайки металлические, что придаёт звучанию специфический оттенок — звонкость тембра.
В середине XX в. была выдвинута новая гипотеза о том, что балалайка бытовала задолго до её упоминании в письменных источниках, т.е. существовала рядом с домрой. Некоторые исследователи считают, что домра была профессиональным инструментом скоморохов и с их исчезновением потеряла широкую музыкальную практику. Балалайка же инструмент сугубо народный и, следовательно, более жизнестойкий.
Cначала распространилась балалайка преимущественно в северных и восточных губерниях России, обычно аккомпанируя народным плясовым песням. Но уже в середине XIX века балалайка была очень популярна во многих местах России. На ней играли не только деревенские парни, но и серьезные придворные музыканты, такие как Иван Хандошкин, И. Ф. Яблочкин, Н. В. Лавров. Однако к середине XIX столетия рядом с нею почти повсеместно встречалась гармоника, которая постепенно вытеснила балалайку.
Второе рождение балалайка получила в конце XIX веке благодаря стараниям Василия Андреева, которого называли «молодым отцом балалайки». В. В. Андреев совместно с инструментальными мастерами В. В. Ивановым, а затем Ф. С. Пасербским и С. И. Налимовым, усовершенствовал народный инструмент и сконструировал семейство балалаек разных размеров по образцу смычкового квартета. Первое выступление ансамбля, который назывался «Кружок любителей совместной игры на балалайках» состоялось в Петербурге в 1888 году.
Андреев и его сподвижники — Н. Привалов, Ф. Ниман, В. Насонов, Н.П. Фомин не ограничились возрождением лишь одной балалайки. Они вели работу и по усовершенствованию и других инструментов русского народа, таких как домра, гусли, жалейка, владимирские рожки и др. Итогом этой работы стало формирование Великорусского оркестра, первое выступление которого состоялось под руководством Андреева 11 января 1897 года в зале Дворянского Собрания. С этих пор оркестры народных инструментов стали распространяться с необычайной быстротой по всей России.
Благодаря исполнительскому искусству Василия Андреева и его талантливым последователям таким мастерам, как Борис Трояновский, Александр Доброхотов и немногим позднее — Николай Осипов, на балалайку обратили внимание маститые композиторы. Теперь на балалайке замечательно звучат не только русские народные песни, но и переложения произведений русской и западной классики, кроме того, композиторы создали для балалайки оригинальный репертуар, в том числе более 100 сюит, сонат, концертов и других произведений крупной формы.