Принципиальная отличительная черта гармони от баяна - присутствие у баяна хроматического строя. То есть каждая из пяти либо шести октав баяна состоит из двенадцати звуков хроматической гаммы.
Гармошка, в отличие от баяна, имеет в каждой октаве, всего лишь семь звуков: до,ре,ми,фа,соль,ля,си. В подобном звукоряде отсутствуют звуки: до-диез,ре-диез,фа-диез,соль-диез и ля-диез. Иногда на гармони встречаются ре-диез и соль-диез для первой, а также фа-диез для второй октавы. При этом, они вынесены на самый верх клавиатуры, подразумевая, что использоваться эти звуки будут весьма редко.
Подобное отличие объясняется, изначальным предназначением гармони как инструмента для исполнения народной музыки, а для народной музыки, как правило, использование хроматических ступеней-полутонов не характерно.