直到1890年，沙皇俄国才开始更换军方装备的单发装填式伯丹步枪，该枪早在1877年俄土战争时就已经被证明为太落后，因此有必要换装一种新式步枪。俄国人在设计新步枪时，招标过程中吸取了比利时枪械设计师埃米尔·纳甘提交枪型设计中的一些元素，俄国兵工厂将埃米尔·纳甘的供弹系统设计与俄国陆军上尉谢尔盖·伊凡诺维奇·莫辛（后晋升上校）设计的步枪结合推出了新式步枪，因此这种步枪被非官方地称为“莫辛-纳甘”步枪（在俄语国家一般只会叫作“莫辛步枪”），上述设计的步枪是3线口径（线是当时俄罗斯的一种量度单位，现已废弃，3线约等于0.30寸或7.62毫米）M1891型步枪。

莫辛-纳甘步枪于1891年面世投入生产，分别交由图拉兵工厂、伊热夫斯克机器制造厂及谢斯特罗列茨克工厂生产，并于1893年开始大规模投产。该枪参与的首次对外战争是于1900年发生在大清帝国的义和团之乱，然后是1905年的日俄战争，可是沙俄政府的莫辛步枪供不应求，在日俄战争中有不少俄军士兵仍然使用旧式伯丹步枪。在第一次世界大战时莫辛步枪终于成为俄军主力武器，但基于俄军庞大的规模，加上在战争中的军火流失率非常高，以俄国境内工厂的生产能力远不能满足需求，因此俄国曾先后委托法国沙泰勒罗兵工厂、美国雷明登武器公司及西屋电气协助生产，同时也购入了大量日本制的三八式步枪，以及来自法国和义大利等国的过期军火来应付战事。

十月革命后大量莫辛-纳甘步枪被布尔什维克红军所缴获，在俄国内战期间由于带有长长的刺刀而让敌人印象深刻。在苏联时期，当局对莫辛-纳甘步枪进行了许多改进，改良版于1930年定型为“M1891/30型步枪”。在德苏战争爆发前，苏联红军本打算以SVT-40半自动步枪全面取代莫辛步枪，可是在德国入侵后苏联因准备不足伤亡惨重，也丢失了大量军火。故为了补充军火以应付战事，苏军决定重开莫辛步枪的生产线，同时也考虑到SVT步枪的结构较复杂，战争中透过紧急动员征召的士兵大部份都只接受过最低程度的训练，根本不具备保养和使用这种复杂武器的能力。因此，莫辛步枪再度成为了苏军的主力武器。为了提升步兵火力，苏联后来推出了PPSh-41冲锋枪，该枪被苏军用以大量装备部队或是配搭莫辛步枪一起使用。虽然进行了战时的改进，但本身已经过时的莫辛步枪在战争后期面对著德军的各种先进自动火器时显得更加过时了，它们在战后相继地被采用中间型威力枪弹的SKS半自动步枪和AK自动步枪所取代，并在1948年左右于苏联境内全面停产，不过苏联军队的狙击手仍然持续使用莫辛步枪的狙击型，直至它们于1960年代被SVD狙击步枪取代为止。另外，苏联在冷战期间向共产阵营国家或游击队供应了大量莫辛步枪在内的过期军火作军援，或直接授权盟友生产莫辛步枪。因此有部份国家仍然继续使用莫辛步枪，而在朝鲜战争和越战中亦可发现其身影。

现在于一些小型冲突及落后地区中仍然有莫辛-纳甘步枪被非正规部队使用。而在民间市场中，因其所配用的枪弹还是制式弹药，售价很便宜又很容易取得，加上该枪的价钱本身也很亲民，故莫辛-纳甘步枪亦是不少收藏家及射击爱好者的首选。

即使莫辛步枪已在苏军退役多年，一些苏联／俄罗斯部队在1979年阿富汗战争和车臣战争等武装冲突中仍然有限度地非官方使用该枪。

最后：