Мұражай өз тарихын 1973 жылдың 17 ақпанына бастау алады, осы кезде ҚазКСР ІІМ коллегиясы мұражайды құру туралы шешім қабылдады. Ашылу салтанаты 1975 жылдың 7 қазан күні болып өтті. Отыз жылдан астам тарихында мұражай мамандар тарапынан әділ бағасын алып үлгерді. 1990 жылы КСРО ІІМ мұражай жүйелеріндегі 113 мұражай арасынан ең үздігі болып танылып, «КСРО мұражайлары» тізіміне енді.

ІІМ Алматы қаласынан Астанаға көшуіне байланысты, ҚР ІІМ 2000 жылы 26 сәуір күнгі №234 Бұйрығымен «Қазақстан Республикасы ішкі істер органдары мен құрылымдарындағы мұражайлар» туралы Ереже қабылданды.

Бүгінгі таңда мұражай 200 шаршы метр аумақты алып жатыр.

Қазіргі таңда мұражай қорында жалпы құны 5 млн теңгеден асатын 4500 жәдігер бар. Отты қару саны 82 (револьвер, наган, пистолеттер, шолақ мылтықтар), суық қару 58 (шпага, пышақ, қанжар, қылыштар), 75 орден, 257 медаль, 86 төсбелгі бар. 1000 нан астам сыйлықтар мұражай көркін одан әрі ашары сөзсіз.

Мұражай жеті залдан тұрады. Жәдігерлер арасында фотоқұжаттық материалдар, кітаптар, қарулар, омырау белгісі, жеке заттар, кәдесыйлар және басқа заттар бар.

Бірінші зал Кеңес өкіметінің құрылуы, шетелдік әскери басқыншылық кезеңінде ішкі істердің Халық комиссариаттар құрылуы және Қазақстандағы азамат соғысы туралы әңгімелейді (1917-1925 жж.).

Қазақстанда милиция бірінші болып қиын жағдайларда құрылды: киіз, жер үйлерде, барақтарда өмір сүрді, киім-кешек, көлік, қару аз болды. Бұл сол уақыттағы экспонаттарды көрнекі түрде көрсетеді: азамат соғысы жылдарындағы кремний қаруы, бұралып бүркелген қанжары бар қамшы-қылыш, қолдан жасалған қанжар, шәрке – 1917-1920 жж.  милицияның аяқ-киімі. Азамат соғысы жылдарынан мұражайда бөрігі бар бурка; алтыатар-пистолеті, шинель мен делегей сақталған.

Екінші зал әлеуметтік индустрияландыру және ұжымдастыру жылдарындағы Қазақстан ІІХК органдардың қызметімен таныстырады (1926-1932 жж.)

Абузаровтың былғары күртесі

Невзгодов-Лосевтың маузері

«Бебут» орыс қанжары

Үшінші залдың экспозициясы ІІХК органдары қызметкерлерінің Ұлы Отан соғысы жылдарында (1941-1945 жж.) неміс-фашистік басқыншылармен күрескені туралы әңгімелейді.

Осы залда иесі жазулы пистолеттер, найзалар мен мылтықтар, жартылай кебек және үгінділерінен пісірілген, тәулік нормасы 125 граммды жасаған блокадалық Ленинградтың наны, жарылыстан кейін еріген бір тілім жер, қолдан жасалған граната және т.б кездестіресіз.

Блокадалық  Ленинградтың наны

Жарылыстан кейін еріген бір тілім жер

Қолдан жасалған граната

Төртінші экспозиция соғыстан кейінгі жылдардағы (1945-1968 жж)  милицияның жұмысына арналған. Бұл соғыстан, аштықтан және күйзелістен кейін елдің қайта құрылған уақыты. Қылмыспен күресі ешқашан тоқталған жоқ. Көрермендердің назарларына соғыстан кейінгі уақыттағы генералдардың фотосуреттері, сонымен қатар есім жазулы пистолеттер, салтанатты қылыштар, қысқа қанжар қынабы менмұндалап көрінеді.

Бесінші залдың эскпозициясы Мемлекеттік автоинспекцияның даму тарихы, сарапшы-криминалистердің жұмысы туралы әңгімелейді. Сонымен қатар «Сұңқар» атты арнайы бөлімше жайлы экспонаттар сыр шертеді.

Алтыншы залдың экспозициясы Астана қаласына қоныс аудару күнінен бастап ҚР ІІМ қызметіндегі негізгі оқиғаларды бейнелейді.

Осы жерде 1999-2000 жылдары Ішкі істер министрлігінде болған негізгі оқиғалардың фотосуреттері, Қазақстан Республикасының Мемлекеттік символдары, сонымен бірге ІІБ, таяу және қиыр шетелдері құқық қорғау органдарының халыаралық делегация сыйлықтары бар.

Мұражай тазалығы және жарқыраған көрмелерімен  экспонаттарының қызықтылығымен көрермендерді таң қалдырары сөзсіз. Алайда мұндағы экспонаттардан бір кездері адамдар ажал құшып, қанжарлардан қан тамшылаған шығар... Бірақ мұның бәрі өткен тарих, оның ендігі орны мұражай.