A félegyházi tartózkodása alatt tanári pályája mellett az iskola régiségtárának egyik megalapozója volt. Később alapító tagja volt az 1872. agusztus 2-án létrejött Délmagyarországi Történelmi és Régészeti Társulatnak, 1874-től pedig titkárrá és egyben múzeumőrré, az érmék és régészeti leletek leltározójává nevezték ki. 1874 és 1880 között a társulat közlönyének a Történelmi és Régészeti Értesítőnek a szerkesztője. Ezenfelül számos történeti és régészeti tanulmány és könyv szerzője. 1903. február 15-én, Rákospalotán hunyt el. 

Már életében is hangoztatta, hogy a Kiskunfélegyházi Városi Katolikus Főgimnáziumnak szeretné hagyni gyűjteményét. Halála után özvegye Kukányi Emília Miletz kérését tiszteletben tartva Kiskunfélegyházának ajánlotta fel Miletz nemes kincseit. Kukányi 1903 októberében így levélben értesítette dr. Szerelemhegyi Károly polgármestert és Holló Lászlót a főgimnázium igazgatóját, hogy a gyűjtemény régiségeit és numizmatikai tárgyait a Kiskun Múzeumnak, a könyvtárat pedig a városi katolikus főgimnáziumnak adományozza. A Kiskun Múzeumban a tárgyakat Szalay Gyula múzeumalapító fogadta, és e tárgyak voltak azok melyek megalapozták a numizmatikai és régészeti gyűjteményt. A Miletz–gyűjtemény fontosságát már csak a számszerűsített bemutatása is érzékelteti, amely mintegy 4 ezer éremből és pénzből, 600 darab régészeti és történeti tárgyból, 500 kötet könyvből és számos pecsétből, oklevélből és kéziratból állt.