Sikeres pedagógus volt. Tanítványai szerették, tanártársai tisztelték. Ő volt az iskola első igazgatóhelyettese is, igaz, ezt a feladatot mindössze egy évig töltötte be. Évtizedeken át volt a történelem és földrajz szertár őre. A korabeli évkönyvekből tudjuk, hogy rendszeresen vitte tanítványait kirándulásokra, megismertetve velük az ország távolabbi tájait. Mivel az I. világháborúban mentesült a katonai szolgálat alól, ez időszakban három osztálynak is osztályfőnöke volt.
1946-ban un. „B” listára került, állását vesztette. A gimnáziumban ma is fellelhető hivatalos iratban ez úgy szerepel, hogy nyugdíjazása „hozzátartozói ellátási igénnyel” történt, ami azt jelentette, hogy a család egyetlen bevételi forrása a feleségének tanítói fizetése maradt.
Fiatal tanárként olyan kollegákkal tanított együtt, mint Oppel Jenő, Pais Dezső, Paulovits Károly, akiknek neve a ceglédi helytörténetírásban mai is jól ismert. Feltehetőleg hatásukra és egyéni érdeklődése, no meg tanári szakja miatt hamar bekapcsolódott a város helytörténeti kutatásába, aktívan részt vett a város közéletében. Az iskolai és iskolán kívüli munkásága mellett – kinevezett igazgatóként vagy külső munkatársként – a Kossuth Lajos emlékének ápolására létrehozott múzeum szervezője, irányítója, tudományos dolgozója volt. 1917-ben döntött az akkori városi tanács a múzeum létrehozásáról és ötfős bizottságot bízott meg annak végrehajtására. Ennek, a szervező munkát magára vállaló egyik tagja volt Sárkány József. Az első öt évben a múzeum igazgatója volt. 1947-től 1955-ig, végleges nyugdíjba vonulásáig, újból az intézmény igazgatója lett. Még egyszer vállalnia kellett a háború idején szétzilálódott Kossuth-gyűjtemény újjászervezését, az elpusztult tárgyak és dokumentumok lehető pótlását és rendszerezését.
Történeti kutatómunkájának gerincét mindvégig Kossuth Lajos életének, munkásságának, Cegléd és Kossuth kapcsolatának megismerése és – hiszen pedagógus volt – annak mind szélesebb körben való megismertetése jelentette. 13 tanulmánya, összeállítása jelent meg. Ezek közül kiemelkedő a „Kossuth Lajos élete és egyénisége” valamint a „Kossuth Lajos élete és hagyatéka” című munkája.
Cegléd – a „fogadott” szülőváros – történetének, ezen belül is elsősorban a városhoz kapcsolódó nagy egyéniségek
munkásságának megismertetésére megszámlálhatatlanul sok újságcikket szentelt. Az ilyen cikkek egy részét „Nagy idők sodrában” címmel tanítványai adták ki. A ceglédi születésű, illetve az itt megfordult, városról megnyilatkozó írók művészek, tudósok munkásságának tanulságos gyűjteménye a „Cegléd az irodalomban” című kiadvány, de a református egyház történetéről írott dolgozatai szintén fontos helytörténeti adatokat tartalmaznak. (”Emlékkönyv Cegléd reformációjának 400-ik évfordulójára”.
Jellemző alakja volt a két háború közötti Cegléd utcáinak. Hóna alatt mindig könyvekkel, gyors léptekkel sietett, vitte kéziratait, szervezte előadásait. Ha a mai idősebb nemzedékből valaki még emlékezik rá, már egy megtört, elfáradt emberre emlékezhet. 70. születésnapján pedig volt tanártársa, Simon Laci bácsi tréfás versben imígyen írt róla:
„Mert ki oly frissen talpalva
E nagy várost benyargalja,
S aki oly fürgén cikázik
Cegléd – Kecskeméttől – Vácig
Most amott van, majd emitten,
Mint lidércfény tovalibben
S alig számol néhány százig,
Már Pest felé vitorlázik,
…És ha… még volna szárnya
Öccséhez is messze szállna…
Mondom, ki minderre képes,
Csak „papíron” hetven éves.”
Az, hogy Cegléden a Kossuth-kultusz kialakult, élt és mai is él, több okhoz, eseményhez és több személyhez köthető. Ezek közül egyik mindenképpen Sárkány József tanár úr, a múzeum alapítója és első igazgatója.
Öreg korában Budapesten lányánál élt. 1972. augusztus 18-án halt meg. Végakarata szerint Cegléden Kossuth városában a református öregtemetőben temették el.