Kaffistova startet i lokalene i Øvre Torvgate allerede i 1925, og fire år senere kom kiosken på hjørnet. Så da er det vel ikke for ingenting at det står «tradisjon og atmosfære» på et stort skilt på veggen.

Men langt fra alle er nok klar over at bygården hvor familien Fremstad har drevet kiosk i snart 82 år, er en av Gjøviks eldste, bygd før det ble by. Ifølge en artikkel i siste utgave av Årbok for Gjøvik holdt Gjøviks første boktrykker, Jens Chr. Christensen, til der i 1860. Rundt forrige århundreskifte ble det drevet en «café- og spiseforretning» der. Bygningen var da pusset utvendig, men er bygd i laftet tømmer.

Boktrykker M.O. Mariendal eide både denne gården og nabogården en periode før den i 1924 ble solgt til Ungdomslaget Upp­land. På slutten av 1920-tallet åpnet Alf Søberg frukt- og tobakksforretning der, men drev bare kort tid. 29. juni 1929 tok Torgny Fremstad over lokalene og startet det som stadig er kjent som Fremstadbutikken eller Fremstadkiosken.

Sønnen Trygve tok over i 1974, men Torgny var i forretningen til 1988, da han rundet 86 år. Trygve Fremstad driver fortsatt forretningen, der tipping og spill utgjør den største del av omsetningen. Men i hyllene finnes alle vanlige kioskvarer, og blant interiøret er også en kundesofa.

Kaffistova er byens eldste spisested i fortsatt drift og ble de første årene drevet i Strandgata 28, i gården som før i tida var kjent som Parkkafeen, men hvor det nå i mange år har vært kinesisk restaurant. Den store murgården i Øvre Torvgate heter egentlig Ramstadgården og ble satt opp av Mathias Ramstad i 1898. Dette var i ei tid da flere av Gjøviks store murgårder ble bygd.

Etter at Ungdomslaget Uppland hadde kjøpt Ramstadgården av boktrykker Mariendal, kunne man fra 1925 drive Kaffi­stova i egen gård. Maler og treskjærer A.A. Barstad fikk i oppdrag å lage dekorasjonene. Han malte også flere bilder som fortsatt henger på veggene. Det mest markante bildet heter Utsigt fra Baggethunhytta og er datert i 1928.

Det er også Kaffistova som eier hjørnegården der Fremstadkiosken er. Ved siden av Fremstad har gården gjennom årene huset forskjellige andre virksomheter, blant annet blomsterforretning.