Muzej grada Perasta, pored svih ostalih muzejskih vrijednosti u svom inventaru, posjeduje, čuva i prezentuje, putem svoje stalne postavke i nezaobilaznu dragocjenost, a to je biblioteka znamenite peraške porodice Visković.
Članovi porodice Visković bili su ljudi bogatog životnog iskustva, širokih vidika i interesovanja, te se slobodno može reći, kako je njihova biblioteka ogledalo njih samih, a njihov bibliotečki fond je otud raznolik i bogat.
Znameniti Viskovići biblioteku su često bogatili čak i svojim djelima (bilo da je riječ o autorskim tekstovima ili o prevodima). Neka od djela članova porodice Visković su prevod djela “Telemak“ Josipa Konta Viskovića, zatim razni priručnici, stručna literatura, istorijski spisi, a djelo “Storia di Perasto“ Konta Frana Viskovića, izdvajamo kao poseban dragulj, koji je ovaj uman i visokoobrazovani zaljubljenik u svoj rodni grad, ispisao i ostavio potomcima i Perastu.
Bibliotečki fond porodice Visković ima oko 903 bibliotečki obrađene jedinice, premda je njihov ukupan broj znatno veći.
Bogatstvo fonda svjedoče naslovi iz raznoraznih oblasti: teologije, književnosti (mahom prozno i dramsko stvaralaštvo), istorije, etike, pravnih nauka, administracije, trgovine, okultnih nauka, razne enciklopedije i brojni rječnici.
Stalnu postavku Muzeja grada Perasta, čini biblioteka porodice Balović. Ove značajna djela u Muzej grada Perasta, stigla su zajedno sa bibliotekom porodice Visković. Pisane su uglavnom na njemačkom jeziku. Djela su iz oblasti pravnih, prirodnih i vojnih nauka, pomorstva, filozofije, istorije, književnosti, istorije umjetnosti, zatim rječnici i enciklopedije.
Biblioteka don Antona Miloševića nije u stalnoj postavci Muzeja grada Perasta budući da se samo jednim svojim dijelom nalazi u prostorijama Muzeja. Većinu fonda ove biblioteke čine publikacije i periodika.
Biblioteka Muzeja grada Perasta, posjeduje veliki broj knjiga nabavljenih otkupom, značajan broj knjiga je i poklonjen, kao što je biblioteka Krklec. Ovaj fond takođe obiluje raznolikom tematikom iz sljedećih oblasti: pravnih nauka, pomorstva, istorije, književnosti, dio ove Biblioteke su i katalozi i periodika.