Pihkova sijaitsee Venäjän länsirajalla ja oli monien vuosien ajan linnoitus, joka puolusti Venäjän länsirajoja.
Kaupunki syntyi heimokunnan paikalle 6. vuosisadalla jKr. Ensinnäkin Velikaya- ja Pskova -jokien yhtymäkohdassa asuttiin korkea kallioinen niemeke. Jo 10. vuosisadan puolivälissä prinssi Vladimirin pojan Sudislavin alaisuudessa oli kolmen hehtaarin kylä, joka lopulta tunnettiin nimellä Krom. Siellä oli varastoja, joissa oli ruokaa piirityksen sattuessa.
Jatkuvat uhat lännestä pakottivat pihkovalaiset rakentamaan puolustusrakenteita. 1100--1800 -luvuilla Pihkova vastusti 30 piiritystä, ja vain yksi niistä - vuonna 1240 - päättyi saksalaisten ritariritarien valloittamaan kaupungin. Prinssi Aleksanteri Nevski pysäytti heidän etenemisen Venäjän sisämaahan vuonna 1242 voitettuaan heidät.
Pihkovalaiset jatkoivat uusien muurien rakentamista, ja 1200 -luvulla, prinssi Dovmontin aikana, linnoituksen muurit muodostivat renkaan kaupungin ympärille. XIV vuosisadalla seinät alkoivat rakentaa kivestä. Lisäksi rakennettiin kellotorni, jossa oli veche -kello, joka kutsui ihmisiä kokouksiin ja kokouksiin. Vuonna 1348 Pihkova sai itsenäisen tasavallan aseman. XIV-XV vuosisatojen aikana Pihkovan tasavaltaa hallitsi veche. Pihkovan armeijan osallistuminen Kulikovon taisteluun vuonna 1380 toi sen lähemmäksi Moskovan ruhtinaskuntaa.
Pihkova oli tehokkaiden kivilinnoitusten järjestelmä. Tuolloin Pihkovasta tuli merkittävä käsityökeskus. Siitä tuli yksi muinaisen venäläisen kulttuurin tärkeimmistä keskuksista. Vuodesta 1510 lähtien Pihkova on ollut osa Venäjän valtiota. Vuosina 1581-82 hän vastusti Stephen Batoryn joukkojen kuuden kuukauden piiritystä, ja vuonna 1615 Ruotsin joukot hyökkäsivät hänen kimppuunsa.
Pohjoisen sodan alusta 1700-1721. Pihkovan puolustuksen merkitys kasvoi. Pietari I valvoi Pihkovan linnoitustöitä ja aloitti täältä kampanjansa Itämerelle. Pihkova on vähitellen menettänyt johtavan asemansa ulkomaankaupassa 1700 -luvun alusta lähtien. Vuodesta 1777 lähtien siitä tuli Pihkovan kuvernöörin keskus ja myöhemmin maakunta.
1800 -luvun lopulla Pihkovassa oli yli kymmenen kirkkoa, kolme luostaria, 35 oppilaitosta sekä useita tehtaita ja tehtaita. Tärkein kauppatavara oli pellava.
Vuonna 1917 Pihkovassa Venäjän viimeinen keisari Nikolai II luopui valtaistuimesta.
