Il comune sorge ai piedi dei Colli Berici e attorno alla Rocca, l'antico castello posto sulla sommità del colle omonimo, Rocca o Roccaforte, di cui non sono rimasti che ruderi.

Nel territorio di Altavilla Vicentina le testimonianze di età preistorica sono piuttosto scarse e non molto significative.

Per la sua posizione così centrale, ideale per il controllo della pianura che collega Vicenza con Verona, è possibile immaginare l'esistenza di una fortezza residenziale o vigilante fin dai tempi della preistoria. Non sono però stati attuati scavi sistematici che potrebbero mettere alla luce reperti interessanti riguardanti quest'epoca antica. Inoltre, si è scoperto che la rocca risale all'epoca romana e sono attualmente in programma scavi archeologici nella chiesa della rocca.

Nel 148 a.C. venne costruita dai Romani la Via Postumia, il cui tracciato coincide con la porzione della strada statale 11 Padana Superiore che attraversa tutta la lunghezza del territorio.

Nel IX secolo con le prime incursioni degli Ungari, guerrieri a cavallo percorsero le principali vie di comunicazione costruite dai Romani, attuando razzie, stragi e distruzioni nelle fattorie e nei villaggi indifesi, saccheggiando chiese e monasteri. All'interno della Rocca fu edificata la fortezza vera e propria, in prossimità della quale c'era il pozzo per il rifornimento dell'acqua. L'obiettivo del lavoro di fortificazione fu quello di dare residenza e sicurezza alla gente che avrebbe potuto resistere in condizioni piuttosto agevoli anche agli assedi più duri.

Il castello fu oggetto di attacchi ed incursioni da parte di vari signori che ambivano ad ottenere una posizione così vantaggiosa a ridosso di Vicenza. Il periodo che va dal XIII secolo al XIV secolo vide la Rocca spopolarsi progressivamente.

Successivamente le scorribande di Ezzelino III da Romano interessarono anche Tavernelle, quindi il territorio divenne dominio degli Scaligeri nel 1311, poi dei Visconti nel 1387 edinfine della Repubblica di Venezia in seguito alla dedizione vicentina del 1404. Dal 1404 al 1797 il territorio di Altavilla fece parte della Serenissima. Dopo il trattato di Campoformio, nel 1797, Altavilla passò sotto il dominio asburgico entrando a far parte del Regno Lombardo Veneto. In questo periodo il territorio fu interessato dal passaggio delle truppe austriache lungo la statale.