Il Palazzo venne costruito a partire dal 1455, quando il cardinale veneziano Pietro Barbo fu nominato titolare della Basilica di San Marco. Eletto pontefice, qualche anno più tardi, con il nome di Paolo II (1464-71) promosse l’ampliamento dell’edificio con il nipote Marco Barbo, che gli successe al titolo della basilica: vennero così realizzati i tre saloni monumentali (Sala Regia, Sala del Concistoro poi divenuta delle Battaglie, Sala del Mappamondo) e soprattutto il Viridarium, un giardino porticato situato all’angolo tra le attuali piazza San Marco e piazza Venezia. Dalla fine del ‘400 all’appartamento Barbo, di pertinenza pontificia, venne aggiunto per i cardinali sulla via Papale, oggi via del Plebiscito, l’appartamento Cybo, dal nome di Lorenzo, nipote di Innocenzo VIII (1484-92), che per primo lo abitò. Il palazzo di San Marco rimase di proprietà pontificia fino al 1564, anno in cui venne ceduto da Pio IV Medici (1559-65) alla Repubblica di Venezia, che vi stabilì la propria ambasciata. Da allora è comunemente noto con il nome di ‘Palazzo di Venezia’. In seguito al Trattato di Campoformio (1797), che sancì la fine della Serenissima, l’edificio passò all’Austria, che ne mantenne la funzione di sede diplomatica.
Tra il 1910 ed il 1913 il giardino-viridarium di Paolo II, ormai noto come Palazzetto, fu abbattuto e ricostruito in posizione arretrata per consentire l’ampliamento della piazza e la visione diretta del Vittoriano. Nel 1916 il Regno d’Italia rivendicò il palazzo all’Austria e il ruolo simbolico-nazionalistico assunto dall’edificio dopo la restituzione spinse, nel 1922, Benito Mussolini a sceglierlo come sede del governo fascista (1929-43) e ad utilizzare come proprio ufficio la Sala del Mappamondo in cui si apre il celebre balcone settecentesco. Tra gli interventi sul palazzo di quegli anni si segnala la costruzione del nuovo scalone monumentale, progettato da Luigi Marangoni, a celebrazione della nazione e dei territori conquistati all’Austria nella III guerra d’indipendenza (1866) e nella prima guerra mondiale (1915-18).