Здание Окружного суда возведено в 1883 году по проекту архитектора Министерства юстиции И. Каминского. Является памятником архитектуры классицизма с элементами модерна.
В художественном облике здания большое значение имеет крыльцо перед главным входом, выполненное в технике металлического литья. Широкая литая металлическая лестница до сих пор украшает и интерьеры здания.
В 1917 году здесь находился Витебский военно-революционный комитет, о чем сообщает мемориальная доска на здании. В 1920 году — Дворец труда и губернский совет профсоюзов. Позднее — Витебский областной комитет компартии Белоруссии, который уступил свою резиденцию Художественному музею только в 1992 году.
Сейчас в экспозиции витебского Художественного музея представлены работы И. Репина, И. Левитана, А. Куинджи, И. Крамского, В. Маковского, В. Поленова, П. Верещагина, Ю. Клевера, белорусских художников И. Хруцкого, С. Зарянко, В. Бялыницкого-Бирули, Ю. Пэна (первого учителя М. Шагала) и других, современных художников Витебска.