Карл Карлович Бухольц окончил 2-й Кадетский корпус и был произведён в первый офицерский чин в 1782 году. В полковники произведён 18 мая 1799 года из подполковников Смоленского Драгунского полка. 28 апреля 1800 года полковник Бухольц назначен командиром Смоленского Драгунского полка. Оставался в этой должности до 15 января 1804 года, исключая период с 12 апреля 1801 года по 24 января 1803 года, когда командиром полка был генерал-маиор Гампер.
     15 января 1804 года Бухольц был назначен шефом Северского Драгунского полка, и оставался в этой должности до увольнения в отставку 24 сентября 1806 года.
     10 марта 1807 года Бухольц произведен в генерал-маиоры, однако по книге «Шефы и командиры регулярных полков...» сообщается, что производство состоялось ещё 15 января 1804 года.
     19 ноября 1809 года вновь был принят на службу с назначением Анапским комендантом.
     В 1809 году генерал Бухольц удостоин ордена Св. Георгия 4-го класса.
     С 25 октября 1810 года по 22 июня 1816 года исполнял должность шефа Анапского Гарнизонного полка, оставаясь комендантом Анапы.
     За кампанию 1813 года награжден орденом Св. Анны 1-й степени и прусским Кульмским Крестом. За 1814 год отмечен золотой шпагой "За храбрость" с алмазами.
     В 1823 году награжден орденом Св. Владимира 4-й степени.
     Генерал Бухольц исключён из списков умершим 18 марта 1828 года, будучи комендантом крепостей в Керчи и Ениколе.