荀彧早期的官职不是有多高，而是荀彧和夏侯惇职权不同。

曹操最初起兵时由夏侯惇担任军中司马，后来夏侯惇被提拔为折冲校尉，领东郡太守，是曹操的地方官，由新加入的荀彧接任了夏侯惇的司马一职。

按官位排列，太守当然高于司马。可是司马主掌武事，在东汉末年的军阀中诸侯的官职也不是很高，大多都只是将军兼领太守、刺史，所以长史、司马这类辅佐类官职已相当于军阀政权的高官。

在《通典》中记载魏晋南北朝时期的将军开府，府置司马一人，位次将军，掌本府军事。所以在曹操还是个杂牌将军的时候，担任他的司马就是军事中的二把手。

夏侯惇在当时的地位高于荀彧，他是东郡太守，只不过在军事管理上夏侯惇部队还隶属于曹操本部，荀彧作为本部的二把手，自当有权于曹操不在的时候调动夏侯惇。

但司马的职权也不能够一概而论，曹操的司马当然有权力调动隶属于曹操的部队。但是其余的将军也各自设立司马，例如典韦就是夏侯惇的司马，但典韦只拥有替夏侯惇管理部队的权限。蜀汉之时，费祎掌管蜀汉全国兵权，以姜维为司马，这时的姜维又相当于国家军事的二把手。司马的权限有多大，得看正官的权力有多大，司马毕竟只是辅佐性官员。

幕府的部队足够多时还设立别部司马，例如关羽、张飞是刘备的别部司马。吕蒙、黄盖、韩当、周泰、陈武、凌统等人是孙策、孙权的别部司马。别部司马数量较多，司马和别部司马的差别，就相当于军师和军师祭酒的差别一样。

荀彧后来担任尚书令，执掌汉朝中央政府行政职权，与曹操是并立为汉官，曹操还一度想让荀彧也担任三公开府，被荀彧所拒绝，后期的荀彧跟曹操是同朝为官，而非直接听令于曹操的下属。

夏侯惇虽受曹操信赖，但地位并不是最高，按《魏公劝进表》排列，荀攸、钟繇、凉茂、毛玠、刘勋、刘若都排在夏侯惇之上，因为荀彧反对曹操进位没在名单上。直到曹操后期，夏侯惇从汉官转为魏官，地位才直线上升为军界最高。