從外觀結構上看，服務器機柜一般比較大，有的雖然外觀上看似與普通PC機差不多，實際上還是要大些，哪怕是入門級的PC服務器。對于一些中高檔的專業服務器，機箱機柜的差別就更大了，有的還是一個高高的柜子式的機柜。
　　當然，服務器機柜大不是為了誤導消費者，它有大的理由。一方面是由于服務器需要安裝、連接的設備多，需占用較大空間，同時還要準備一些備用設備安置位，如磁帶機、磁盤陣列、多PCI或PCI－X插卡等，也需要占用空間。服務器通常要與許多設備進行連接，如在服務器主板或專用板卡中要插上許多適配器卡，有的還要安裝幾個可熱插撥的硬盤和電源（俗稱“冗余電源”），一般還安裝有供系統備份和恢復用的磁帶機。另外，由于安裝、連接的設備多，工作時發熱量也非常大，必須有足夠的空間來散熱，以確保服務器能長時間穩定工作。以上這些都決定了服務器機柜架構就必須要比普通PC機要大，即便是一些媒體所說的DIY PC服務器，為了保證服務器長期穩定工作，也必須加大機箱機柜，在選購或配置PC服務器時一定要注意。
　　當然以上所說的機箱機柜大，只是針對綜合型塔式服務器而言的。隨著近幾年服務器應用的細化，各大服務器廠商針對各種具體應用推出了專門的功能型服務器，如一些針對空間密集型環境應用推出的服務器產品向機架式服務器，刀片式服務器等在占用空間方面做了特別的優化,大大減小了機箱機柜所占空間。