試樣一般不宜過大、過高。對于手工制備的天津金相試樣，尺寸以磨面面積小于400mm2、高度15~20mm為宜。若試樣太小則操作不便，若試樣太大則磨制平面過大，增加磨制時間，且不易磨平。由于被檢驗材料或者零件的形狀各異，可以用外形不規則的試樣。不是檢驗表面缺陷、滲層、鍍層的試樣，應將棱邊倒圓，防止在磨制時劃破金相砂紙和金相拋光布，避免在拋光時試樣飛出造成事故。凡檢驗表層組織的試樣，嚴禁倒角以保持棱角完整，并保證磨面平整。

取樣的方法多種多樣。可根據取樣零件的大小、材料性能、現在實際條件靈活選擇。其中常用的方法是金相切割機砂輪片（金相切割片）切割。一般硬度較低的材料（小于230HBW）如低碳鋼、中碳鋼、灰鑄鐵、非鐵金屬等可用鋸、車、刨等機械加工。硬度較高的材料（約大于450HBW）如白口鑄鐵、硬質合金以及淬火后的零件等脆性材料，可用錘擊法，從擊斷的碎片中選出大小和是的試樣。對于大斷面零件或高錳鋼零件等，可用氧乙炔焰氣割，但要預留大于20mm的余量，以便在試樣磨制中將氣割的熱影響區除掉。

不論采用何種方式取樣，都要防止因溫度升高而引起組織變化，或因受力而產生塑性變形。