在矩陣中可畫出一條階梯線,線的下方全為0,每個台階只有一行,台階數即是非零行的行數,階梯線的豎線(每段豎線的長度為一行)後面的第一個元素為非零元,也就是非零行的第一個非零元,則稱該矩陣為行階梯矩陣。
若非零行的第一個非零元都為1,且這個非零元所在的列的其他元素都為0,則稱該矩陣為行最簡形矩陣。