標準誤差とは「標本分布の標準偏差」のことである。
標準誤差は標本から計算される値ではない（そういうことは不可能である）。
標準誤差は母集団分布（＝確率モデル）から数学的に導出される数値である。
「標本の標準偏差」と「標本分布の標準偏差（＝標準誤差）」は別の概念である。
標本の標準偏差は、標本の平均値と各データの偏差二乗和の平均である。
これとパラレルな関係は以下のように表現できる。
標準誤差は、標本分布の平均（＝期待値）と全ての実現値（＝通常は手元には１サンプルしかないが、無数のサンプルが入手可能であったと仮定して考える）との偏差二乗和の平均である。
