適当なベクトル空間を導入し,そこに作用する線形変換行列として表現することで,抽象的に定義される群の構造を具体的に調べることができるようになる。 ここでは,群の表現と,関連するいくつかの基本概念について説明する。
群の表現とは,形式的には次のように定義される:
定義: 群$G$の元ごとに一般線形群$GL(n,F)$の元に対応付ける写像$D$があり,任意の2つの元$g_i,g_j\in G$について $$ D(g_i g_j)=D(g_i)D(g_j) $$ が成り立つとき(すなわち$G$が準同型写像であるとき),写像$D:G\to GL(n,F)$を,$G$の表現(representation)という。
特に,$G$の元と表現行列との対応が1対1であるとき(すなわち写像が同型であるとき),忠実な表現(faithful representation)という。 また,$GL(n,F)$の元が作用する空間をその群の表現空間(representation space),$n$を表現の次元(dimension)という。
線形代数の定理より,群の基底を線形変換$S$によって変換すると,それに伴い表現$D(g)$も
と変換される。 このとき,群の表現としては,$D(g)$と$D'(g)$は同値(equivalent)であるという。
表現空間の基底を適切に選ぶことで,任意の$g\in G$について$n\times n$の表現行列$D$を
という形にできるとき,表現$D$は可約表現(reducible representation)であるという。 ここで,$D_{1},D_{2}$は正方行列で,その次元がそれぞれ$r$および$n-r$であるとすると,$X$は$(n-r)\times r$の行列になっている。
さらに$D$が
のようにブロック対角化できるとき,$D$は完全可約表現(completely reducible representation)であるという。 他方,可約でない表現を,既約表現(irreducible representation)という。
(\ref{eq:comp_redu})のような完全可約な表現は
と表すことができ,これを表現$D_{1}$と$D_{2}$の直和という。 このとき,表現空間も対応する部分空間の直和に分解される。