数学上,对称群描述物体的所有对称性。这是通过群作用的概念来形式化的:群的每个元素作为一个双射(或者对称作用)作用在某个集合上。在这个情况下,群称为置换群(特别是在群有限或者不是线性空间时)或者变换群(特别是当这个集合是线性空间而群作为线性变换作用在集合上时)。一个群G的置换表示是群作为一个集合的置换群的群表示(通常该集合有限),并且可以表述为置换矩阵,一般在有限的情形作此考虑-这和作用在有序的线性空间基上是一样的。
令 为一个群, 为一个集合, 在 上的一个(左) 群作用 是一个二元函数
該函數满足如下两条公理:
- 对所有 以及 ,。
- 对每个 ,有 ( 為群 的單位元)。
一般稱群 (在左邊)作用於集合 上,或稱 是一个 -集合。
為簡化在群作用 上使用的符號,我們可以將其柯里化:令 為由單個元素 給出的映射 ,這樣可以通過考慮函數集 來研究群作用。上述兩條公理可以寫作
其中 表示兩函數的複合。所以第二條公理說明函數的複合可以與群運算互相對應,它們可以組成一個交換圖表。該公理甚至可以簡寫為 。
一般簡寫為 或 。
由上述两条公理可知,對固定的元素 ,从映射到 是一个双射(單射和滿射的條件可以分別通過考慮 和 給出)。因此,也可以将 在 上的群作用定义为从 到对称群上 的群同态。
我們可以類似地定义一个 在 上的右群作用为函数,满足以下公理:
注意左和右作用的区别仅在于像 这样的积在 上作用的次序。左群作用中, 先作用,然后才到 ,而对于右作用 先作用,然后才到 。右作用與群上的逆操作复合可以构造出一個左作用。如果 为一右作用,则
是一左作用,因为
而
所以我们可以不失一般性地考虑左群作用。
群G作用在集合X上的作用稱為:[1]
- 遞移性(Transitive)
- 如果X是一個非空集合,對於每對數對 x,y X,則存在一個gG,使得,我們就稱此作用為遞移性。
- 忠實性(Faithful)
- 如果群G嵌入(embbeding)到X的置換群中,我們就稱此作用為忠實的。換言之,就是群G到X的置換群之中為單射。
- 自由性(Free)
- 如果給定 ,存在,則有著,則稱為此作用為自由性。
- 正則的(Regular)
- 同時具有自由性以及遞移性的作用稱為正則的,又稱簡單遞移(英語:simply transitive)。
- n-遞移性(n-transitive)
- 如果集合X 至少有 n 個元素, 對所有不同的元素x1, ..., xn 和所有不同的y1, ..., yn, 存在一個 g 在群G 使得 g⋅xk = yk 對所有 1 ≤ k ≤ n ,我們就稱其為n-遞移性。
- 本原的(Primitive)
- 如果遞移性作用滿足只有trivial區塊(block),那我們稱此作用為本原的。可以證明n-遞移性皆為本原的。
令群 作用在集合 上,對 中的元素 , 在 上的軌道是 的子集,定義為
記作 或 。
集合 的兩個軌道要麼相等,要麼完全不相交,因此軌道是集合的一個劃分。如果兩個軌道 和 存在公共元素 ,那麼存在兩個 中的元素 和 ,使得 , 。因而 ,反之亦可推出 ,所以兩個集合相等。
軌道的一個例子是陪集,假若 是
的一個子集,且定義 中元素的慣常運算規則為 在 上的一個作用,那麼 的陪集 ()就是 的軌道。
令 為 的一個子集,群 作用在 上,對於群 中的所有元素 ,以及所有 中的元素 ,有 ,則我們會說 在 的作用下是封閉的。
若是的一個元素,對於群中的所有元素而言,都有,那麼就稱是-不變的(-invariant)。
令 和 ,如果 ,則 是關於 的一個不動點。
對 的元素 ,所有令 的 中的元素 構成的集合稱為 關於 的穩定子群,記作 或 。
- 。
是的一個子群,因為根據定義,因此 的單位元 在 中。如果 ,那麼的逆元也是的元素,因為。
軌道與穩定子群緊密相關。令群 作用在 上,令 中的 ,考慮映射 , 。該映射的值域等於軌道 。 中的兩元素 和 的像 和 相同的條件是
- 。
換言之, 當且僅當 和 在穩定子群 的同一個陪集中。所以所有在軌道 中的元素 的原像都包含於某個陪集中,每個陪集的像亦為 的一個單元素集合。因此 事實上是 的所有陪集與 的元素的一一對應, 是一個雙射函數。
這個結論稱為軌道-穩定點定理,有
而一個跟軌道-穩定點定理相似的結果就是伯恩賽德引理
其中 是 關於 的穩定子群。 和 都有限時該引理尤其重要,可以被詮釋為「群作用的軌道數等於平均每個群元素的不動點的個數」。
- 任意群G在任意集合X上的平凡的群作用定义为 g⋅x = x 对任意g属于G以及任意x属于X;换句话说,每个群元素对应 X上的恒等置换。[2]