给定一个等边三角形,通过把所有顶点映射到另一个顶点,绕三角形中心逆时针 120°旋转“作用”在这个三角形的顶点的集合上。
数学上,对称群描述物体的所有对称性。这是通过群作用的概念来形式化的:群的每个元素作为一个双射(或者对称作用)作用在某个集合上。在这个情况下,群称为置换群(特别是在群有限或者不是线性空间时)或者变换群(特别是当这个集合是线性空间而群作为线性变换作用在集合上时)。一个群G的置换表示是群作为一个集合的置换群的群表示(通常该集合有限),并且可以表述为置换矩阵,一般在有限的情形作此考虑-这和作用在有序的线性空间基上是一样的。
令
为一个群,
为一个集合,
在
上的一个(左) 群作用
是一个二元函数

该函数满足如下两条公理:
- 对所有
以及
,
。
- 对每个
,有
(
为群
的单位元)。
一般称群
(在左边)作用于集合
上,或称
是一个
-集合。
为简化在群作用
上使用的符号,我们可以将其柯里化:令
为由单个元素
给出的映射
,这样可以通过考虑函数集
来研究群作用。上述两条公理可以写作


其中
表示两函数的复合。所以第二条公理说明函数的复合可以与群运算互相对应,它们可以组成一个交换图表。该公理甚至可以简写为
。
一般简写为
或
。
由上述两条公理可知,对固定的元素
,从
映射到
是一个双射(单射和满射的条件可以分别通过考虑
和
给出)。因此,也可以将
在
上的群作用定义为从
到对称群上
的群同态。
我们可以类似地定义一个
在
上的右群作用为函数
,满足以下公理:


注意左和右作用的区别仅在于像
这样的积在
上作用的次序。左群作用中,
先作用,然后才到
,而对于右作用
先作用,然后才到
。右作用与群上的逆操作复合可以构造出一个左作用。如果
为一右作用,则

是一左作用,因为

而

所以我们可以不失一般性地考虑左群作用。
群G作用在集合X上的作用称为:[1]
- 传递性(Transitive)
- 如果X是一个非空集合,对于每对数对 x,y
X,则存在一个g
G,使得
,我们就称此作用为传递性。
- 忠实性(Faithful)
- 如果群G嵌入(embbeding)到X的置换群中,我们就称此作用为忠实的。换言之,就是群G到X的置换群之中为单射。
- 自由性(Free)
- 如果给定
,存在
,则有着
,则称为此作用为自由性。
- 正则的(Regular)
- 同时具有自由性以及传递性的作用称为正则的,又称简单传递(英语:simply transitive)。
- n-传递性(n-transitive)
- 如果集合X 至少有 n 个元素, 对所有不同的元素x1, ..., xn 和所有不同的y1, ..., yn, 存在一个 g 在群G 使得 g⋅xk = yk 对所有 1 ≤ k ≤ n ,我们就称其为n-传递性。
- 本原的(Primitive)
- 如果传递性作用满足只有trivial区块(block),那我们称此作用为本原的。可以证明n-传递性皆为本原的。
令群
作用在集合
上,对
中的元素
,
在
上的轨道是
的子集,定义为

记作
或
。
集合
的两个轨道要么相等,要么完全不相交,因此轨道是集合的一个划分。如果两个轨道
和
存在公共元素
,那么存在两个
中的元素
和
,使得
,
。因而
,反之亦可推出
,所以两个集合相等。
轨道的一个例子是陪集,假若
是
的一个子集,且定义
中元素的惯常运算规则为
在
上的一个作用,那么
的陪集
(
)就是
的轨道。
令
为
的一个子集,群
作用在
上,对于群
中的所有元素
,以及所有
中的元素
,有
,则我们会说
在
的作用下是封闭的。
若
是
的一个元素,对于群
中的所有元素
而言,都有
,那么就称
是
-不变的(
-invariant)。
令
和
,如果
,则
是关于
的一个不动点。
对
的元素
,所有令
的
中的元素
构成的集合称为
关于
的稳定子群,记作
或
。
。
是
的一个子群,因为根据定义
,因此
的单位元
在
中。如果
,那么
的逆元
也是
的元素,因为
。
轨道与稳定子群紧密相关。令群
作用在
上,令
中的
,考虑映射
,
。该映射的值域等于轨道
。
中的两元素
和
的像
和
相同的条件是
。
换言之,
当且仅当
和
在稳定子群
的同一个陪集中。所以所有在轨道
中的元素
的原像都包含于某个陪集中,每个陪集的像亦为
的一个单元素集合。因此
事实上是
的所有陪集与
的元素的一一对应,
是一个双射函数。
这个结论称为轨道-稳定点定理,有
![{\displaystyle |G\cdot x|=[G:G_{x}]}](https://wikimedia.org/api/rest_v1/media/math/render/svg/5c5c10f2b33c3532d93efedbc6c970c699ae388d)
而一个跟轨道-稳定点定理相似的结果就是伯恩赛德引理

其中
是
关于
的稳定子群。
和
都有限时该引理尤其重要,可以被诠释为“群作用的轨道数等于平均每个群元素的不动点的个数”。
- 任意群G在任意集合X上的平凡的群作用定义为 g⋅x = x 对任意g属于G以及任意x属于X;换句话说,每个群元素对应 X上的恒等置换。[2]