Eine Darstellung einer Gruppe ist ein Homomorphismus von in die Automorphismengruppe eines gegebenen Vektorraums. Die Gruppenverknüpfung in entspricht dem Hintereinanderausführen von Automorphismen in :
. Wenn ein -dimensionaler Vektorraum über einem Körper ist, dann besteht die Darstellung dementsprechend aus invertierbaren -Matrizen mit Koeffizienten aus .
Die Darstellung (bzw. der Darstellungsraum ) heißt irreduzibel, falls es nur die beiden trivialen -invarianten Unterräume und von gibt. Ist eine direkte Summe von irreduziblen Darstellungen von G, so heißt vollständig reduzibel. Insbesondere ist jede irreduzible Darstellung vollständig reduzibel.
Jede Darstellung einer endlichen Gruppe in einen endlich-dimensionalenkomplexen Vektorraum ist vollständig reduzibel, siehe Weyls unitärer Trick. Allgemeiner gilt für eine Darstellung einer endlichen Gruppe in einen Vektorraum über einem Körper der Charakteristik stets:
Sei ein -invarianter Unterraum von Dann existiert das Komplement von in und ist ebenfalls -invariant.
Dieses Resultat gilt allgemeiner auch für Darstellungen kompakter Gruppen:
Jede lineare Darstellung kompakter Gruppen über einem Körper der Charakteristik ist eine direkte Summe irreduzibler Darstellungen.
In der Formulierung der -Moduln bedeutet dies: Ist so ist die Gruppenalgebra halbeinfach, d. h., sie ist die direkte Summe einfacher Algebren.
Diese Zerlegung ist nicht eindeutig. Allerdings hängt die Anzahl der auftretenden Teildarstellungen, die zu einer gegebenen irreduziblen Darstellung isomorph sind, nicht von der gewählten Zerlegung ab.
Um eine eindeutige Zerlegung zu bekommen, fasst man alle zueinander isomorphen irreduziblen Teildarstellungen zusammen.
Man zerlegt den Darstellungsraum also in die direkte Summe seiner Isotypen.
Diese Zerlegung ist eindeutig. Sie heißt die kanonische Zerlegung.
,
wobei jedes die Summe von Kopien einer irreduziblen Darstellung ist. Man hat also
.
Die Summanden heißen die Isotypen der Darstellung .
Sei die Familie aller irreduziblen Darstellungen einer Gruppe bis auf Isomorphie. Sei
Sei eine Darstellung von und die Menge der Isotypen von Die Projektion zur kanonischen Zerlegung ist gegeben durch
Mit dieser Proposition können wir nun explizit den Isotyp zur trivialen Teildarstellung einer gegebenen Darstellung bestimmen.
Die Anzahl, wie oft die triviale Darstellung in auftritt, ist gegeben durch die Spur von Dies folgt, da eine Projektion nur die Eigenwerte und haben kann und der Eigenraum zum Eigenwert das Bild der Projektion ist. Da die Spur die Summe der Eigenwerte ist, erhält man somit
wobei den Isotyp zur trivialen Darstellung bezeichnet und
Sei eine nicht triviale irreduzible Darstellung von dann ist der Isotyp zur trivialen Darstellung von der Nullraum. D. h., es gilt
Sei die Diedergruppe der Ordnung mit Erzeugern für die gilt und . Sei eine lineare Darstellung von auf den Erzeugern definiert durch:
Diese Darstellung ist treu. Der Unterraum ist ein -invarianter Unterraum. Damit ist die Darstellung nicht irreduzibel und es existiert eine Teildarstellung mit Diese Teildarstellung hat Grad 1 und ist irreduzibel.
Das Komplement zu ist ebenfalls -invariant und liefert die Teildarstellung mit
.
Auch diese Teildarstellung ist irreduzibel. Unsere ursprüngliche Darstellung ist also vollständig reduzibel:
.
Beide Teildarstellungen sind isotypisch und sie sind die einzigen Isotypen ungleich Null von .
Die Darstellung ist unitär bezüglich des Standardskalarprodukts auf da und unitär sind.
In dem man einen beliebigen Vektorraumisomorphismus nimmt, kann eine zu isomorphe Darstellung definiert werden: Sei definiert durch für alle .
Man kann nun noch den Definitionsbereich der Darstellung auf eine Untergruppe, z. B. , einschränken und erhält so Diese Darstellung ist definiert durch das Bild wie oben angegeben.
Sei die Permutationsgruppe in Elementen. Sei eine lineare Darstellung von auf den Erzeugern definiert durch:
Dann lässt sich diese Darstellung auf den ersten Blick zerlegen in die linksreguläre Darstellung der hier bezeichnet mit und die Darstellung mit
Mit Hilfe des Irreduzibilitätskriteriums für Charaktere erkennen wir, dass irreduzibel und nicht irreduzibel ist. Denn es gilt für das Skalarprodukt von Charakteren.
Der Unterraum von ist unter der linksregulären Darstellung invariant. Eingeschränkt auf diesen Unterraum ergibt sich die triviale Darstellung.
Das orthogonale Komplement zu ist Eingeschränkt auf diesen Unterraum, der nach obigen Resultaten ebenfalls -invariant ist, ergibt sich die Darstellung die gegeben ist durch
Wie oben prüft man mit dem Irreduzibilitätskriterium für Charaktere nach, dass irreduzibel ist.
Nun sind aber und isomorph, da für alle gilt, wobei gegeben ist durch die Matrix
Wir bezeichnen die triviale Darstellung vorübergehend mit Eine Zerlegung von in irreduzible Teildarstellungen ist dann: mit dem Darstellungsraum
Die kanonische Zerlegung ergibt sich, in dem wir alle isomorphen irreduziblen Teildarstellungen zusammenfassen: ist der -Isotyp von und die kanonische Zerlegung ist gegeben durch
Dass obige Sätze zur Zerlegung für unendliche Gruppen nicht mehr unbedingt gelten, soll hier an einem Beispiel illustriert werden:
Sei Dann ist mit der Matrixmultiplikation eine Gruppe unendlicher Mächtigkeit und nicht kompakt. Die Gruppe operiert auf durch Matrix-Vektor-Multiplikation. Wir betrachten die Darstellung für alle Der Unterraum ist ein -invarianter Unterraum.
Zu diesem Unterraum existiert nun aber kein -invariantes Komplement. Die Annahme, dass ein solches Komplement existiere, führt zum Widerspruchsresultat, dass jede Matrix über diagonalisierbar wäre.
D. h., wenn wir unendliche Gruppen betrachten, kann der Fall eintreten, dass eine Darstellung nicht irreduzibel ist, aber trotzdem nicht in die direkte Summe irreduzibler Teildarstellungen zerfällt.