Explicație pas cu pas:
La punctul a) X(a) si X(b) sunt matrice din mulțimea G, deci se formează asa cum scrie în multime (am scris detaliat), apoi trebuie doar sa înmulțești X(a) cu X(b) si sa observi ca produsul lor este matricea X(a+b+3ab).
La punctul b) condiția ca mulțimea G sa fie parte stabila este ca oricare ar fi 2 matrice din mulțimea G, adică de forma aceea, produsul lor va fi tot din G. Trebuie sa scrii produsul X(a)•X(b) sub forma unei matrice din G de forma I_2+(a+b+3ab)•A.
La c) am scris foarte detaliat pe foaie si sper sa înțelegi.