Vue d'ensemble du choix des matrices dans l'algorithme de Strassen

Dans l'algorithme de Strassen, pour calculer le produit de deux matrices et , les matrices et sont divisées en matrices de blocs et l'algorithme procède calcul récursif de produits matrice-matrice à blocs par opposition à un produit matriciel matriciel à blocs, c'est-à-dire si nous voulons , où $\mathbf{A}$ $\mathbf{B}$ $\mathbf{A}$ $\mathbf{B}$ $2 \times 2$ $7$ $8$ $\mathbf{C}=\mathbf{A} \mathbf{B}$

A = [\begin{matrix} A_{1, 1} & A_{1, 2} \\ A_{2, 1} & A_{2, 2} \end{matrix}], B = [\begin{matrix} B_{1, 1} & B_{1, 2} \\ B_{2, 1} & B_{2, 2} \end{matrix}], C = [\begin{matrix} C_{1, 1} & C_{1, 2} \\ C_{2, 1} & C_{2, 2} \end{matrix}]

$\mathbf{A} =\begin{bmatrix} \mathbf{A}_{1,1} & \mathbf{A}_{1,2} \\ \mathbf{A}_{2,1} & \mathbf{A}_{2,2} \end{bmatrix} \mbox { , } \mathbf{B} = \begin{bmatrix} \mathbf{B}_{1,1} & \mathbf{B}_{1,2} \\ \mathbf{B}_{2,1} & \mathbf{B}_{2,2} \end{bmatrix} \mbox { , } \mathbf{C} = \begin{bmatrix} \mathbf{C}_{1,1} & \mathbf{C}_{1,2} \\ \mathbf{C}_{2,1} & \mathbf{C}_{2,2} \end{bmatrix}$ alors nous avons qui nécessite

C_{1, 1} = A_{1, 1} B_{1, 1} + A_{1, 2} B_{2, 1} C_{1, 2} = A_{1, 1} B_{1, 2} + A_{1, 2} B_{2, 2} C_{2, 1} = A_{2, 1} B_{1, 1} + A_{2, 2} B_{2, 1} C_{2, 2} = A_{2, 1} B_{1, 2} + A_{2, 2} B_{2, 2}

$\mathbf{C}_{1,1} = \mathbf{A}_{1,1} \mathbf{B}_{1,1} + \mathbf{A}_{1,2} \mathbf{B}_{2,1}\\ \mathbf{C}_{1,2} = \mathbf{A}_{1,1} \mathbf{B}_{1,2} + \mathbf{A}_{1,2} \mathbf{B}_{2,2}\\ \mathbf{C}_{2,1} = \mathbf{A}_{2,1} \mathbf{B}_{1,1} + \mathbf{A}_{2,2} \mathbf{B}_{2,1}\\ \mathbf{C}_{2,2} = \mathbf{A}_{2,1} \mathbf{B}_{1,2} + \mathbf{A}_{2,2} \mathbf{B}_{2,2}$

8

$8$ multiplications. Au lieu de cela, dans Strassen, nous calculons et obtenez utilise

comme

M_{1} := (A_{1, 1} + A_{2, 2}) (B_{1, 1} + B_{2, 2}) M_{2} := (A_{2, 1} + A_{2, 2}) B_{1, 1} M_{3} := A_{1, 1} (B_{1, 2} - B_{2, 2}) M_{4} := A_{2, 2} (B_{2, 1} - B_{1, 1}) M_{5} := (A_{1, 1} + A_{1, 2}) B_{2, 2} M_{6} := (A_{2, 1} - A_{1, 1}) (B_{1, 1} + B_{1, 2}) M_{7} := (A_{1, 2} - A_{2, 2}) (B_{2, 1} + B_{2, 2})

$\mathbf{M}_{1} := (\mathbf{A}_{1,1} + \mathbf{A}_{2,2}) (\mathbf{B}_{1,1} + \mathbf{B}_{2,2})\\ \mathbf{M}_{2} := (\mathbf{A}_{2,1} + \mathbf{A}_{2,2}) \mathbf{B}_{1,1}\\ \mathbf{M}_{3} := \mathbf{A}_{1,1} (\mathbf{B}_{1,2} - \mathbf{B}_{2,2})\\ \mathbf{M}_{4} := \mathbf{A}_{2,2} (\mathbf{B}_{2,1} - \mathbf{B}_{1,1})\\ \mathbf{M}_{5} := (\mathbf{A}_{1,1} + \mathbf{A}_{1,2}) \mathbf{B}_{2,2}\\ \mathbf{M}_{6} := (\mathbf{A}_{2,1} - \mathbf{A}_{1,1}) (\mathbf{B}_{1,1} + \mathbf{B}_{1,2})\\ \mathbf{M}_{7} := (\mathbf{A}_{1,2} - \mathbf{A}_{2,2}) (\mathbf{B}_{2,1} + \mathbf{B}_{2,2})$

C_{i, j}

$\mathbf{C}_{i,j}$

M_{k}

$\mathbf{M}_{k}$

C_{1, 1} = M_{1} + M_{4} - M_{5} + M_{7} C_{1, 2} = M_{3} + M_{5} C_{2, 1} = M_{2} + M_{4} C_{2, 2} = M_{1} - M_{2} + M_{3} + M_{6}

$\mathbf{C}_{1,1} = \mathbf{M}_{1} + \mathbf{M}_{4} - \mathbf{M}_{5} + \mathbf{M}_{7}\\ \mathbf{C}_{1,2} = \mathbf{M}_{3} + \mathbf{M}_{5}\\ \mathbf{C}_{2,1} = \mathbf{M}_{2} + \mathbf{M}_{4}\\ \mathbf{C}_{2,2} = \mathbf{M}_{1} - \mathbf{M}_{2} + \mathbf{M}_{3} + \mathbf{M}_{6}$ Cependant, le choix des matrices

M_{k}

$\mathbf{M}_k$ me semble arbitraire. Existe-t-il une vue d'ensemble de la raison pour laquelle nous choisissons ces produits spécifiques des sous-matrices de

A

$\mathbf{A}$ et

B

$\mathbf{B}$ ? De plus, je m'attendrais à ce que les

M_{k}

$\mathbf{M}_k$ impliquent les

A_{i, j}

$\mathbf{A}_{i,j}$ et les

B_{i, j}

$\mathbf{B}_{i,j}$ de manière symétrique, ce qui ne signifie pas semblent être le cas ici. Par exemple, nous avons

M_{2} := (A_{2, 1} + A_{2, 2}) B_{1, 1}

$\mathbf{M}_2: = (\mathbf{A}_{2,1}+\mathbf{A}_{2,2})\mathbf{B}_{1,1}$ . Je m'attendrais à ce que son homologue dise

A_{1, 1} (B_{1, 2} + B_{2, 2})

$\mathbf{A}_{1,1} (\mathbf{B}_{1,2} + \mathbf{B}_{2,2})$ également être calculé. Cependant, ce n'est pas le cas, car il peut être obtenu à partir d'autres

M_{k}

$\mathbf{M}_k$ .

J'apprécierais que quelqu'un puisse éclairer cela.

ds.algorithms linear-algebra matrices matrix-product Communauté
la source

Réponses:

De Groote (On Varieties of Optimal Algorithms for the Computation of Bilinear Mappings. II. Optimal Algorithms for 2x2-Matrix Multiplication. Theor. Comput. Sci. 7: 127-148, 1978) prouve qu'il n'y a qu'un seul algorithme pour multiplier matrices avec 7 multiplications jusqu'à l'équivalence. Cela pourrait être une caractéristique unique de la multiplication à matrices. (Remarque: vous trouverez différentes variantes de l'algorithme de Strassen dans la littérature. Elles sont toutes équivalentes à la bonne notion d'équivalence.) $2 \times 2$ $2 \times 2$

Si vous commencez maintenant à prouver une borne inférieure pour la multiplication à matrices - voir le livre de Bürgisser, Clausen et Shokrollahi comment faire cela - alors l'algorithme de Strassen ou une variante apparaît tout à fait naturellement. Vous découvrirez de nombreuses identités qui déterminent à quoi ressemblent les produits. Ensuite, vous pouvez terminer en devinant. (La preuve de De Groote montre que même deviner n'est pas nécessaire.) $2 \times 2$

Schönhage m'a dit une fois que Strassen lui avait dit une fois qu'il avait trouvé son algorithme de cette manière, en essayant de prouver une borne inférieure.

Markus Bläser
la source

Il y a une sorte d'explication dans le livre Algebraic Complexity Theory de Bürgisser, Clausen et Shokrollahi (p. 11-12). L'idée est de partir de deux bases et de l'espace de matrices réelles qui satisfont la propriété suivante: . De plus, . Pour multiplier deux matrices et , représentez chacune d'elles dans la base correspondante et évaluez le produit. Étant donné que seulement sept matrices différentes non nulles apparaissent dans le résultat ( ), seuls sept produits sont nécessaires. Le $A_0,A_1,A_2,A_3$ $B_0,B_1,B_2,B_3$ $2\times 2$ $A_iB_j \in \{0,A_0,A_1,A_2,A_3,B_0,B_1,B_2,B_3\}$ $A_0 = B_0$ $A$ $B$ $A_0=B_0,A_1,A_2,A_3,B_1,B_2,B_3$ $M$ les matrices ne sont que ces bases.

Je ne sais pas si Strassen a trouvé cette façon de voir les choses. Compte tenu des autres identités sous-jacentes aux algorithmes de multiplication matricielle rapide, il n'est pas clair s'il y a quelque chose de profond, sous une formule qui fonctionne. Nous avons déjà vécu cela auparavant - Lagrange a utilisé l'identité des quatre carrés (qui était connue auparavant) pour prouver le théorème des quatre carrés. Au début, ce devait être juste une curieuse identité algébrique, mais maintenant nous savons qu'elle énonce la propriété multiplicative de la norme du quaternion. Compte tenu de l'état actuel des connaissances, il est difficile de dire si l'interprétation ci-dessus est aussi productive.

Yuval Filmus
la source

De telles bases sont appelées une paire M, voir le chapitre sur les algèbres de rang minimal dans le livre de Bürgisser, Clausen et Shokrollahi. Je pense qu'il est assez difficile de trouver l'idée que les paires M existent sans connaître le théorème d'Alder-Strassen (voir à nouveau le livre ci-dessus). En particulier, -matrices sont la seule algèbre matricielle pour laquelle il existe une paire M.

2 \times 2

$2\times 2$

Markus Bläser