Matrices dans l’apprentissage automatique – Perficient Blogs

Cet article donne une idée de la façon dont les opérations matricielles telles que la multiplication matricielle surviennent dans l’apprentissage automatique.

Avant de commencer, il y a quelques connaissances préalables sur les «couches denses» des réseaux de neurones.

1. Qu’est-ce qu’une « couche dense » ? Ne vous souciez pas de la façon dont les « couches denses » s’intègrent dans la vue d’ensemble d’un réseau de neurones. Tout ce que nous devons savoir, c’est qu’une couche dense peut être considérée comme un ensemble de « nœuds ».

2. Eh bien, nous avons posé la question : qu’est-ce qu’un « nœud » ? Un nœud peut être considéré comme une machine, associée à un ensemble de nombres appelé poids, qui est chargé de produire une sortie numérique en réponse à la réception d’un certain nombre d’entrées binaires (c’est-à-dire 0 ou 1). Plus précisément, si un nœud N est associée à n poids w₁…, w_npuis quand n nombres binaires X₁…, X_n sont donnés à N comme entrée, N calculera la « somme pondérée » suivante en sortie :

Par exemple, si un nœud a des poids 3, 4, 5 et reçoit les entrées binaires 1, 0, 1, alors ce nœud renverra la somme pondérée 3 * 1 + 4 * 0 + 5 * 1 = 8.

C’est ça! Nous avons fini de couvrir les prérequis. Nous savons maintenant ce qu’une couche dense d’un réseau de neurones est chargée d’accomplir : une couche dense contient des nœuds, qui sont associés à des poids ; les nœuds utilisent les poids pour calculer des sommes pondérées lorsqu’ils reçoivent des entrées binaires.

Maintenant, nous voyons ce qui se passe lorsque nous considérons tous les nœuds d’une couche dense produisant leurs sorties en même temps.

Supposer L est une couche dense. Alors L consiste en m nœuds, N₁…, N_m pour un nombre entier moù le jeème nœud N_je a n les poids* qui lui sont associés, w_i1…, w_dans. Lorsque N_je reçoit n entrées binaires (0 ou 1) X₁…, X_nil calcule

Étant donné que la somme pondérée ci-dessus est calculée par le jeème nœud, appelons-le F(N_je):

Les nœuds N₁…, N_m devra calculer les sommes pondérées F(N₁), …, F(N_m):

Ce qui précède peut être réécrit en utilisant ce que l’on appelle des vecteurs colonnes :

UN vecteur colonne est simplement une liste de nombres écrits dans une colonne. Notez que dans ce qui précède, nous avons utilisé les notions d' »addition de vecteur colonne » et de « mise à l’échelle d’un vecteur colonne par un nombre ».

L’expression ci-dessus peut être exprimée sous la forme d’un produit matrice-vecteur:

(Le produit matrice-vecteur Wx de ce qui précède est littéralement défini être l’expression du côté droit de l’équation précédente).

Cette notation de produit matrice-vecteur nous donne un moyen succinct de déterminer ce que chaque nœud d’une couche fait aux entrées X₁…, X_n.

Généralisation

L’approche ci-dessus se généralise de la manière suivante. Supposons qu’au lieu de n contributions X₁…, X_nNous avons p groupes d’entrées, où le jeème groupe a des entrées X_1i…, X_dans. De plus, définissez X_je := (X_1i…, X_dans) et laissez F(N_j, X_je) désignent le résultat du nœud N_j agissant sur X_1i…, X_dans. Ensuite nous avons

Cela équivaut à

Généralisation supplémentaire

Maintenant, supposons qu’en plus d’avoir plusieurs groupes d’entrées X₁…, X_pnous voulons passer ces groupes d’entrées à travers plusieurs couches plusieurs couches L₁…, L_je. Si couche L_je a une matrice de poids w_jealors le résultat du passage X₁…, X_p à travers L₁…, L_je est le produit de matrices suivant :

• Vous pouvez objecter et remarquer que le nombre de poids associés à un nœud donné dépend du nœud ; en d’autres termes, ce nœud chaque nœud N_je a n_je les poids qui lui sont associés, non n poids. Nous sommes fondés à supposer que n_je = n pour tous je car nous pouvons toujours associer des poids supplémentaires de 0 aux nœuds qui n’ont pas déjà les conditions requises n poids qui leur sont associés.