La définition des splines cubiques naturelles pour la régression

J'apprends les splines dans le livre "Les éléments de l'exploration, de l'inférence et de la prédiction des données statistiques" de Hastie et al. J'ai trouvé à la page 145 que les splines cubiques naturelles sont linéaires au-delà des nœuds limites. Il y a $K$ noeuds, $\xi_1, \xi_2, ... \xi_K$ dans les splines et ce qui suit est donné à propos d'une telle spline dans le livre.

Question 1: Comment les 4 degrés de liberté sont-ils libérés? Je ne comprends pas cette partie.

Question 2 : Dans la définition de lorsque k $d_k(X)$ alors d K ( X ) = $k=K$ . Qu'est-ce que l'auteur essaie de faire dans cette formule? Comment cela permet-il de s'assurer que les splines sont linéaires au-delà des nœuds de limite?$d_K(X) = \frac 0 0$

1. Commençons par considérer les splines cubiques ordinaires. Ils sont cubiques entre chaque paire de nœuds et cubiques à l'extérieur des nœuds limites. Nous commençons par 4df pour le premier cube (à gauche du premier nœud frontière), et chaque nœud ajoute un nouveau paramètre (car la continuité des splines cubiques et des dérivés et des dérivées secondes ajoute trois contraintes, laissant un paramètre libre), ce qui fait un total de Paramètres pour$K+4$ nœuds.$K$

   Une spline cubique naturelle est linéaire aux deux extrémités. Cela contraint les parties cubiques et quadratiques à 0, chacune réduisant le df de 1. C'est 2 df à chacune des deux extrémités de la courbe, réduisant $K+4$ à .$K$

   Imaginez que vous décidiez de dépenser un certain nombre total de degrés de liberté ( , disons) sur votre estimation de courbe non paramétrique. Étant donné que l'imposition d'une spline naturelle utilise 4 degrés de liberté de moins qu'une spline cubique ordinaire (pour le même nombre de nœuds),$p$paramètres p , vous pouvez avoir 4 nœuds supplémentaires (et donc 4 paramètres supplémentaires) pour modéliser la courbe entre les nœuds limites. .$p$

2. Notez que la définition de est pour k = 1 , 2 , . . . , $N_{k+2}$ (car il existe en tout K fonctions de base). Donc, la dernière fonction de base de cette liste, N K = d K - 2 - d K - 1 . Donc, le k le plus élevénécessaire pour les définitions de d k est pour k $k=1,2,...,K-2$$K$$N_{K}=d_{K-2}-d_{K-1}$$k$$d_k$$k=K-1$. (Autrement dit, nous n'avons pas besoin d'essayer de comprendre ce que certains pourraient faire, car nous ne l'utilisons pas.)$d_K$

Je détaille l'assertion: "Cela libère quatre degrés de liberté (deux contraintes chacune dans les deux régions limites)" dans un exemple à nœuds ξ 1 , ξ 2 . Les intervalles associés sont ] - ∞ , ξ 1 [ , ] ξ 1 , ξ 2$2$$\xi_1, \xi_2$$]-\infty, \xi_1[$$]\xi_1, \xi_2[$$]\xi_2, +\infty[$$|I|=3$$|I|-1=2$ noeuds).

Pour les splines cubiques (courantes)

$4|I|=12$

$$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~\mathbf{1}(X < \xi_1)X^2~~;~~\mathbf{1}(X < \xi_1)X^3~~;$$ $$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$$ $$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X~~;~~\mathbf{1}(\xi_2 \leq X)X^2~~;~~\mathbf{1}(\xi_2 \leq X)X^3.$$

$\mathcal{C}^r$$r=2$$(r+1)\times(|I|-1) = 3\times(|I|-1) = 6$

$12-6=6$

Pour cannelures cubiques naturelles

"Une spline cubique naturelle ajoute des contraintes supplémentaires, à savoir que la fonction est linéaire au-delà des nœuds limites."

$4|I|-4=12-4$$4$$2$

$$\mathbf{1}(X < \xi_1)~~;~~\mathbf{1}(X < \xi_1)X~~;~~$$ $$\mathbf{1}(\xi_1 \leq X < \xi_2)~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^2~~;~~\mathbf{1}(\xi_1 \leq X < \xi_2)X^3~~;$$ $$\mathbf{1}(\xi_2 \leq X)~~;~~\mathbf{1}(\xi_2 \leq X)X.$$

$3\times(|I|-1) = 6$ contraintes sur les coefficients linéaires.

$8-6=2$