Dec D: Frit fald

Newton-fald omskrevet til lineær regression, MAE-cost, og gradient af cost-funktionen.

Ifølge Newtons love er den tid $t$ det tager et objekt at falde fra en højde $h\,\mathrm{[m]}$ givet ved

$$t=\sqrt{\frac{2\cdot h}{g}}$$

hvor $g$ er gravitationskonstanten. Vi har målt faldetiden fra $N=11$ forskellige højder, $h\in\{0,1,\ldots,10\}\,\mathrm{[m]}$ (se PDF). Vi ønsker at bestemme $g$ via lineær regression.

Spørgsmål D.1

Vis hvorledes formlen for falde-tiden kan omskrives til standard-formen $t=w_0+w_1\cdot x$, og angiv udtrykkene for $w_0$, $w_1$ (udtrykt ud fra $g$) og $x$ (udtrykt ud fra $h$).

Vis svar Skjul svar

Svar D.1

$$t=\sqrt{\frac{2}{g}}\cdot\sqrt{h}=w_0+w_1\cdot x$$

$$w_0=0,\qquad w_1=\sqrt{\frac{2}{g}},\qquad x=\sqrt{h}$$

(Ækvivalent kan $x$ ganges med en konstant $c$ og $w_1$ divideres med samme konstant.)

$w_0=0$, $w_1=\sqrt{2/g}$, $x=\sqrt{h}$

Herefter bruger vi $w_0=0$ og $t=w_1\cdot x$ med $x=\sqrt{h}$. Cost-funktionen er absolut fejl:

$$C(w_1)=\frac{1}{N}\sum_{i=1}^{N}|t_i-w_1\cdot x_i|$$

Cost-funktionen har minimum i $w_1^*=0.44$ (se PDF).

Spørgsmål D.2

Hvad er ifølge den optimale model den estimerede værdi af gravitationskonstanten $g$?

Vis svar Skjul svar

Svar D.2

$$w_1=\sqrt{\frac{2}{g}}\quad\Rightarrow\quad g=\frac{2}{(w_1^*)^2}=\frac{2}{0.44^2}\approx 10.3$$

$\approx 10.3$

Spørgsmål D.3

Giv ud fra figuren et groft estimat af værdien af gradienten af cost-funktionen for $w_1=0.75$.

Vis svar Skjul svar

Svar D.3

Gradienten aflæses som cost-funktionens hældning i $w_1=0.75$. Omkring $0.5$ enhed til højre på $w_1$-aksen svarer til ca. $1$ enhed op på $C$-aksen → $\nabla C\approx 2$.

$\approx 2$

Summen af de observerede $x$-værdier er $\sum_{i=1}^{N}x_i=22.47$. Hint: $\frac{d|z|}{dz}=\frac{z}{|z|}$.

Spørgsmål D.4

Beregn gradienten af cost-funktionen mht. modellens parameter i punktet $w_1=0$ (som en tal-værdi).

Vis svar Skjul svar

Svar D.4

$$\nabla C(w_1)=\frac{\partial C}{\partial w_1}=\frac{1}{N}\sum_{i=1}^{N}\frac{-(t_i-w_1 x_i)}{|t_i-w_1 x_i|}\,x_i$$

Med $w_1=0$ og alle $t_i>0$:

$$\nabla C(0)=\frac{1}{N}\sum_{i=1}^{N}(-x_i)=\frac{1}{11}\cdot(-22.47)\approx -2.04$$

$\approx -2.04$

Se også

Linear models and loss · Derivatives and gradients · Gradient descent