Rate this Page
★ ★ ★ ★ ★

참고

Go to the end to download the full example code.

PyTorch: 텐서(Tensor)와 autograd#

\(y=\sin(x)\) 을 예측할 수 있도록, \(-\pi\) 부터 \(\pi\) 까지 유클리드 거리(Euclidean distance)를 최소화하도록 3차 다항식을 학습합니다.

이 구현은 PyTorch 텐서 연산을 사용하여 순전파 단계를 계산하고, PyTorch autograd를 사용하여 변화도(gradient)를 계산합니다.

PyTorch 텐서는 연산 그래프에서 노드(node)로 표현됩니다. 만약 x 가 x.requires_grad=True 인 텐서라면, x.grad 는 어떤 스칼라 값에 대한 x 의 변화도를 갖는 또다른 텐서입니다.

99 6250.638671875
199 4165.59375
299 2778.269775390625
399 1854.826171875
499 1239.8988037109375
599 830.2353515625
699 557.1920166015625
799 375.1185302734375
899 253.64407348632812
999 172.55609130859375
1099 118.39657592773438
1199 82.201416015625
1299 57.997100830078125
1399 41.80055618286133
1499 30.95519256591797
1599 23.687896728515625
1699 18.81462860107422
1799 15.544105529785156
1899 13.347549438476562
1999 11.87103271484375
Result: y = 0.031524356454610825 + 0.811490535736084 x + -0.005438477732241154 x^2 + -0.08689392358064651 x^3


importtorch
importmath
dtype = torch.float
device = "cuda" if torch.cuda.is_available() else "cpu"
torch.set_default_device(device)
# 입력값과 출력값을 갖는 텐서들을 생성합니다.
# requires_grad=False가 기본값으로 설정되어 역전파 단계 중에 이 텐서들에 대한 변화도를
# 계산할 필요가 없음을 나타냅니다.
x = torch.linspace(-math.pi, math.pi, 2000, dtype=dtype)
y = torch.sin(x)
# 가중치를 갖는 임의의 텐서를 생성합니다. 3차 다항식이므로 4개의 가중치가 필요합니다:
# y = a + b x + c x^2 + d x^3
# requires_grad=True로 설정하여 역전파 단계 중에 이 텐서들에 대한 변화도를 계산할 필요가
# 있음을 나타냅니다.
a = torch.randn((), dtype=dtype, requires_grad=True)
b = torch.randn((), dtype=dtype, requires_grad=True)
c = torch.randn((), dtype=dtype, requires_grad=True)
d = torch.randn((), dtype=dtype, requires_grad=True)
learning_rate = 1e-6
for t in range(2000):
 # 순전파 단계: 텐서들 간의 연산을 사용하여 예측값 y를 계산합니다.
 y_pred = a + b * x + c * x ** 2 + d * x ** 3
 # 텐서들간의 연산을 사용하여 손실(loss)을 계산하고 출력합니다.
 # 이 때 손실은 (1,) shape을 갖는 텐서입니다.
 # loss.item() 으로 손실이 갖고 있는 스칼라 값을 가져올 수 있습니다.
 loss = (y_pred - y).pow(2).sum()
 if t % 100 == 99:
 print(t, loss.item())
 # autograd 를 사용하여 역전파 단계를 계산합니다. 이는 requires_grad=True를 갖는
 # 모든 텐서들에 대한 손실의 변화도를 계산합니다.
 # 이후 a.grad와 b.grad, c.grad, d.grad는 각각 a, b, c, d에 대한 손실의 변화도를
 # 갖는 텐서가 됩니다.
 loss.backward()
 # 경사하강법(gradient descent)을 사용하여 가중치를 직접 갱신합니다.
 # torch.no_grad()로 감싸는 이유는, 가중치들이 requires_grad=True 지만
 # autograd에서는 이를 추적하지 않을 것이기 때문입니다.
 with torch.no_grad():
 a -= learning_rate * a.grad
 b -= learning_rate * b.grad
 c -= learning_rate * c.grad
 d -= learning_rate * d.grad
 # 가중치 갱신 후에는 변화도를 직접 0으로 만듭니다.
 a.grad = None
 b.grad = None
 c.grad = None
 d.grad = None
print(f'Result: y = {a.item()} + {b.item()} x + {c.item()} x^2 + {d.item()} x^3')

Total running time of the script: (0 minutes 4.347 seconds)