import numpy as np

# 수치 미분: f(x) = x^2의 도함수
def numerical_derivative(f, x, h=1e-7):
    """수치 미분으로 기울기를 근사합니다."""
    return (f(x + h) - f(x - h)) / (2 * h)

f = lambda x: x ** 2  # f(x) = x^2
# 해석적 도함수: f'(x) = 2x

x = 3.0
approx = numerical_derivative(f, x)
exact = 2 * x
print(f"수치 미분: {approx:.6f}")   # 6.000000
print(f"해석적 미분: {exact:.6f}")   # 6.000000

# f(x, y) = x^2 + 3xy + y^2
# 편미분: df/dx = 2x + 3y,  df/dy = 3x + 2y

def partial_x(x, y):
    """x에 대한 편미분"""
    return 2 * x + 3 * y

def partial_y(x, y):
    """y에 대한 편미분"""
    return 3 * x + 2 * y

x, y = 1.0, 2.0
print(f"df/dx at (1,2): {partial_x(x, y)}")  # 8.0
print(f"df/dy at (1,2): {partial_y(x, y)}")  # 7.0

# 2변수 함수의 그래디언트
def gradient(x, y):
    """f(x,y) = x^2 + y^2의 그래디언트"""
    return np.array([2*x, 2*y])  # [df/dx, df/dy]

# 경사 하강법: 그래디언트의 반대 방향으로 이동
point = np.array([4.0, 3.0])
lr = 0.1

for step in range(20):
    grad = gradient(point[0], point[1])
    point = point - lr * grad  # 그래디언트 반대 방향

print(f"최종 위치: ({point[0]:.4f}, {point[1]:.4f})")  # (0, 0)에 수렴

f(g(x))의 미분 = f'(g(x)) * g'(x)

# 체인 룰 예시: f(x) = (3x + 2)^2
# g(x) = 3x + 2, f(u) = u^2
# df/dx = f'(g(x)) * g'(x) = 2(3x+2) * 3 = 6(3x+2)

x = 1.0
# 해석적 계산
exact = 6 * (3 * x + 2)  # 30.0

# 수치 미분으로 검증
f = lambda x: (3 * x + 2) ** 2
approx = numerical_derivative(f, x)

print(f"체인 룰 결과: {exact:.4f}")   # 30.0000
print(f"수치 미분 검증: {approx:.4f}")  # 30.0000

# 선형 회귀를 경사 하강법으로 직접 구현
np.random.seed(42)
X = 2 * np.random.rand(100, 1)
y = 4 + 3 * X + np.random.randn(100, 1) * 0.5

# 파라미터 초기화
w = np.random.randn(1, 1)  # 가중치
b = np.zeros((1, 1))       # 편향
lr = 0.1
n = len(X)

for epoch in range(100):
    # 예측
    y_pred = X @ w + b

    # 손실 (MSE)
    loss = np.mean((y - y_pred) ** 2)

    # 그래디언트 계산 (편미분)
    dw = (-2/n) * X.T @ (y - y_pred)  # dL/dw
    db = (-2/n) * np.sum(y - y_pred)  # dL/db

    # 파라미터 갱신
    w = w - lr * dw
    b = b - lr * db

print(f"학습된 가중치: {w[0,0]:.4f} (실제: 3)")
print(f"학습된 편향: {b[0,0]:.4f} (실제: 4)")