재획하면서 공부하기 #5

메이플스토리 갤러리

1/3

인종차별가와 차별에 대항한 사람의 엇갈린 결과 대한민국인디언
바르셀로나 1티어 기자, "손흥민 영입 굉장히 원했다." ㅇㅇ
승객 눈에 불빛 테러하는 지하철 민폐 노인 ㅇㅇ
옥토모어 팝업 후기.... 옥돔
[120MB] 귀신 임신시킨 썰 푼다 ㅇㅇ
스프링뱅크 Barley to Bottle 투어 후기 1,2,3부 독병처도리
포켓몬 코리아 부사장 무서운 사람이네 빗소리P
이세계 어쩌고저쩌고.manhwa kain_y
꿀팁꿀팁 아파트 입주할때 인터넷으로 잘 알아보고 가야 하는 이유 ㅇㅇ
김종국 "맛으로 먹어요? 샐러드를?" 헬갤러
직장 펜스룰 때문에 돌아버리겠다는 한국여성들 주갤러
알리에서 23만원짜리 전기자전거 주문했더니 생긴 일 ㅇㅇ
오들오들 공익 레전드.....jpg ㅇㅇ
싱글벙글 일본 슴만튀 레전드 댕댕이맨
ㅅㅂㅅㅂ 광고촌 ㅇㅇ

프랑켄슈타인 창작만화(3) [시리즈] 프랑켄슈타인 창작 만화 · 프랑켄슈타인 창작 만화· 프랑켄 슈타인 창작만화(2)괜찮으면 다음편도 Go 작성자 : 만화가좋아♡

ㅇㅇ

2024.09.02 00:07:34

조회 72 추천 0 댓글 0

재획하면서 공부하기 #1~2 개인 리뷰용 파이썬 코드입니다.

재획하면서 공부하기 #1

https://gall.dcinside.com/board/view/?id=maplestory_new&no=8308815&search_pos=-8270584&s_type=search_subject_memo&s_keyword=%EC%9E%AC%ED%9A%8D%ED%95%98%EB%A9%B4%EC%84%9C&page=1

재획하면서 공부하기 #1 - 메이플스토리 갤러리

regressionclassificationX : INPUTx1, x2, x3 ... : featureY : OUTPUTY = F(X)ex) Y = w1x1 + w2x2 + ew1, w2 : weight, parame

gall.dcinside.com

재획하면서 공부하기 #2

https://gall.dcinside.com/board/view/?id=maplestory_new&no=8312042&search_pos=-8280584&s_type=search_subject_memo&s_keyword=%EC%9E%AC%ED%9A%8D%ED%95%98%EB%A9%B4%EC%84%9C&page=1

참조한 유튜브 강의영상

https://youtu.be/YIgLpsJ-1J4

# Linear Regression
# x_training k개의 feature, n개의 data
# y_training 1개의 feature, n개의 data

# 편의상 k=4, n=100

# x_training = ( n x k )
# y_training = ( n x 1 )

import numpy as np

# Generate random data for x_training with k=4 features and n=100 data points
x_training = np.random.rand(100, 4)

# Generate random data for y_training with 1 feature and n=100 data points
y_training = np.random.rand(100)


# y = w0 + w1x1 + w2x2 + w3x3 + w4x4 의 형태의 모델을 만드는 것이 목적
# w = (xtx)-1 xt y


# Add a column of ones to x_training for the bias term (w0)
X = np.c_[np.ones(x_training.shape[0]), x_training]



# closed-form solution 을 이용해 구하는 방법
# Calculate the weights (w) using the normal equation
w = np.linalg.inv(X.T @ X) @ X.T @ y_training


# gradient descent 를 이용해 구하는 방법
# Set the learning rate
learning_rate = 0.01
# Set the number of iterations
num_iterations = 1000
# Initialize the weights
w = np.zeros(X.shape[1])
print(w)
# Perform gradient descent
for i in range(num_iterations):
  # Calculate the predictions
  y_pred = X @ w
  # Calculate the error
  error = y_pred - y_training
  # Calculate the gradient
  gradient = X.T @ error / len(y_training)
  # Update the weights
  w = w - learning_rate * gradient

# classification - logistic regression

# Generate random data for x_training with k=4 features and n=100 data points
x_training = np.random.rand(100, 4)

# Generate random data for y_training with 1 feature and n=100 data points
y_training = np.random.randint(2, size=100)


# iterative reweight least squre 방법을 사용하여 구하기
# Add a column of ones to x_training for the bias term (w0)
X = np.c_[np.ones(x_training.shape[0]), x_training]

# Set the number of iterations
num_iterations = 100

# Initialize the weights
w = np.zeros(X.shape[1])

# Perform iterative reweighted least squares
for i in range(num_iterations):
  # Calculate the predictions
  y_pred = 1 / (1 + np.exp(-X @ w))

  # Calculate the weights
  weights = y_pred * (1 - y_pred)

  # Calculate the Hessian matrix
  hessian = X.T @ (weights[:, np.newaxis] * X)



# conjugate gradient 를 사용하여 구하기
# Add a column of ones to x_training for the bias term (w0)
X = np.c_[np.ones(x_training.shape[0]), x_training]

# Initialize the weights
w = np.zeros(X.shape[1])

# Set the number of iterations
num_iterations = 100

# Set the tolerance
tol = 1e-6

# Perform conjugate gradient
for i in range(num_iterations):
  # Calculate the predictions
  y_pred = 1 / (1 + np.exp(-X @ w))

  # Calculate the gradient
  gradient = X.T @ (y_pred - y_training)

  # Calculate the Hessian matrix
  H = X.T @ (y_pred * (1 - y_pred) * X)

  # Calculate the search direction
  if i == 0:
    d = -gradient
  else:
    beta = np.dot(gradient, gradient) / np.dot(gradient_old, gradient_old)
    d = -gradient + beta * d

  # Calculate the step size
  alpha = -np.dot(gradient, d) / np.dot(d, H @ d)

  # Update the weights
  w = w + alpha * d

  # Check for convergence
  if np.linalg.norm(gradient) < tol:
    break

  # Store the gradient for the next iteration
  gradient_old = gradient





# Newton's method 를 이용하여 구하기
# Initialize the weights
w = np.zeros(X.shape[1])

# Set the number of iterations
num_iterations = 100

# Set the tolerance
tol = 1e-6

# Perform Newton's method
for i in range(num_iterations):
  # Calculate the predictions
  y_pred = 1 / (1 + np.exp(-X @ w))

  # Calculate the gradient
  gradient = X.T @ (y_pred - y_training)

  # Calculate the Hessian matrix
  H = X.T @ (y_pred * (1 - y_pred) * X)

  # Calculate the update
  update = np.linalg.solve(H, -gradient)

  # Update the weights
  w = w + update

  # Check for convergence
  if np.linalg.norm(gradient) < tol:
    break





# Calculate the predictions
y_pred = 1 / (1 + np.exp(-X @ w))

# Convert probabilities to binary predictions
y_pred_binary = (y_pred > 0.5).astype(int)





# AND gate 를 로지스틱 회귀모델로 학습하기
# Define the input data
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])

# Define the output data
y = np.array([0, 0, 0, 1])

# Add a column of ones to X for the bias term
X = np.c_[np.ones(X.shape[0]), X]

# Initialize the weights
w = np.zeros(X.shape[1])

# Set the learning rate
learning_rate = 0.1

# Set the number of iterations
num_iterations = 1000

# Perform gradient descent
for i in range(num_iterations):
  # Calculate the predictions
  y_pred = 1 / (1 + np.exp(-X @ w))
  # Calculate the error
  error = y_pred - y
  # Calculate the gradient
  gradient = X.T @ error / len(y)
  # Update the weights
  w = w - learning_rate * gradient

# Calculate the predictions
y_pred = 1 / (1 + np.exp(-X @ w))

# Print the predictions
print(y_pred)

# Define the validation data
X_val = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])

# Define the output data
y_val = np.array([0, 0, 0, 1])

# Add a column of ones to X_val for the bias term
X_val = np.c_[np.ones(X_val.shape[0]), X_val]

# Calculate the predictions for the validation data
y_pred_val = 1 / (1 + np.exp(-X_val @ w))

# Convert probabilities to binary predictions
y_pred_binary = (y_pred_val > 0.5).astype(int)

# Compare the predictions to the actual values
print(y_pred_binary == y_val)






# 뉴럴 네트워크
# 1개의 입력층, 1개의 은닉층, 1개의 출력층

import numpy as np

# Define the sigmoid activation function
def sigmoid(x):
  return 1 / (1 + np.exp(-x))

# Define the derivative of the sigmoid function
def sigmoid_derivative(x):
  return x * (1 - x)

# Define the neural network class
class NeuralNetwork:
  def __init__(self, input_size, hidden_size, output_size):
    # Initialize the weights
    self.weights1 = np.random.randn(input_size, hidden_size)
    self.weights2 = np.random.randn(hidden_size, output_size)

  def forward(self, X):
    # Calculate the output of the hidden layer
    self.hidden_layer_output = sigmoid(np.dot(X, self.weights1))
    # Calculate the output of the output layer
    self.output = sigmoid(np.dot(self.hidden_layer_output, self.weights2))
    return self.output

  def backward(self, X, y, output):
    # Calculate the error in the output layer
    self.output_error = y - output
    # Calculate the derivative of the output layer
    self.output_delta = self.output_error * sigmoid_derivative(output)
    # Calculate the error in the hidden layer
    self.hidden_layer_error = self.output_delta.dot(self.weights2.T)
    # Calculate the derivative of the hidden layer
    self.hidden_layer_delta = self.hidden_layer_error * sigmoid_derivative(self.hidden_layer_output)
    # Update the weights
    self.weights2 += self.hidden_layer_output.T.dot(self.output_delta)
    self.weights1 += X.T.dot(self.hidden_layer_delta)

  def train(self, X, y, num_iterations):
    for i in range(num_iterations):
      # Perform forward propagation
      output = self.forward(X)
      # Perform backward propagation
      self.backward(X, y, output)



# Define the input data
X = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])

# Define the output data
y = np.array([[0], [1], [1], [0]])

# Create a neural network with 2 input neurons, 2 hidden neurons, and 1 output neuron
nn = NeuralNetwork(2, 2, 1)

# Train the neural network
nn.train(X, y, 10000)

# Define the validation data
X_val = np.array([[0, 0], [0, 1], [1, 0], [1, 1]])

# Predict the output for the validation data
y_pred = nn.forward(X_val)

# Print the predictions
print(y_pred)

# Convert probabilities to binary predictions
y_pred_binary = (y_pred > 0.5).astype(int)

# Compare the predictions to the actual values
print(y_pred_binary == y)

고정닉 0

전체 댓글 0개

등록순

본문 보기

타인의 권리를 침해하거나 명예를 훼손하는 댓글은 운영원칙 및 관련 법률에 제재를 받을 수 있습니다.
Shift+Enter 키를 동시에 누르면 줄바꿈이 됩니다.

갤러리 리스트
번호	제목	글쓴이	작성일	조회	추천
설문	지금 결혼하면 스타 하객 많이 올 것 같은 '인맥왕' 스타는?	운영자	24/10/28	-	-
8708745	아니 나 저저번즈에 애슐리가서 혼밥했거든? [1]	고양이갤러리	02:21	35	0
8708744	크로아 화탐 귀신같이 안올리는 판매자 거수. [9]	성교육영재반	02:21	73	0
8708743	메랜은 진짜 알피지게임같고 본메는 도박장같음	ㅇㅇ	02:21	22	1
8708742	절대 호출기를 먹지마. [4]	얘들아안농	02:20	40	0
8708741	크로아는 환산 1만씩 낮춰야됨ㅋㅋㅋㅋㅋ	ㅇㅇ(118.235)	02:20	44	0
8708739	메린이한테 메이플알려주는거 재밌는듯 [15]	외힙추천	02:20	59	3
8708738	외식상품권생겼는데 지금음식시킬까 낮에쿠우쿠우갈까 [4]	박진혁	02:20	36	0
8708737	아크 준극딜 하는게 맞냐?	ㅇㅇ(222.233)	02:19	20	0
8708736	호출기 썼는데 기적의 강종컨으로 탐험 실패됐음	얘들아안농	02:19	24	0
8708734	아 근데 ㄹㅇ내일 미라클뜰꺼 같은데 걍 지금 에테살까	안무는모기야	02:19	20	0
8708732	헌티드맨숀 존나 재미따	ㄹㅃ	02:19	29	0
8708731	버튼눌러서 메갤러 무작위로 한명죽는대신 1000원받을수있으면 하냐? [17]	고양이갤러리	02:18	71	0
8708730	2시 24분 이전에 자야하는 이유 [8]	ㅅㅁ	02:18	47	0
8708729	토게나시 토게아리 보고싶은데 씨발... [1]	농현	02:18	24	0
8708728	메소가 안 모인다 안모여 [1]	ㅇㅇ(182.231)	02:18	28	0
8708727	잘려고 [11]	Pure.	02:17	45	0
8708726	심심한데뮤ㅗ하지	외힙추천	02:17	21	0
8708725	훈티드 31/50임	둘기콘	02:17	14	0
8708724	곽튜브 역대급 논란떴다.JPG	메갤러(59.151)	02:17	48	0
8708723	나 처녀야 [11]	피버	02:17	75	0
8708722	11시간잣는대 왜졸리지 ㅅㅂ 김보민병 [6]	윤하람	02:17	40	0
8708721	자자이 날것의 쓰래기들아 [2]	노콤마탕녀	02:16	30	0
8708720	메이플 < 바보병신저능아들이 하는게임	ㅇㅇ(114.204)	02:16	26	0
8708719	메순이 쉬마려워서 일어낫어	ㅇㅇ(118.235)	02:16	40	0
8708718	끼잉...끼이잉... [14]	끼잉	02:16	59	0
8708716	아니 씨발 작살 날리고 스페이스바 누르는 데 c 눌려서 [2]	얘들아안농	02:16	29	0
8708715	13만원 주고 qwer만 보러 락페가는거 어떰 [7]	농현	02:16	66	0
8708714	디시 차단 꿀킵 ㅇㅇ차단하기 [14]	고양이갤러리	02:15	63	0
8708713	메소값이 비싸면 스펙업하고 싶고 [4]	ㅇㅇ	02:15	60	0
8708712	잘자요 메갤 [5]	베지밀Ｂ	02:15	30	0
8708710	본인 크로아인데 크로아에서 주화 교환했응 [3]	ㅇㅇ(210.113)	02:14	77	8
8708709	ㄴ고아새끼면 개추 [2]	ㅇㅇ	02:14	33	2
8708708	나 통피 다 차단해놨는데 [4]	ㅇㅇ(182.231)	02:14	49	0
8708707	스카니아에 오물주화 던진다고 다들 계획짠거 아니였음?? [2]	ㅇㅇ(106.101)	02:13	45	0
8708706	팡블레템산애들 지금감가얼마나먹었음?	ㅇㅇ(49.236)	02:13	41	0
8708705	전투력 400만인데 스데미 됨? [11]	ㅇㅇ	02:13	51	0
8708703	ㅆㅂ 맞춰서 아래층 내려갔는데 이상현상 찾은 횟수 왜 줄어듬 [1]	메갤러(58.237)	02:13	23	0
8708702	조각 99개 모았다 [4]	만두	02:13	34	0
8708701	아즈모스 이후로 풀메제 한번도 채워본적이없음 [4]	박진혁	02:13	42	0
8708700	크악내소중한메소가!! [5]	외힙추천	02:12	51	0
8708699	또율튜브 << 보지마셈 보지말라면 보지마그냥 [2]	안무는모기야	02:12	35	0
8708698	진짜 지명 이 개새끼 [1]	ㅇㅇ(106.101)	02:12	53	0
8708697	헌티드멘션 창섭이 개씨발년아	홍어오로라	02:12	40	0
8708696	고등학생인 채인게 뭐가 나쁜건데 [2]	박진혁	02:12	41	0
8708695	크로아 이 씨발 거지새끼들아ㅋㅋㅋㅋㅋㅋㅋㅋㅋ [1]	ㅇㅇ(118.235)	02:11	63	0
8708694	헌티드 4번틀리고접음 ㅠ [2]	ㅇㅇ(58.29)	02:11	44	0
8708693	하나진짜미치겟네ㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠㅠ [15]	아현.	02:11	75	0
8708692	에테 뽑기식35억메소에 팝니다. [12]	초서	02:11	77	0
8708691	스카랑 루나랑 메소값 거의똑같던데	메갤러(175.197)	02:11	36	0
8708690	개 >> 고양이 ㅍㅌ [14]	쟁취	02:10	55	0