딥러닝 수학 기초 | 벡터(Vector)

벡터(Vector)시작점(A)에서 종점(B)으로 향하는 선분을 말하며 쉽게 말해 방향성을 가진 선분이라고 생각하시면 됩니다. 유향 선분(Directed segment)이라고 부르는데 시작점(A)의 위치, 종점(B)에 관한 방향, AB의 길이인 크기 3가지 속성을 뜁니다. 이 중 벡터는 크기와 방향에 대한 양을 표현한 것이라고 할 수 있죠. 보통 화살표선 또는 로마자로 표현합니다. 이를 이용하여 2차원 또는 3차원 좌표 평면에 벡터의 성분을 표시합니다.벡터의 크기벡터의 크기는 화살표선의 길이를 말하며 \(\left| \vec{a}\right|\)로 표현합니다. 그리고 좌표 평면에서의 위치 정보를 가지고 크기를 계산할 수 있습니다. 벡터의 내적(Dot Product)벡터는 '크기와 방향을 갖는 양'이라..

Knowledge/Deep Learning 2022. 2. 26. 00:15

가중치(Weight)와 편향(Bias)의 역할

이전에 작성한 퍼셉트론 포스팅에서 신경망이란 퍼셉트론을 여러겹 묶어놓은 것이라고 하였는데요. 신경망은 크게 입력층, 은닉층(중간층), 출력층 3개로 구분합니다. 각 유닛별로 입력 데이터에 가중치와 편향을 적용하여 연산이 이루어지고 마지막에 결과 값을 도출하게 됩니다. 가중치(Weight)와 편향(Bias)은 앞으로 자주 다루게 될 것이므로 이번 시간에 좀 더 살펴보도록 하겠습니다. 가중치(Weight) 입력층 데이터를 다음 노드로 넘길 때 중요도(=가중치)를 적용한다라고 생각하시면 됩니다. 가중치가 필요한 이유는 가중치가 없을 경우를 생각해보시면 쉽게 이해할 수 있습니다. 신경망을 구성하였지만 만약 가중치(=중요도)가 없다면 다음 층에서 각 노드별 계속 같은 값이 나올 겁니다. 이해를 돕기 위해 아래의 ..

Knowledge/Deep Learning 2022. 1. 18. 01:49

계단 함수(step Function)와 시그모이드(Sigmoid)

계단 함수(Step Function) 이전 시간에 뉴런의 입력 신호에 대해 알아보면서 임계치보다 크면 반응하고 작으면 반응하지 않는다고하여 '반응 조건'을 나타내는 표현에 대해 살펴보았습니다. 위의 식을 시각화하여 그래프로 나타내면 아래와 같이 표현이 됩니다. 이를 일반화하여 이산 변수 t에 대한 함수로 나타내면 [식 1-2]와 같으며 이때 t는 정수입니다. 이처럼 0보다 작은 실수에 대해서는 0, 0보다 큰 실수에 대해서는 1을 갖는 함수를 우리는 '단위 계단 함수'라고 부르고 있습니다. 단위 계단 함수 u(t)를 이용해서 [식 1-1]을 다음과 같은 하나의 식으로 표현할 수 있습니다. 위의 단위 계단 함수에서 인수를 나타내는 t를 우리는 뉴런의 가중 입력이라고 부릅니다. 시그모이드(Sigmoid) 활..

Knowledge/Deep Learning 2021. 11. 30. 03:04

퍼셉트론(Perceptron)

지금부터 딥러닝을 살펴보기 위해서는 퍼셉트론(Perceptron)을 먼저 알아야합니다. 퍼셉트론이란, 일종의 학습 기계로서 1957년 프랑크 로젠블라트(Frank Rosenblatt)가 제안한 것이며 뇌의 학습 기능을 모델화한 것을 말합니다. 퍼셉트론이라는 단어를 살펴보면 'Perception+Neuron'의 조합이라는 것을 알 수 있는데 각각의 의미를 살펴보면 다음과 같습니다. ∘ Perception : 지각 능력, 무언가를 인지하는 능력 ∘ Neuron : 신경 세포, 인공신경망을 구성하는 가장 작은 요소 따라서 뉴런이 어떤 입력 정보를 받았을 때 다양한 정보를 받아들이고 저장하는 뉴런의 기능을 모방한 인공 신경망이 퍼셉트론입니다. 딥러닝의 근원이라고도 할 수 있는 알고리즘이며 다음과 같은 원리로 표..

Knowledge/Deep Learning 2021. 8. 3. 02:31

인공지능(AI) | 머신러닝(ML) | 딥러닝(DL)

AI와 관련된 기사 또는 이야기에서 인공지능, 머신러닝, 딥러닝이란 용어 3가지를 들어보셨을 겁니다. 처음 AI를 접하시는 분들이나 전공이 아니신 분들은 아마도 '인공지능? 머신러닝? 딥러닝? 무슨차이지? 다 똑같은거 아냐?'라고 생각하실 겁니다. 저도 많이 헷갈렸었는데요. 그럼 한번 어떤 차이가 있는지 살펴보도록 하겠습니다. 인공지능(Artificial Intelligence)은 이전 장에서 간단히 소개하였던 것처럼 인간의 학습능력, 추론능력, 지각능력, 그외에 인공적으로 구현한 컴퓨터 프로그램 또는 이를 포함한 컴퓨터 시스템입니다. 인공지능의 발전은 신속하고 강력한 병렬 처리 기능을 제공하는 그래픽 처리 장치(GPU)의 도입과 폭발적으로 늘어나고 있는 빅데이터를 바탕으로 더욱 가속화되고 있는 추세입니..

Knowledge/Deep Learning 2021. 6. 26. 16:17

신경망과 딥러닝

기술의 발전에 따라 최근 들어 인공지능(Artificial Intelligence, AI)이 IT 업계의 큰 이슈입니다. 인공지능이란, 인간의 학습 능력, 추론 능력, 지각 능력, 그 외에 인공적으로 구현한 컴퓨터 프로그램 또는 이를 포함한 컴퓨터 시스템을 말합니다. 지능을 갖고 있는 컴퓨터 시스템이라고 볼 수 있겠네요. 저는 2016년 알파고가 연이어 바둑 천재들을 꺾는 기사를 보고 '인공 지능'이라는 분야에 관심을 가지게 되었는데요. 전공자가 아닐 경우 대부분의 사람들은 저와 비슷하지 않을까 싶네요. 관심 있으신 분들을 위해 제가 찾아본 인공지능 적용 사례를 같이 공유드리니 한 번씩 들어가 보셔도 좋을 것 같습니다. 인공지능 적용 사례 19가지 - 쉽고 르게 인공지능 개념 잡기 _인공지능 적용사례 1..

Knowledge/Deep Learning 2021. 6. 18. 02:24

MoonNote