3기 김태영
5일 전•

11월 12일 일지

11월 12일

오늘 공부에 투자한 순수한 시간: 4시간 30분

학습한 개념: LLM의 역사

<LLM의 역사>

<1. 최초의 인공신경망 : Perceptron>

1958년에 프랭크 로젠블랫(Frank Rosenblatt)이라는 심리학자가 퍼셉트론(perceptron)이란느 모델을만들었고, 세계 최초로 인공신경망읋활용한 학습하는 AI를 구현했다. 카메라로 카드를 보여주면서 이건 왼쪽 표시 이건 오른쪽 표시 이렇게 먼저 정답을 알려주고, 이를 50번 정도 보여주면서 학습을 시켰더니 이 AI가 카드를 알아서 분류하기 시작했다. 그리고 바로 이 모델 Perceptron이 뇌세포 즉, 뉴런을 모방하려고 만든 모델이다. Perseptron은 뉴런이 신호를 전달하는 방식을 가장 단순하게 표현한 모델을 차용했는데, 이는 다른 뉴런에서 신호를 받아서 그신호들을 합산하고 정해진 어떤 임계값을 넘으면 발화해서 다음 뉴런에게 신호를 넘기는 매커니즘과 원리로 입력값들의 가중치를 곱해서 더하고 합이 임계값을 넘으면 1, 못 넘으면 0이되는 수학적으로 단순한 모델이다.

<2. AI의 첫 번째 암흑기>

1969년에 MIT AI의 공동창립자인 마빈 민스키와 시모어 페퍼트가 퍼셉트론(Perceptrons)이라는 책을 발간한다. 이 책은 수학적으로 단순 퍼셉트론은 단순한 비선형문제도 풀지 못한다점이 핵심 내용이었다. 따라서 이 책이 AI 회유론에 결정타를 날리면서 AI업계는 첫번쨰 겨울을 맞이하고, 다시 AI분야가 발전하기까지 10년이 넘는 세월이 걸렸다.

<3. 역전파(Backpropagation)의 등장>

1986년 Nature에 Backpropagation이라는 개념을 소개하는 논문이 발표된다. Backpropagation은 다층 신경망에서 가중치를 어떻게 조율할지를 효율적으로 계산하는 방법이디. 다층 신경망은 쉽게 말해서 퍼셉트론을 하나가 아니라 여러개로 쌓은 것이다. 입력과 출력 사이에 퍼셉트론을 하나만 사용하는것이 아니라 여러개를 쓰는 것이다. 지금까지는 다층 신경망의 문제가 어느 층에 어느 가중치를 얼마나 조정할지에 대한 방법이 없었던 것이었는데, 이 Backpropagation이 출력층에서 시작해서 거슬로 올라가며 모든 층에 가중치를 동시에 조정할 수 있게 이를 해결하였다.

이렇게 인공신경망의 활용가치를 급격하게 높혀주는 알고리즘이 생기게 된 것이다. 이로 인해서 인공신경망이 인간의 뇌를 모방하는것이라는 통념과 내러티브가 확고해진 계기가 되었고, 연구자들 또한 이러한 내러티브를 거부할 이유가 없었다.

<4. 인공신경망은 인간의 뇌를 모방한 것이 아니다.>

인공신경망이 인간의 뇌를 모방한 것이라는 내러티브에 학계 내부에서는 회의론이 나오기 시작했다. 1989년 nature에 "The recent excitement about neural networks" 즉, 신경망에 관한 학계의 흥분이라는 제목의 논문을 통해 신경망 열풍을 비판하는 글을 썼다. 이 논문은 역전파(Backpropagation)을 포함한 인공신경망 모델은 생물학적으로 비현실적이다. 라는 내용을 주로 이룬다. 이 역전파(Backpropagation)가 지금 우리가 사용하는 LLM에서 쓰고 있는 방식인데 현대 인공신경망의 중심이 되는 학습 매커니즘이 생물학적으로 불가능하다는 비판이었다. 이로인해 AI업계는 두번쨰 암흑기를 맞이하게 되었다.

<5. AI의 두 번째 암흑기>

인공신경망 연구에는 두 번쨰 암흑기를 맞이하게 되었다. 여기에는 2가지 이유가 있었는데, 하나는 SVM이라는 다른 모델이 등장했는데, 작은 데이터셋에서 신경망보다 훨씬 잘 작동했고, 수학적으로도 더 깔끔했기 때문에 이때부터 신경망연구는 제프리 힌튼이라는 대가들을 비롯한 몇명의 연구자들만 연구를 지속해나갔고, 가 되비주류었다. 또 하나의 이유는 하드웨어의 계산능력 때문이었다. 신경망은 행렬 곱셉을 수십억번을 해야 하는데 1990년대의 CPU로는 학습을 하는 시간에만 몇주일이 걸렸고, 인터넷 초창기였기 때문에 학습할 데이터의 규모 자체도 매우 작았다. 따라서 1990년대의 인프라로는 신경망의 진짜 잠재력을 검증하기에는 부족했던 것이다.

<6. 또 한번의 부활 : Deep learning>

또 다시 10년이 넘게 시간이 흐르고 2012년에 AlexNet이라는 모델이 imageNet이라는 이미지 인식 대회에서 압도적으로 우승을 하면서 신경망 모델링이 다시 폭발적으로 부활하게 되었다.

이 시점부터 "딥러닝"의 시대가 열렸다. AlexNet은 Convolutional Neural Network 줄여서 CNN이라는 구조를 사용했는데, 이 구조 또한 시작은 신경과학연구에서 영감을 받은 것이다.

CNN에 대해 알아보려면 1962년으로 거슬러올라가야 한다. 두 명의 신경생리학자가 고양이 시작피질에 전극을 받고, 어떤뉴런이 어떤 작그에 반응하는지를 관찰하는데 이떄, 시각 피질이 층마다 점점 보잡한 패턴을 인식한다는 구조 즉, 위계구조가 있다는 것을 알아내게 된다. 이는 생물학적 발견이었고, 이 위계구조를 수학적으로 모델링해서 구현한것이 CNN인 것이다. 다층구조에 위계를 넣은것이다. 층마다 점점 복잡한 패턴을 잡도록 설계 되었고, 1986년에 얀 르쿤이 모델을 완성하게 되었고, AlexNet이 GPU 연산을 통해서 이를 2012년에 뚜렷한 결과로 재현한 것이다.

<7. RNN((Recurrent Neural Network, 순환 신경망)>

컴퓨터가 번역을 잘하려면 단어를 처음부터 순서대로 하니씩 처리할것이 아니라 문장 속 단어드리 서로 어떤 관계를 맺고 잇는지에 주목하는 어텐션 기술에 기반해야 한다는 것이었다. 그리고 이를 위해 기존의 순환 신경망과 합성곱을

완전히 걷어낸 새로운 신경망 구조 트랜스포머 구조를 제안했다.

오랫동안 자연어 처리에 분야 그것도 변역 모델에서 쓰인 대표적인 신경망 모델은 RNN이었다. RNN의 출발은 1990년 인지과학자 제프리 엘먼의 연구에서 출발하였다. 제프리 엘먼은 "사람은 문장을 어떻게 이해하지?" 라는 궁금증과 사람은 단어를 하나씩 들으면서 앞에서 들은 내용을 머릿속에 붙잡아 두고 다음 단어를 해석한다는 것 사실을 통해 신경망에 이전 단계 즉, 이전 앞 단어의 정보를 다음 단어로 넘겨주는 구조인 것이다. RNN도 결국 "사람이 순서대로 듣고 기억하며 이해한다"라는 인간의 언어 처리 방식을 모방한 모델이라고 볼 수 있다. 주로 음성, 텍스트, 시계열 데이터처럼 순서나 시간적 흐름이 중요한 데이터를 처리하기 위해 고안된 인공 신경망 구조이다.

<8. 어탠션(Attention)의 등장 >

RNN은 앞 단어의 정보를 다음 단어로 넘겨주는 구조의 신경망이기 때문에 문장이 길어지게 된다면 앞부분의 정보가 뒤로 갈수록 흐려져서 멀리 떨어진 단어들의 관계를 제대로 학습하기 어렵다는 문제점이 있었다. 이러한 기억력과 용량의 한계를 극복하기 위해 2014년 Attention(어텐션)이라는 기법이 등장했다.

당시에는 입력된 문장 전체의 정보를 정해진 크기의 벡터 하나에 모두 담아야 해서 문장이 길어지면 번역 품질이 급격히 떨어졌는데, 번역할 때마다 원분의 필요한 부분을 다시 살피게 해서 이 부담을 덜어준것이다. 이를 조금 더 쉽게 일상생활의 예시로 쉽게 표현해보면 복잡하고 어려운 문장을 읽을때, 앞에서부터 천천히 뒤로 순서대로 글을 읽는것이 아니라 앞뒤로 빨리빨리 왔다 갔다 움직이면서 뒷부분을 읽고 앞 부분을 이어 붙이고, 중ㅇ해 보이는 부분에 동그라미를 치면서 읽어나가는 것 이 과정이 어텐션이라고 할 수 있다. 즉, 책을 처음부터 끝까지 정독하는게 아니라 가볍게 몇 차례 훑어보며 중요해 보이는 부분에만 밑줄을 그어가며 핵심 내용만 압축해나가며 읽는 것으로 이해할 수도 있다.

<9. Attention is all you need>

어텐션의 등장으로 인해 번역의 품질은 좋아졌어도, 단어를 처음부터 순서대로 하나씩 처리해야 하는 한계는 그대로엿다. 앞 단어의 계산이 끝나야 다음 단어로 넘어갈 수 있으니 한꺼번에 많은 계산을 해내는 GPU를 여러 장 써도 계산을 동시에 처리할 수 없었다.

이러한 문제를 해결하기 위해 순환신경망(RNN)에 덧붙여 쓰던 어텐션만 남기고, 순환 신경망 자체를 아예 제외해버리자는 아이디어를 통해 바아들인 정보를 변환한다는 뜻에서 트랜스포머(Transformer)라는 구조를 2017년 Attention is all you need라는 논문을 통해 공개하였고, 이 논문은 AI 발전 역사상 가장 뛰어나면서 중요한 논문이라고 평가받고 있다.

트랜스포머는 순서대로 처리하는 과정을 없애면 단어의 순서를 알 수 없으니 먼저 각 단어에 위치정보를 붙혀두고, 문장 전체를 한 번에 받아들여 각 단어를 문장 안의 다른 모든 단어와 비교하면서 서로 얼마나 관련이 있는지 점수를 매긴다, 또한 이렇게 매긴 점수만큼 다른 단어들의 정보를 섞어 각 단어의 뜻을 문맥에 맞게 새로 만들고, 이 과정을 여러 층에 걸쳐 반복한다. 또한 트랜스포머 구조는 앞 단어의 계산이 끝나기를 기다리지 않고, 행렬 곱셈으로 한꺼번에 처리하자 병렬 연산에 강한 GPU의 성능 도한 제대로 쓸 수 있게 되었다. 학습속도는 매우 빨라졌고, 번역 품질도 매우 좋아졌다. 따라서 병렬로 한번에 수십억번의 행렬 계산을 할 수 있게 되었으므로, LLM (Large Language Model)이라는 이름이 자리를 잡게 되었다.

<10. 오픈AI의 GPT 탄생>

구글에서 발표한 트랜스포머 구조를 빠르게 받아들인 오픈AI는 트랜스포머가 긴 문맥을 학습하지 못하는 순환신경망의 한계를 해결했다는 것에 큰 의의를 두어 모델을 트랜스포머로 바꾸었다.

이후 오픈AI는 앞 단어를 보고 다음 단어를 맞힌다는 단순한 목표는 그대로 둔 채 모델의 크기를 키워나갔다. 2019년 매개변수 15억개의 GPT-2에 이어 2020년에는 1750억 개 규모의 GPT-3를 내놓았고, 2022년에는 사람의 평가를 바탕으로 모델이 지시에 맞게 대답하도록 튜닝하여 2022년 11월 30일에 챗GPT를 내놓게 된다. 번역을 위해 고안된 구조가 사람과 대화하는 인공지능의 바탕이 된 것이다.

<11. 현대 LLM의 핵심 아키텍처인 트랜스포머>

본래는 언어 모델 개량이 목표였던 트랜스포머 구조를 자연어에만 적용하는것이 아니라 다른 데이터에도 적용해서 학습을 시켜보는 시도가 생겨나기 시작했다.

트랜스포머 구조를 이미지에도 적용해보고, 음성과 비디오에도 적용해보는 시도들을 통해 트랜스포머 구조가 모든 종류의 데이터에서도 작동이 된다는 것을 알게 되었고, 이것이 가능했던 이유는 데이터를 토큰이라는 숫자로 바꾸기만 하면 됬던 것이다. 여기서 토큰은 모델이 처리할 수 있는 최소 단위로 언어에서는 단어 또는 단어를 더 잘게 쪼갠 조각이다. 이를 이미지에 적용하면 이미지를 작은 정사각형 패치들로 자르고 각 패치에 숫자를 매기면 토큰이 된다. 이 토큰을 같은 트랜스포머 구조에 적용하면 이미지 처리 모델이 되는것이고, 이것이 vision Transformer며 이미지 처리 분야에서도 트랜스포머 구조는 뛰어난 성과를 냈다.

음성이나 비디오 또한 잘게 자르고 숫자를 매겨서 토큰화하면 마찬가지로 트랜스포머 구조에 적용할 수 있게 되는것이다.

또한 기초과학 분에서도 구글 딥마인드가 어켄션 구조를 응용한 에보포머라는 새로운 신경망 블록으로 단백질의 3차원 구조를 예측하는 알파폴드2를 개발했다.

오픈AI의 GPT 시리즈부터 구글의 제미나이와 엔트로픽의 클로드까지, 혀냊 우리가 쓰는 AI 모델들은 모두 2017년 그 논문 "Attention is all you need"에서 제시한 트랜스포머에 기반을 두고 있다고 볼 수 있다.

키워드

ㄴ꼬리질문1 퍼셉트론에서 가중치는 어떤 기준으로 정해지는거야? 입력값은 인간이 넣어줘야 하는거라고 알고있는데, "이 입력이 얼마나 중요한가" 라는 가중치를 인간이 넣어줘야 한다면 어떤 기준으로 가중치 값을 정하는거야?

ㄴ꼬리질문2 답은 인간이 데이터로 주는거지?

ㄴ꼬리질문3 역전파랑 퍼셉트론이랑 어떤 관계가 있는거야?

ㄴ꼬리질문4 퍼셉트론의 층이 하나라는거는 입력값을 넣으면 바로 출력값이 나온다는거고, 다층구조라는 말의 의미는 입력값을 통해 출력값이 나오고 이 출력값이 바로 그 다음 입력값이 되는 구조를 의미하는거야?

ㄴ꼬리질문5 신경망이 "왜 되는지 모르는 블랙박스"였다고 했는데 이게 무슨 의미인지 쉽게 설명해줘

ㄴ꼬리질문6 그럼 뇌를 모방한다는 내러티브는 이미지 모델까지만 발전을 한거고, 자연어 모델 즉, RNN 모델부터는 뇌를 모방해서 생겨난 모델이 아닌거야?

ㄴ꼬리질문7 사람은 단어를 하나씩 들으면서 앞에서 들은 내용을 머릿속에 붙잡아두면서 해석하는거랑, 신경망에 이전 단계의 상태를 다시 자신에게 돌려 넣는 구조가 모방이라는 관계가 되는게 맞는거야? 왜 모왜 모방이 되는건지 쉽게 설명해줘

ㄴ꼬리질문8 그럼 RNN은 그냥 역전파의 연장선 아니야? 방금 만든 요약 데이터를 다음 단어를 처리할때 다시 입력으로 쓴다. 이거 다층구조잖아?

ㄴ꼬리질문9 어탠션이 기존의 RNN 방식에서의 기억력이나 용량 문제를 해결하는 중요한 기술이라고 알고있는데, 어탠션은 어떤 핵심 원리와 아이디어로 기억력과 용량의 문제를 해결할 수 있게 된거야?

ㄴ꼬리질문10 요약 하나를 남기고 버리지않으면 오히려 용량을 더 많이 써서 모순되는거 아니야?

ㄴ꼬리질문11 기존에는 입력된 문장 전체의 정보를 정해진 크기의 벡터 하나에 모두 담아야 해서 문장이 길어지면 문제가 발생했는데, 어텐션은 번역을 할때 해당 문장에서 필요한 부분을 다시 살피게 해서 부담을 덜어준다고 이해를 했어 그럼 어텐션 기법을 사용할때는, 필요한 부분만을 백터에 답을 수 있었던거야? 즉, 원문의 전체 단어를 전부 정해진 크기의 벡터에 담는것이 아니라 필요하고 중요한 단어만 벡터에 담을 수 있게 해준거야?

ㄴ꼬리질문12 어텐셔은 단어를 처음부터 순서대로 처리해야하는 한계를 해결해준것이 아니지? 만약 내 말이 맞다면 어텐션은 정확히 어떤 문제를 해결해준 기술이야?

ㄴ꼬리질문13 인코더링 디코더가 뭔지 쉽게 설명해줘

AI 대화 내역 링크:

클로드: https://claude.ai/share/4376c668-f134-4cfd-b6c3-332bfb0731a7

오늘 잘한 점: LLM의 역사를 각각의 시대에 개발된 상호보완적 관계에 있는 기술들의 핵심 원리들을 같이 포함해서 정리햐고 싶었는데, 역전파 부분에서 원리와 역사를 같이 풀어내려고 하던 방식을 포기하고, LLM의 역사 즉, 발전 과정을 하나의 서사 즉, 내러티브를 통해 풀어내는 컨셉으로 전략을 바꾼 점이 잘한 것 같다.

오늘 부족했던 점: LLM의 발전 과정에서 생겨난 기술들을 이해하려고 했는데, 수학이 많이 나왔다. 내가 생각했던 것 보다. 원리는 각 잡고 공부를 해야겠다고 생각을 했다.

오늘 총평: LLM의 역사를 하나의 이야기로 풀어서 정리를 해보니 재미있었던 것 같다. AI를 지금 이만큼 발전시켜온 연구자들의 생각을 조금이나마 느껴보고 공감해볼 수 있었던 계기가 된 것 같다.

2
7
아는개발자
아는개발자3· 5일 전

하루만에 llm을 끝내셨네요 괴물이네요진짜 핵심적인것만 진짜 잘 하셨어요

1
아는개발자
아는개발자3· 2일 전

지도 학습, 비지도 학습 -> 키워드 더 파보기

0
아는개발자
아는개발자3· 2일 전

지도 학습이 뭔지 학습 후에 SVM 공부하고, 다른 지도학습이 뭐가 있는지 좀더 단순한 형태의 지도학습을 학습하면 더 쉬울겁니다.

0
아는개발자
아는개발자3· 2일 전

DNN -> CNN 어떤 한계가 있었고 어떻게 해결했는지,
합성곱이 뭔지, 아 이게 필요할 수 밖에 없었구나 필연성.

0
아는개발자
아는개발자3· 2일 전

RNN의 한계를 극복하기 위해 이 논문에서 어떤 방법을 제시했는지 이해하고
transformer 이해해보기.

0

여기에 파일을 드롭하세요