Machine Learning이란 무엇인가? 그리고 EDA 업계에선 어떻게 쓰이는가?

데이터에는 체계가 있다. 이 체계가 갖춰지면, 사진/소리/글을 보고 고양이인지 강아지인지 판단 할 수 있다.

학습 데이터를 기계에 학습시켜 최종 목표는 모델을 만드는 것이다.

머신러닝은 모델을 만드는 것에 정말 많은 자원이 필요함.

그러므로, 수학적으로 논리적으로 정답을 만들기 어려운 것들에 대해 머신러닝을 사용한다.

그래서 최종목표인 모델이 완성이 되면, input data를 줬을 때, Model이 일반화(Generazation) 후, output data를 만들어준다.

그런데 우리는 Training Data에 있던 강아지 사진을 다시 Input Data에 넣고 이게 어떤 견종인지 정답을 듣고싶은게 아니고,

길에서 만난 강아지를 사진 찍어서 이걸 Input Data로 쓰고 어떤 견종인지 알고싶어한다.

머신러닝의 모든 문제는 여기서 시작된다.

문제를 최소화하려면, Training Data가 bias 되면 안되고, overfit되면 안된다.

bias는 편향을 의미하는데, 예를들어… 한국 강아지 사진만 Training data로 주면, 유럽 강아지를 인식 못 할 수 있다.

overfit은 트레이닝 데이터와 일치성을 의미하는데, 예를들어 학습때는 깨끗한 강아지 사진만 봤는데, Input data에서 지저분한 강아지 사진이 입력되면 강아지라고 인식 자체를 못하거나, Model 자체가 stuck에 빠질 수 있다.

그러면 머신러닝 중에 Model이 잘 만들어지고 있는지 검증하기 위해 트레이닝 데이터를 나누는 작업이 필요하다.

트레이닝 데이터가 1만큼 있으면, 보통 20% 내외를 Validation set으로 빼놓고 Training set만으로 모델을 형성해 나간다.

Model이 어느정도 만들어졌을 때, Validation set을 Model에 넣고 올바른 출력 값이 나오는지 확인한다.

트레이닝 셋을 다 썼는데도 validation set에 올바른 정답을 주지 못하는 경우, Model 생성을 잠시 중단후 분석이 필요하다.

그래서… Model을 만드는 작업은 보통은 parallel하게 진행된다.

…

이 모델들은 다 다른 정확성을 갖게된다.

머신러닝은 크게 3가지로 분류된다.

Supervised Leaning (대부분의 machine learning) : 문제와 정답을 알려주고, 그걸 통해 모델을 만듬. {input, correct output}

Unsupervised Learning : 문제만 입력 받고, 이게 뭔지는 얘가 판단함.. 그래서 쓰이는 필드는 많지 않음. {input}

Reinforcement Learning : 혼자 바둑을 계속 두거나, 벽돌 깨기 게임을 하면서 경험과 학습을 해나가면서 모델을 만들어감. input, output, grade for this output}

Generative Learing : 문제와 정답을 보고, 그걸 통해서 정답과 비슷한걸 만들어감. 예를들어, 사람이라는 글자와 사람 사진을 보면, 모델은 자기가 만들어낸 가상의 사람 사진을 만들어줌.

참고로 Supervised Learning은 지도학습, Generative Learning은 생성형 학습, Reinforcement Learning은 강화학습이라고 불린다.

인공지능이라는 것에 고안은 사실 100년 전에도 있었고, 더 이전에도 있었을 수도 있다.

본격적으로 연구가 시작된 것은 1950년대부터 컴퓨터에게 사람의 말을 이해할 수 있도록 가르치는 것이었다.

아무리 언어학 이론을 가르치고 문법을 가르치며 수십년을 가르쳐도 나아지지 않았다.

학자들은 인간의 언어는 ‘이론으로 가르치는게 매우 어렵구나’를 깨닫고, 다양한 대화 극본을 컴퓨터에게 줬다. 그러나 수십년이 지나도 나아지지 않았다.

2010년부터 다시 머신러닝을 했더니, 컴퓨터가 고양이와 강아지를 분류할 수 있게 되었고, 2016년엔 알파고가 세계 바둑 챔피언들을 꺾었다.

사실 머신러닝은 1950년대나, 80년대나 현재나 기초 알고리즘은 바뀌지 않았는데, Data의 양이 매우 커지니, 안 되던게 되기 시작했다. 기계가 세상을 인식 할 수 있게되었다.

자연어처리, 트랜스포머는 이 포스팅에선 다루지 않고, 이후에 다룬다.

그러나 자연어처리는 2022년까지도 매우 어려운 일이었다.

컴퓨터가 사람의 말을 어느정도 이해하는 것은 가능했지만, 컴퓨터가 사람의 말을 하는 것이 매우 어려웠다.

최근 몇 년 핫한 부업 중 하나가 ‘데이터라벨링’이다.

이는 강화학습을 위해 만들어진 직업이다. AI가 만들어낸 답변이 올바른지, 자연스러운지를 사람이 판단해주면 그것을 토대로 모델이 강화되는 학습방법이다. Chat GPT는 이런 방법의 강화학습을 통해 자연스러운 말하기가 가능해졌다.

Chat GPT를 써봤다면 알겠지만, 논문도 써주고, 극본도 써주고, 연설문도 써주고, 감상문도 써주며, 위로도 해준다.

기존의 기계는 특정적이고/단순/반복적인 일에 대한 자동화를 담당했다면, 현재의 기계는 다양하고/어렵고/지적인 일의 자동화를 할 것이다.

참고로, synopsys, google 등에서도 PnR 관련하여 PPA(Performance, Power, Area)를 높이는 AI Model을 계속 연구중이고,

synopsys의 AI 이름은 Design Space Optimization AI. DSO AI라고 불린다.

SoC의 학습 데이터가 많지 않고, 한 데이터당 크기가 매우 크고, 복잡한 문제들이 많기 때문에… 비교적 단순한 PnR 업무에서만 DSO AI가 사용되고있다.

DSO를 통해 Tape-out 된 Chip이 100개를 넘고, 그 중 일부는 삼성 갤럭시에 들어가는 엑시노스 SoC이다.

https://www.synopsys.com/implementation-and-signoff/ml-ai-design/dso-ai.html