[Essay] 딥러닝의 공학적 활용[수치해석]과 방향성

작성자:김정민 

Main question

symbolic math 간단한 pde 복잡한 pde learning을 위한 in/out 추출 및 matching
이러한 도구를 사용해서 어떻게 "공학적으로 사용할 수 있을지" 

Introduction

한학기 동안 우리는 수치해석적 방법으로 근사해를 구해서 

간단한 pde부터 복잡한 pde까지 풀어낼 수 있음을 알게 되었다. 

MATLAB, COMSOL 등 다양한 툴을 활용해서 풀어낼 수 있었다. 

다양한 공학적 문제들이 pde로서 모델링 할수 있기 때문에 이러한 ‘도구’ 들은 

활용가치가 높다는 것을 알 수 있었다. 

그렇다면 수치해석과 미래의 문제 해결 방식이 어떻게 연관될 것인가? 

그리고 전통적인 개념의 일자리가 사라져가는

이러한 상황에서 우리는 어떻게 해야 가치를 높일 수 있는지

한 사람의 가치를 인정받을 수 있는지 

대체 불가능한 일을 할 수 있는지 고민해보았다.
우선 위에서 말한 ‘도구’를 활용해서 공학적으로 사용한 사례들에 대해서 알아보자.

 

Convolutional neural network 활용 사례

Reaction diffusion system prediction based on convolutional neural network[1]
컨볼 루션 신경망을 이용해서 반응 확산 시스템을 예측해본 것이다.

유한 요소법 (FEM)과 같은 수치 법은 반응-확산 시스템을위한 근사 솔루션을 도출하기 위해 널리 사용됩니다. 그러나 이러한 방법은 시스템이 복잡해지면 계산 시간이 길고 계산 리소스가 많이 필요하다고 한다.
이러한 문제를 해결하기 위해 CNN을 활용하여 
고가의 FEM 계산 프로세스를 우회하여 농도 분포를 직접 예측하도록 설계되고 훈련되는데
주목해 볼만한 점은 
다른 시뮬레이션 매개 변수 경계 조건, 기하학 구성 및 시간은 제안 된 학습 모델의 입력으로서 사용된다는 것이다.
결과는 기존 FEM보다 300 배 더 빠른 농도 예측을 제공 할 수 있었다고 한다.
놀랍지 않은가?


기존의 FEM의 방식은 다음과 같다.
(i) 지오메트리에 대응하는 메시를 생성하는 단계; 
(ii) 확산 및 반응 계수 및 초기 및 경계 조건을 지정하여 유한 요소 모델을 설정하는 단계; (iii) 예상 계산 오차에 도달 할 때까지 선형 방정식을 반복적으로 조립하고 해결하는 단계. 이러한 단계들은 시간 소모가 크기 때문에
입력에 대한 출력 피드백을 신속하게 생성하기가 어렵다.
하지만 CNN은  훈련된 아키텍처에 input을 넣으면 빠르고 정확한 예측이 가능하다고 한다.
CNN의 핵심은 입력과 출력 사이의 간단한 Mapping이다.

 

Learning physical properties of liquid crystals with deep convolutional neural networks[2]
컨볼 루션 신경망으로 액정의 물리적 특성 학습한 논문이다.

 

앞에서 소개한 논문과 마찬가지로 인풋을 넣었을 때 의미 있는 정보를 추출해내는 내용이었다. 

위 논문에서 주목해 볼만한 문구는

‘Despite the great improvement in several applications of machine learning algorithms, the process of extracting meaningful information from images, that is, to replicate what the human visual system can do, proved to be a more challenging task’

즉 이미지에서 의미 있는 정보를 추출하는 것은 어렵다는 것이었다.

이러한 사실이 꼭 비전 분야에만 적용되는 것은 아니라고 생각한다.
다시 말해서 ‘의미 있는 정보를 선정하는것’은 결국 인간의 몫이라는 것 아닐까?

 

앞선 두 편의 논문을 통해서 우리는 ‘머신러닝’이라는 도구가 공학적으로 사용했을 때
훨씬 빠르고 신뢰할 만한 결과 얻을 수 있다는 것을 알았다.
그렇다면 인간이 할 수 있는 일은 점점 없어지고 엔지니어로서 가치를 잃는 것일까?

꼭 그렇게 비관적으로만 볼 것은 아니다.
A. I는 대체하지 못한 영역에 대해서 알아본다면 엔지니어로서 
살아남을 방법을 찾을 수 있지 않을까?

 

‘가정이 잘못되면 궤도를 이탈한다’

머신러닝 실패 사례에서 배우는 다섯 가지 교훈[3]

기사의 내용은 이렇다.
미국 회사인 프로젝트 PSA(Project PSA)는 인적 자원 운영 계획 수립에 있어 변동성을 예측하는 데 머신러닝을 활용 하려 시도했다.
최초 편차와 변동성이 모두 낮은 것은 좋고, 모두 높은 것은 나쁘다고 전제하고 
프로젝트 PSA는 이런 전제 아래, 그리고 프로젝트 매니저 일부를 트레이닝 세트로 사용한 데이터를 토대로 프로젝트 매니저를 ‘호더(Hoarder)’와 ‘옵티미스트(Optimists)’로 분류하도록 머신러닝 알고리즘을 훈련시켰다.
이후 머신러닝 알고리즘은 학습한 내용을 토대로 남은 프로젝트 매니저를 분류했다. 
그런데 가장 경험이 많고 잘 훈련된 프로젝트 매니저들 일부가 ‘저성과자’로 분류되었다. 
변동성과 편차가 컸기 때문이다. 총은 “회사가 프로젝트를 제 궤도로 돌려놓을 수 있는 인재로 판단, 문제가 발생한 프로젝트에 배정을 한 프로젝트 매니저들이었다”고 말했다.
유사하게, 머신러닝 알고리즘은 특정 프로젝트 매니저를 아주 높게 평가했다. 
편차와 변동성이 ‘0’에 가까웠기 때문이다. 그러나 이 프로젝트 매니저는 팀원들이 실제 일한 시간을 보고하기 기대하면서 자신이 예측한 시간을 팀원들에게 알려준 것으로 드러났다. 
이로 인해 계획이 미달 또는 초과되는 경우가 없었다. 
그러나 결과적으로 ‘더 큰 그림’에서 팀원들이 해가 되는 행동을 하도록 유도하는 셈이었다. 
총은 “머신러닝 알고리즘 자체가 초래한 실수가 아니다. 
최초 트레이닝을 시킬 때의 가정이 문제였다. 또한 데이터가 반영하는 ‘사실’을 
충분히 이해하지 못한 상태에서 전적으로 데이터에 의존해 빚어진 결과였다.”고 설명했다.

위 기사는 인적관리 문제에 대해서 머신러닝을 적용시켰을 때 잘못된 가정이 빚은 문제였다.
물론 공학적 상황과는 다른 점이 있을 수 있지만

우리는 두가지를 알 수 있다.
훌륭한 신경망과 알고리즘을 통해서 결과를 도출하더라도 가정이 잘못됐다면
틀린 결과일 수도 있다. 편향된 결과 혹은 선입견이 섞인 결과를 낼 수도 있다는 것이다.
가장 중요한 것은 가정이다. 즉 ‘모델링 ’이다.

방향성

사진출처 [4]

시중에는 머신러닝과 관련해서 나온  책들이 굉장히 많다. 어느 도서관이나 서점을 가도
딥러닝,머신러닝,A.I 관련한 서적이  다양하게 입고되고 실제로 많은 사람들이 관심을 갖고 입문하고 있다.
하지만 대부분의 입문자들은 벽에 부딪힌다.왜 그럴까?
학습하는 방법, 라이브러리를 다루는 방법에 대해서만 알려줄 뿐 
어떻게 모델을 설정해야 하는지 
어떤 파라미터를 선택해야 
하는지 알려주지 않기 때문이다.


결국 아무런 기본 없이 머신 러닝에 뛰어드는 사람들은 문제가 발생했을 때(학습이 진행되지 않는다거나 원하는 결과를 얻지 못할 때) 멈출 수밖에 없다.

이런식의 학습을 한다면 양산형 코딩을 할뿐이다.

사진출처 [5]

원하는 코드를 만들어주는 AI까지 등장했다.
이런 상황에서 양산형 코딩을 하는 사람은 향후 몇년안에 사라질것이다. 

결론

지금까지의 내용을 정리해보자
머신러닝은 공학적인 ‘도구’로서 활용될 수 있다.
하지만 말 그대로 ‘도구’이기 때문에
정확한 가정과 감독이 없으면 잘못된 결과를 얻을 수 있다.
어떤 것이 의미있는 정보인지 올바른 결과인지는 결국 인간이 판단해야한다는것이다.
그렇다면 의미있는 정보를 선별하는 직관은 어디서 나오는것일까?

[6]  출처

 

결국 modeling 에서 나온 equations이다.
matlab,colab,tensorflow 등등은 ‘기술적 도구’에 불과한것이다.
딥러닝 이론을 선도한다는 사람들의 직관 또한 수학적 기초에서 나오는 것이다.
이와 같이 우리는 툴을 다룰줄 아는 연습은 물론이고 기본에 집중하며
modeling에서 나온 equation에 집중하고 
새로운 문제들에 대해서 modeling하는 연습을 하며 
AI는 대체할 수 없는 직관력을 길러야한다고 생각한다.

자료출처
[1]https://www.nature.com/articles/s41598-020-60853-2

[2] https://www.nature.com/articles/s41598-020-63662-9

[3] http://www.itworld.co.kr/news/111524?page=0,0

[4]https://blog.naver.com/PostView.nhnblogId=owl6615&logNo=221468223266&categoryNo=77&parentCategoryNo=0&viewDate=¤tPage=1&postListTopCurrentPage=1&from=postView

[5]https://zdnet.co.kr/view/?no=20200605134029

[6 ] COMSOL제공 plasma 공정 관련 pdf