[채널톡] 딥러닝이란 무엇인가요?
딥러닝(Deep Learning, DL)이란?
많은 분들이 막연히 AI 하면 ‘딥러닝’이라고 알고 계실 겁니다. 그만큼 현재의 AI 업계에서 '딥러닝'은 중요한 것을 넘어 당연한 개념인데요. 딥러닝도 결국은 머신러닝의 여러 방법론 중 하나라고 생각하시면 됩니다.
딥러닝의 정의
머신러닝은 결국 ‘컴퓨터가 스스로 데이터를 학습하도록 하는 것’입니다. 그렇다면 이를 실현하기 위한 방법에도 여러 가지가 있겠죠. 그중 하나가 사람의 뇌를 모방한 ‘인공 신경망(Neural network)’을 구축하는 방법입니다. 딥러닝은 이 인공 신경망, 정확히는 ‘깊은(=층이 여러 개인)’ 인공 신경망(Deep Neural Networks, DNN)을 사용하는 머신러닝 기법입니다.
사실 딥러닝도 인공 신경망의 한 종류인 셈입니다만, 딥러닝의 창시자인 제프리 힌튼이 일부러 딥러닝이라는 말을 쓴 이유는 2006년 당시까지만 해도 인공 신경망이 ‘한물 간’ 개념 취급을 받고 있었기 때문입니다.
인공 신경망 자체는 1958년 로젠블라트가 제안한 '퍼셉트론'까지 거슬러 올라가는 오래된 발상입니다. 하지만 초기의 인공 신경망에는 한계가 너무 많았습니다. 특히 1969년에는 마빈 민스키와 시모어 페퍼트가 ‘퍼셉트론’이라는 책에서 퍼셉트론의 한계를 지적했는데요. 이는 1차 AI 겨울을 불러온 주요한 사건으로 꼽혔을 정도입니다. 많은 AI 학자들이 2000년 초까지만 해도 ‘인공 신경망’, ‘머신러닝’, 'AI'라는 말을 꺼낼 수 없을 정도였다고 회상하죠.
"인공 신경망은 사라지는 경사도 문제로 거의 몰락에 가까운 상황에 이르렀습니다. 딥러닝의 대가인 '제프리 힌튼(Geoffrey Hinton)' 교수와 '얀 르쿤(Yann LeCun)' 교수조차 당시를 회고하며
인공 신경망이라는 용어를 사용할 경우, 연구 예산 승인이 거부되는 등 인공 신경망은 사용해서는 안 되는 용어가 됐던 적도 있었다고 합니다. 하지만 완전히 몰락할 줄 알았던 인공 신경망은 사라지는 경사도 문제를 해결할 수 있는 여러 가지 방법이 등장하면서 2000년대에 다시 부활합니다." [1]
"필자가 대학원생이었던 1997년~2002년에는 인공지능 연구를 하고 있다고 말하면 의아한 표정을 짓는 사람들이 많았다. "왜 인공지능은 실현되지 않습니까?"라고 주변의 연구자에게 물어보아도 쓴웃음만 지을 뿐이었다.
왜냐하면 '인공지능'이라는 말 자체가, 혹은 '인공지능이 가능하다'고 주장하는 것 자체가 모종의 금기로 되어 있었기 때문이다." [2]
하지만 제프리 힌튼이 2006년과 2012년, 기존 인공 신경망의 한계를 극복할 수 있는 방법들을 밝혀냈습니다. 힌튼 교수는 이때 일부러 '딥러닝'이라는 용어를 썼는데, 일종의 리브랜딩이라고 봐야겠죠. 마침 인터넷의 고도화로 딥러닝에 사용하기에 충분한 수준의 빅데이터가 생겨나고, GPU로 대표되는 하드웨어의 발달이 뒷받침되면서 딥러닝의 시대가 활짝 열렸습니다. [3] [4]
딥러닝 이전까지 대부분의 머신러닝은 결국 인간이 ‘특징’을 추출하고 규칙을 작성해야 한다는 한계가 있었습니다. 예를 들어 사람와 고양이를 구분하는 AI를 만들려면 개와 고양이를 구분할 수 있는 기준을 명확하게 입력해야 하는데요. 사람은 개과 고양이를 단박에 구분할 수 있지만, 그렇게 할 수 있는 이유를 말로 잘 설명하지는 못합니다. 개와 고양이를 구분하는 '특징'을 알고는 있지만 이를 컴퓨터에 알려주기는 어려운 겁니다.
딥러닝의 가장 중요한 점은 컴퓨터가 사람의 도움 없이도 데이터에서 ‘특징’을 추출할 수 있다는 점입니다. 위의 이미지는 2012년 구글에서 나온 연구 결과를 요약하고 있는데요. 1000대의 컴퓨터로 1000만 개의 유튜브 이미지를 딥러닝으로 분석해 사람과 고양이를 구분해 냈습니다. [5]
이전에는 컴퓨터 프로그램에 ‘개와 고양이를 구분하는 방법’과 ‘개와 고양이 데이터’를 넣어서 ‘분류된 결과’를 얻었다면, 이제는 컴퓨터에 ‘개와 고양이 데이터’, 그리고 ‘분류된 결과’만 넣어서 ‘구분하는 방법’을 직접 찾아내도록 할 수 있다는 뜻입니다. 이제는 사람이 모르는 방법조차 컴퓨터가 알아낼 수 있게 된 겁니다. 구글 딥마인드의 개발자들은 이세돌보다 바둑을 잘 두는 방법을 모르지만, 구글 딥마인드 개발자들이 만든 알파고는 이세돌보다 바둑을 잘 두는 방법을 아는 것처럼요.
