2024 노벨 물리학상을 수상한 AI 학자들, 어떤 기여를 했을까
노벨 물리학상을 수상한 존 J. 홉필드와 제프리 E. 힌튼의 업적을 설명해 드립니다.
Oct 17, 2024
🏆 노벨 물리학상의 범위는 어디까지 일까요? 2024 노벨 물리학상은 바로 인공 신경망으로 머신 러닝을 가능하게 한 존 J. 홉필드와 제프리 E. 힌튼이 수상했습니다.
“두 사람은 물리학의 도구를 사용하여 오늘날의 강력한 머신 러닝의 기초가 되는 방법을 개발했습니다. 과학, 공학 및 일상생활에 혁명을 일으키고 있죠.”
스웨덴 왕립 과학 아카데미는 두 학자에게 상을 수여한 이유를 다음과 같이 밝혔습니다. 이번 수상은 AI가 물리학의 범위에 포함됨을 시사했죠.
이번 아티클에서는 두 학자가 AI 분야에 어떤 기여를 했는지 자세히 알아보도록 하겠습니다.
존 J. 홉필드의 인공 신경망
존 J. 홉필드는 1980년대 인공 신경망 분야에서 중요한 공헌을 했습니다. 그는 연상 기억을 위한 동적 모델을 제안하며, 재귀적 신경망의 집합적 현상이 계산 능력을 부여할 수 있는지를 탐구했죠. 쉽게 말해, 여러 뉴런이 서로 상호작용하여 기억을 형성하고 유지하는 과정을 수학적으로 모델링한 것입니다. 이를 통해 네트워크가 특정 패턴을 학습하고, 불완전한 입력이 주어졌을 때 그와 유사한 기억을 불러오는 방식으로 동작하도록 했습니다.
홉필드는 각 노드가 비동기적으로 무작위로 갱신되는 방식으로 네트워크가 안정적인 상태로 수렴하도록 에너지 함수를 정의했습니다. 이를 통해 불완전한 패턴을 주었을 때 가장 가까운 기억 패턴으로 완성되도록 했죠.
홉필드의 모델은 집단적 현상과 에너지 최소화 개념을 사용해 네트워크가 특정 기억을 안정적으로 저장할 수 있도록 만들어졌습니다. 이를 통해 신경망이 스스로 오류를 수정하고 패턴을 완성하는 능력을 갖추게 되었죠. 이 과정에서 홉필드는 생물학적 뉴런의 협력 방식에서 영감을 받아 인공 신경망의 계산적 잠재력을 탐구했습니다.
홉필드는 아날로그 값을 처리할 수 있는 모델을 개발해 기존의 단순한 이진 노드 구조의 한계를 극복했습니다. 이 모델은 이진값 대신 연속적인 값을 다룰 수 있어 더 복잡한 문제를 해결하는 데 적합했는데요. 그의 연구는 신경망이 단순한 이진 계산을 넘어 복잡한 계산을 수행할 수 있다는 가능성을 열어주었습니다. 특히 연상 기억과 같은 인지 기능을 모방하는 데 중요한 기여를 했죠. 홉필드의 연구는 이후 딥 러닝과 다양한 신경망 모델 개발에 있어 중요한 기반이 되었습니다.
제프리 E. 힌튼의 볼츠만 기계
제프리 E. 힌튼은 인공 신경망 분야에서 매우 중요한 인물로, 볼츠만 기계라는 모델을 개발했습니다. 볼츠만 기계는 여러 노드들이 서로 연결되어 패턴을 학습하고 만들어내는 방식을 사용하는데요. 볼츠만 기계는 입력 데이터와 숨겨진 특성을 동시에 학습할 수 있었습니다. 이 과정에서 가중치*와 바이어스*를 조정하는 '경사 하강법'이라는 알고리즘을 사용했는데, 학습 과정이 효과적이었지만 시간이 많이 걸리는 단점이 있었죠
*가중치: 신경망에서 각 연결의 중요도를 나타내는 값, 중요도가 높을수록 커진다.
*바이어스: 뉴런이 활성화될 기준을 조정하는 추가적인 값
이후 힌튼은 볼츠만 기계의 효율성을 높이기 위해 제한된 볼츠만 기계(RBM)를 개발했습니다. RBM은 입력 노드와 숨겨진 노드 사이에만 연결을 두어 학습 과정을 단순화했고, 학습 속도도 크게 빨라졌죠. 이 RBM을 사용해 신경망을 사전 학습하는 방법은 신경망을 효과적으로 학습시킬 수 있도록 도와주었고, 이는 딥 러닝 발전에 큰 기여를 했습니다.
힌튼은 RBM을 사용해 신경망의 각 층을 먼저 학습시키고, 이후 전체 네트워크를 세부적으로 조정하는 방법도 개발했습니다. 이를 통해 신경망의 각 층이 더 쉽게 학습할 수 있었고, 전체적으로는 더 깊고 복잡한 구조로 발전할 수 있었죠. 특히, 힌튼은 이렇게 학습된 신경망을 더 정교하게 만들기 위해 '역전파 알고리즘'을 활용하는 방법을 제안했어요. 이 알고리즘은 신경망이 오류를 줄이면서 점점 더 정확하게 학습하도록 돕는 방식인데요. 역전파와 RBM을 이용한 사전 학습은 딥 러닝의 핵심 기술이 되었고, 오늘날 이미지 인식, 음성 인식 등 다양한 분야에서 널리 사용되고 있답니다.
힌튼의 연구는 인공 신경망의 학습 능력을 크게 향상시켰고, 복잡한 패턴 인식 문제를 해결하는 데 중요한 역할을 했습니다. 이러한 연구 덕분에 신경망은 더욱 깊고 강력한 구조로 발전했고 딥 러닝의 기초를 마련하는 데 큰 영향을 주었습니다.
AI의 아버지들이 말하는 AI
AI의 아버지로 불리는 힌튼은 노벨 물리학상 수상 이후에 "의료와 같은 분야에서 여러 면에서 훌륭하게 사용되겠지만 우리는 또한 여러 가지 가능한 나쁜 결과에 대해서도 걱정해야 합니다. 특히 이런 것들이 통제 불능이 될 위협에 대해서요."라고 전했습니다.
홉필드도 힌튼의 우려에 공감하며, AI의 알려지지 않은 잠재력과 한계는 불안한 면이 있다고 말했습니다. 더불어 그는 "사람들은 단순히 좋거나 나쁘기만 한 기술이 아니라, 양방향으로 활용 가능한 기술을 갖는 데 익숙해져 있다"라고 전했습니다.
👀 AI는 일상생활에서 많은 이점을 제공합니다. 업무 자동화부터 콘텐츠 생성, 의료에 사용되는 것까지 그 활용 가능성은 무궁무진하죠. 하지만, 인공지능의 아버지인 힌튼과 홉필드가 언급한 것처럼, AI는 양날의 검과도 같습니다. 우리가 그 잠재력을 활용하는 동시에 그 위험성 또한 철저히 인지하고 신중하게 사용해야 하겠네요.
참고 자료
기업에서 AI를 똑똑하게 활용하고 싶다면
기업에서 AI를 똑똑하게 활용하는 것이 경쟁력이 되는 시대입니다. ChatGPT나 Claude와 같은 생성형 AI를 어떻게 업무에 도입할 수 있을까요? 팀스파르타 기업 교육에서는 실무 맞춤형 AI 활용법을 알려드립니다. 팀스파르타 기업 교육과 함께 AI 시대의 변화에 빠르게 적응해 보세요.
Share article
Subscribe to our newsletter