SNS 칼럼모음

(8) ‘인공지능’ 제어할 것인가, 지배당할 것인가…대재앙이 될 ‘1% 불확실성’에 대비하라

SNS마스터 0 111

ㆍAI, 인류 최후의 발명품 될까 

인공지능 발전이 워낙 눈부시다보니 최근 들어 약인공지능(ANI)을 넘어서 인간 수준의 지능을 가진 강인공지능(AGI)이나 인간을 훨씬 뛰어넘는 초인공지능(ASI)이 세상을 지배할지도 모른다는 우려도 나타나고 있다. 사진은 천재과학자의 두뇌와 컴퓨터가 결합된 초지능 슈퍼컴퓨터 ‘트랜센던스’의 탄생을 다룬 영화 <트랜센던스>의 한 장면.

인공지능 발전이 워낙 눈부시다보니 최근 들어 약인공지능(ANI)을 넘어서 인간 수준의 지능을 가진 강인공지능(AGI)이나 인간을 훨씬 뛰어넘는 초인공지능(ASI)이 세상을 지배할지도 모른다는 우려도 나타나고 있다. 사진은 천재과학자의 두뇌와 컴퓨터가 결합된 초지능 슈퍼컴퓨터 ‘트랜센던스’의 탄생을 다룬 영화 <트랜센던스>의 한 장면.

 

이세돌 9단과 알파고 사이의 역사적인 바둑대전을 계기로 인공지능이 단순한 학술연구 수준을 넘어서 우리 사회 전반에 큰 영향을 줄 수 있다는 생각이 널리 퍼지고 있다. 특히 알파고를 만든 구글의 딥마인드를 비롯해 IBM, 페이스북, 마이크로소프트와 중국의 바이두 등과 같은 내로라하는 글로벌 IT 기업들은 수년 전부터 인공지능을 가장 중요한 미래산업으로 생각하고 회사의 역량을 집중하고 있다. 그런 노력의 결실들이 최근들어 뚜렷하게 나타나고 있다.

  

인공지능이 인간의 실생활 구석구석으로 파고들 수 있는 준비는 사실상 끝났다고 볼 수 있다. 알파고와 같은 특화된 서비스뿐만 아니라, 구글이나 페이스북 등에서 제공하는 공개된 소프트웨어를 이용하면 초보 프로그래머도 간단히 자신들의 인공지능 프로그래밍을 시작할 수 있을 정도로 인공지능 기술 개발이 굉장히 쉬워졌다. 이렇게 되면 마치 증기기관이 도입되면서 농경시대에서 산업시대로 들어가는 산업혁명이 일어났듯이 인공지능의 일상화와 함께 기존의 IT 및 인터넷 인프라가 결합해 새로운 제4차 산업혁명이 일어날 것이라고들 전망하고 있다.  

대재앙에 가까운 사고들은 ‘비정상’ 상태에서 발생하는 것이 아니라 복잡한 인프라 시스템의 ‘정상적’인 특징이다. 1979년 미국 ‘스리마일 섬 원전 사고’도 그런 ‘정상 사고’의 하나다.  연합뉴스

대재앙에 가까운 사고들은 ‘비정상’ 상태에서 발생하는 것이 아니라 복잡한 인프라 시스템의 ‘정상적’인 특징이다. 1979년 미국 ‘스리마일 섬 원전 사고’도 그런 ‘정상 사고’의 하나다. 연합뉴스

 

필자는 이런 변화가 크게 나타나고 있다는 것을 직접 투자하고 자문하는 인공지능 관련 기업의 연구성과를 통해 실감하고 있다. 물론 이런 인공지능은 특정한 목적의 작업을 수행하는 것으로 흔히 약인공지능(ANI, Artificial Narrow Intelligence)이라고 부른다. 최근 인공지능의 성과가 눈부시다보니 약인공지능을 넘어서 인간 수준의 지능을 가지고 다양한 문제를 풀어낼 수 있는 강인공지능(AGI, Artificial General Intelligence)이나 인간을 훨씬 뛰어넘는 초인공지능(ASI, Artificial Super Intelligence)에 대한 우려도 나오고 있다. 과거에는 기우에 불과하다는 생각들이 우세했지만, 이제는 그냥 쉽게 넘겨 버리기 어렵다는 주장이 힘을 얻고 있다. 이와 관련해 <파이널 인벤션>이라는 책을 통해 세계적인 주목을 받은 제임스 배럿(James Barrat)은 세상을 제어하는 힘이 우리가 도달할 수 없는, 강력하고 예측불가능한, 높은 지능에 도달한 기계에 넘어갈 수도 있음을 이야기했다. 그의 주장을 흘려넘기기 어려운 이유는 만에 하나 나타날 수 있는 초인공지능의 파괴력 때문이다.  

이 대목에서 우리가 흔히 말하는 경제성이나 효율 중심의 사고가 아니라, 완전히 다르게 생각해야 하는 ‘정상 사고(normal accidents)’라는 개념을 알아둘 필요가 있다. ‘정상 사고’는 조직이론가인 찰스 페로(Charles Perrow)가 그의 저서를 통해 제시한 것으로 간혹 발생하는 대재앙을 포함한 사고들이 복잡한 인프라 구조를 가진 시스템의 ‘정상적’인 특징이라고 설명한다. 이런 시스템들은 완전히 이해하기 불가능한 부분이 많고, 각각의 분리된 문제들이 개별적으로는 전체적인 시스템에 큰 문제를 일으키지 않는데, 이들이 합쳐졌을 때 전체 시스템에 재앙을 일으킨다. 이런 것들은 사실상 예측이 불가능하다. 

대표적인 사례가 1979년 3월28일 미국에서 발생한 원전 사고인 ‘스리마일 아일랜드 재앙’이다. 이 사고는 네 가지 단순한 문제 때문에 발생했다. 두 개의 냉각시스템이 기계적인 문제로 작동을 멈췄고, 두 개의 응급 급수펌프가 유지·보수를 위해 잠겨 있었기 때문에 동작할 수 없었으며, 수리 중이라는 경고 표시가 계기판 불빛에 가려져 사람들이 이를 알아챌 수 없었다. 즉 냉각수 방출 밸브가 막혀 있는데, 이 밸브의 오작동을 표시하는 불빛이 가려졌던 것이다. 그 결과는 파멸적이었다. 원전의 중심부가 녹아내렸고 수많은 희생자가 생겼으며 미국의 핵에너지 산업은 치명적인 타격을 입었다. 이 재앙을 두고 찰스 페로는 이렇게 썼다. “우리는 불가피한 실패와 관련한 모든 상호작용을 알 수 없는 복잡한 디자인을 가졌다. 안전장치가 있더라도 시스템의 숨겨진 경로는 안전장치를 쉽게 속이거나 피할 수 있다.” 

약인공지능의 경우에도 이와 유사한 사건이 나타난 적이 있다. 현재 월스트리트 주식 거래는 수십개의 컴퓨터로 구성된 고빈도거래시스템을 통해 이뤄지고 있다. 하루에 10억주 이상을 거래하는데, 이런 프로그램과 이를 처리하는 슈퍼컴퓨터들은 은행들이나 헤지펀드, 또는 고빈도거래만 전문으로 하는 기업 등이 소유하고 있다. 이 거래를 가능하게 하는 프로그램의 주요 기능 중 하나는 아주 짧은 시간 사이에 이익을 내는 것이다. 예를 들어 어떤 주식의 가격이 변할 때 그 주식의 가격과 연동한 변동성 없는 상품의 균형을 파악해 하루에도 몇 번씩 이익을 낼 수 있는 기회를 얻도록 한다.

 

사건은 2010년 5월 터졌다. 당시 그리스가 국가의 채무를 연장하는 데 어려움을 겪으면서, 그리스에 돈을 빌려준 유럽의 국가들은 그리스의 채무불이행 선언을 두려워했다. 모든 사고는 한 회사의 거래담당자에 의해 시작되었다. 그는 유럽의 금융상황에 두려움을 느낀 나머지 이와 관련한 41억달러 상당의 선물과 지수연동펀드를 즉시 팔고자 했다. 이 거래가 이루어지자 E-Mini S&P 500 선물 가격이 4분 만에 4% 급락했다. 고빈도거래시스템들이 가격 폭락을 감지하고 이익을 내기 위한 알고리즘을 자동으로 작동하면서 거의 모두 동시에 매각 주문을 내는 사태가 벌어졌다. 이 과정에 걸린 시간은 단 몇 밀리초였다. 낮아진 가격 때문에 또 다른 고빈도거래시스템들이 선물을 사도록 주문을 하면서 동시에 이를 위한 현금을 마련하기 위해 다른 주식들을 팔기 시작했다. 너무나 순식간에 벌어진 일이라 인간들이 끼어들 틈도 없었다. 알고리즘끼리 주거니받거니 하며 연쇄반응이 일어나 다우지수가 갑자기 1000포인트 급락했는데, 여기까지 걸린 시간은 불과 20분이었다. 이처럼 정상 사고는 ‘예측하기 어려울 뿐 아니라, 특정 시간 동안에는 불가해적인’ 상호작용을 한다.  

인간이 조종하는 대부분의 시스템에 인공지능이 개입할 경우, 거의 모든 곳에서 이와 같은 ‘정상 사고’가 발생할 가능성이 있다. 특히 복잡도가 높아 인간이 인공지능에게 많은 것을 맡길 경우 그런 사고가 발생할 가능성은 더욱 높아진다. 설사 인간을 넘어서는 초인공지능이 나타날 확률이 극히 낮다고 해도, 일단 나타날 때 벌어질 수 있는 예측불가능성에 대비하는 것이 그런 일은 없을 것이라며 믿지 않는 것보다는 바람직하지 않을까? 

 

강인공지능에 대해 보다 제대로 공부를 하기 위해 지난 7월 뉴욕에서 열린 강인공지능 학회에 다녀온 적이 있다. 강인공지능 학회는 벤 괴첼(Ben Goertzel)이 2006년 설립해 처음으로 워크숍을 연 이후, 2008년부터 해마다 전 세계를 돌며 콘퍼런스를 열고 있다. 올해로 10년째다. 그동안 인공지능 분야는 눈부신 발전을 했다. 이번 콘퍼런스에서는 알파고를 통해 더 유명해진 딥러닝 기술의 열기를 반영하듯 강인공지능 분야에서도 딥러닝을 활용한 다양한 발표가 있었다. 주목되는 것은 특정한 목적의 문제를 해결하는 약인공지능과 달리 다양한 형태의 문제를 인지하고, 어떤 문제든 인간과 유사한 지능으로 해결하는 목적을 가진 강인공지능의 경우는 훨씬 복잡한 문제들이 얽혀 있었다는 점이다. 때문에 수학과 물리학, 뇌과학과 인지과학, 컴퓨터과학 등을 전공한 다양한 분야의 최고 연구자들이 협력하고 있었는데, 특히 인상적이었던 것은 많은 수의 연구결과물들이 모두 오픈소스로 공개된다는 점이었다. 

여러 가지 주제 가운데 특히 눈에 띄는 것들은 강화 또는 점진적인 학습의 방식, 일반적인 문제를 푸는 인공지능 구조, 뇌과학 입장에서 본 의식의 정체와 이를 인공지능으로 구현하기 위해 필요한 지식, 딥러닝이 강인공지능의 발생을 촉진할 수 있는가에 대한 심도 있는 토론, 게임을 이용한 강인공지능 벤치마킹, 인공지능의 지능 평가 방법, 이해와 작업, 학습의 다양한 수학적 정의, 흉내 학습, 인공지능의 보안 문제(어떻게 인공지능을 상자에 가둘 것인지 여부), 인공지능의 죽음 및 사멸 구현 등이었다. 하나하나의 주제가 매우 무겁지만 명쾌한 과학적 접근을 통해 수학적 모델을 만들며 진행하기 때문에 이들의 연구들이 허황되다 할 수는 없었다. 발표자들의 면면도 신뢰를 높였는데 1956년 존 매카시(John McCarthy)가 인공지능이라는 말을 처음 만든 다트머스 콘퍼런스에 같이 참여했던 인공지능 대가들의 제자들이 주를 이뤘다. 인공지능은 유행처럼 반짝한 것이 아니라 지난 60년 동안의 노력이 조금씩 꽃을 피우고 있었던 것이다.

  

개인적으로는 제임스 배럿과 같은 시각이 지나치게 극단적이고, 비관적이라고 생각한다. 그렇지만 다른 한편으로 인공지능에 대해 지나치게 장밋빛 환상을 가지거나, 인공지능의 한계만을 부각시키려는 사람들도 ‘가능성’에 대해 회피만 하는 것이 능사는 아니라는 생각이다. 벤 괴첼은 이렇게 말했다. 

“나는 미래에 거대하고 축소불가능한 불확실성이 있음을 말하고 싶었습니다. 나의 딸과 아들들, 어머니가 일부 초인공지능에 의해 분자 형태로 재처리되어 죽는 것을 원치 않아요. 따라서 어떻게 윤리적인 강인공지능을 만들 것인지 생각하는 것은 중요하며 이를 위해 강인공지능 시스템에 대한 실험을 계속해야 합니다.” 

 

두렵다고 뒷전에 물러나 있으면 예측불가능한 위험이 닥쳤을 때 이를 대비하기 어렵다. 그렇다면 강인공지능이나 초인공지능에 대한 가능성을 인정하고 보다 적극적으로 뛰어드는 편이 낫지 않을까? 물론 이에 대한 반론도 있다.

  

이번 강인공지능 학회도 예외는 아니었다. 수학적 모델을 이용해 명확한 강인공지능 구현을 목표로 하는 이레이 오즈쿠랄(Eray Ozkural)은 코넬 대학 제임스 밥콕(James Babcock)의 강인공지능에게 죽음을 인지시키고 사멸하는 연구 발표에 대해 “어떻게 일어나지도 않을 그런 바보 같은 주제를 연구할 수 있느냐”고 반박하며 “인간들이 좀 더 똑똑해지면 돌아와야겠다”는 말을 남긴 채 학회장을 박차고 나가버렸다.  


어쩌면 오즈쿠랄의 말대로 제임스 밥콕과 동료들의 연구가 바보 같은 것일지 모른다. 하지만 누군가는 걱정하고 대비해야 하지 않을까? 필자도 인간의 지능, 감정과 함께 기본적인 윤리의식을 갖춘 로봇용 인공 윤리 에이전트(Artificial Moral Agent)를 개발하는 연구에 자문을 하고 있다. 일부에선 이런 연구가 어리석고, 왜 하는지 모르겠다고 생각할 수도 있다. 과연 인공지능은 인류 최후의 발명품이 될 것인가? 그 대답을 ‘아니요’로 만들지 여부도 결국 인간에게 달려 있다.



원문보기:
http://news.khan.co.kr/kh_news/khan_art_view.html?artid=201608262046005&code=210100&s_code=af190#csidx0dde1e9c7d10710a895333e18f493d8 onebyone.gif?action_id=0dde1e9c7d10710a895333e18f493d8
  • 페이스북으로 보내기
  • 트위터로 보내기
  • 구글플러스로 보내기
  • 카카오스토리로 보내기
  • 네이버밴드로 보내기
  • 네이버로 보내기
  • 텀블러로 보내기
  • 핀터레스트로 보내기

Comments

Hot

인기 (1) ‘노동 없는 삶’ 우린 받아들일 수 있을까

댓글 0 | 조회 107
ㆍ공존을 위한 ‘새로운 합의’ 일러스트 | 김상민 기자 영국의 과학자 겸 소설가인 C P 스노는 1959년 리드 강좌에서 현대 사회에서 가장 중요한 두 문화인 과학과 인문학 사이의… 더보기
Hot

인기 (2) AI 만난 게임 ‘무한 상상 발전소’

댓글 0 | 조회 112
ㆍ게임, 사회적 편견을 깨라 마이크로소프트가 인공지능 플랫폼으로 활용할 것이라고 선언한 ‘마인크래프트’ 게임 알파고가 이세돌 9단과 첫 번째 대국을 하는 동안 구글의 인공지능 분야… 더보기
Hot

인기 (3) 뉴욕 ‘하이라인’처럼…걷고 소통하는 ‘삶의 플랫폼’으로

댓글 0 | 조회 103
쓸모없게 된 고가철로 를 공원으로 재생해 ‘걸어다니는 도시’ 성공사례로 꼽히는 뉴욕의 ‘하이라인’. 많은 미래학자들은 기술발전과 가치관의 변화가 미래도시 형태에 영향을 미치고, ‘… 더보기
Hot

인기 (4) 현실과 가상의 만남

댓글 0 | 조회 113
ㆍ멀리 있던 사람이 눈앞에 맞이하라, 환상의 세계ㆍ무엇이 진짜 현실인가 경계하라, 혼돈의 세계 현실 배경에 가상 이미지를 겹쳐서 하나의 영상으로 보여주는 ‘증강현실’ 기술은 순간이… 더보기
Hot

인기 (5) 데이터 기반 사회

댓글 0 | 조회 122
ㆍ내 가슴 뛸 맞선남 ‘빅데이터’가 찾아준다 그래픽 | 현재호 기자 최근 빅데이터(Big Data)라는 말이 여기저기서 나온다. 글자 그대로 해석을 하자면 ‘빅(Big)’은 크다는… 더보기
Hot

인기 (6) ‘음악비서 로봇’, 노래도 골라주고 작곡까지 ‘척척’

댓글 0 | 조회 138
ㆍ음악, 어떻게 즐길까 아마도 음악을 싫어하는 사람들은 별로 없을 것이다. 어떤 사람은 클래식을 좋아하고, 어떤 사람은 대중적인 팝음악을 애호한다. 젊은이들 중에는 클럽에서 듣는 … 더보기
Hot

인기 (7) 시골선 드론이 비료·물 ‘척척’ 도시선 ‘비닐하우스 빌딩’이 논밭

댓글 0 | 조회 129
ㆍ미래 먹거리와 농업의 변화 농업혁신을 말할 때 가장 많이 거론되는 미래기술이 드론이다. 파종 및 방제는 기본이고 데이터 영상지도 작성 등 잠재력이 커서 농업 전반에 많은 변화를 … 더보기
Now

현재 (8) ‘인공지능’ 제어할 것인가, 지배당할 것인가…대재앙이 될 ‘1% 불확실성’에 대비하라

댓글 0 | 조회 112
ㆍAI, 인류 최후의 발명품 될까 인공지능 발전이 워낙 눈부시다보니 최근 들어 약인공지능(ANI)을 넘어서 인간 수준의 지능을 가진 강인공지능(AGI)이나 인간을 훨씬 뛰어넘는 초… 더보기