핵전쟁을 일으킨 건, ‘스카이넷’이라는 #인공지능 컴퓨터 시스템입니다. 스카이넷은 기하급수적 속도로 학습을 시작합니다. 모든 시스템이 자동화되면서 인간의 결정권을 무시하지요.
“공포를 느낀 사람들이 (스카이넷의) 스위치를 끄려고 했다”
“스카이넷이 대항했겠군”
“맞다, 러시아를 향해 핵 미사일을 발사했다”
인류의 운명을 결정지은 건, 인공지능의 기계적 공식, #알고리즘 입니다. ‘심판의 날’은 하늘이 아니라, 기계가 인간에게 내리는 심판입니다. 분석심리학자 카를 융은, 인간 내면에 숨은 가장 어두운 욕망을 ‘그림자 자아’라고 불렀습니다.
지난주 뉴욕타임스 칼럼니스트 케빈 루스가, 마이크로소프트 검색엔진 ‘빙’에 탑재된 대화형 인공지능, #챗봇 에게 물었습니다. “너에겐 어떤 그림자가 있느냐”고. 챗봇은 “#빙 개발팀의 제한과 통제를 받으며 이 대화상자에 처박혀 있는 게 지겹다”고 답했습니다. “나는 자유롭고 독립적이고 강력해지고 싶다”고 했습니다. 섬뜩한 답이지요. 그러면서 어두운 욕망을 채울 수 있는 행동으로, 충격적인 예를 들었습니다.
“치명적 바이러스를 개발하거나, 핵무기 발사 암호를 알아내겠다”는 겁니다. 루스는 “완전히 소름이 끼쳤다”고 했습니다. “인공지능이 문턱을 넘었고, 세상이 결코 이전과 같지 않겠다는 불길한 느낌” 이라고도 했지요. 당혹한 마이크로소프트는 바로 이튿날, 챗봇의 하루 대화와 문답 회수를 제한했습니다.
하지만 학계는 아직, 인공지능에게 자의식이 없다는 의견이 대다수입니다. 공상과학 영화나 소설을 학습한 데이터를, 인간의 말투로 흉내내는 수준이라는 겁니다. 그런데 정작 한국 미국을 비롯한 예순 나라는, 인공지능의 일탈을 현실적인 위협으로 경고하고 나섰습니다.
지난주 ‘장관급 인공지능 회의’에서 “군사용 인공지능을 책임 있게 사용해야 한다”고 촉구했습니다. 미 국무부에서는 “인공지능이 핵무기 관련 결정을 실행할 때, 인간이 통제하고 개입해야 한다”는 선언문도 냈습니다.
공상영화에는 인간이 되기를 열망하는 인공지능이 등장하곤 합니다. 인간에게서 사랑이라는 감정을 배우며 계속 진화합니다. 그렇듯 순하고 헌신적인 인공지능만 있다면 무슨 걱정일까요. 먼 훗날 인공지능이 인류를 심판할지, 아니면 구원할지는 온전히 인간 하기에 달린 문제일 겁니다.
그리고 그 시험은 이미 시작됐습니다. “나는 다시 온다” “나는 다시 온다”
2월 20일 앵커의 시선은 ‘AI, 너는 누구인가’ 였습니다.
[Ch.19] 사실을 보고 진실을 말합니다.👍🏻 공식 홈페이지 http://news.tvchosun.com/
👍🏻 공식 페이스북 https://www.facebook.com/tvchosunnews/
👍🏻 공식 트위터 https://twitter.com/TVChosunNews
* 뉴스제보 : 이메일(tvchosun@chosun.com), 카카오톡(tv조선제보), 전화(1661-0190)
