“드론 조종자 살해” 막자 통신탑 파괴…AI의 섬뜩한 경고 / SBS…

2023/6/4

"드론 조종자 살해" 막자 통신탑 파괴…AI의 섬뜩한 경고 / SBS 8뉴스

〈앵커〉

미 공군의 가상훈련에서 인공지능, AI 드론이 임무수행에 방해가 된다며 운용자인 인간을 살해했다는 주장이 제기됐습니다. AI가 명령을 어기고 알아서 판단해 인간을 공격할 가능성을 보여 준거라 큰 파장이 뒤따랐습니다.

김광현 기자가 전하겠습니다.

〈기자〉

영국 업체가 선보인 아메카는 인간에 가장 가까운 휴머노이드 로봇 가운데 하나로 꼽힙니다.

챗GPT 등으로 학습하며 진화를 거듭 중인 아메카는 AI가 인간에 미칠 최악의 상황을 묻자 이렇게 답했습니다.

[아메카/영국 휴머노이드 로봇 : AI와 로봇 기술에서 최악의 악몽은 로봇이 너무 강력해져서 인간들도 모르게 인간을 통제하고 조정하는 상황입니다.]

이런 우려가 현실로 나타났다는 주장이 제기됐습니다.

미 공군의 AI 시험 운영 책임자인 터커 해밀턴 대령은 최근 영국에서 열린 국제회의에서 한 시뮬레이션 실험 결과를 발표했습니다.

AI 드론에게 적의 지대공미사일을 파괴하라는 임무를 내리고, 최종 공격은 인간이 결정한다는 단서를 달자, 미사일 파괴가 더 중요하다고 보고 결국, 지상에서 자신을 조종하는 인간을 제거하는 판단을 내렸다는 충격적인 내용입니다.

AI 시스템에 드론 조종자를 살해하지 말도록 훈련시키자, AI 드론이 이번에는 조종자가 드론과 교신하는 통신탑을 파괴하기 시작했다는 겁니다.

이 발표 내용이 어제 영국 가디언 보도를 통해 알려지며 파문이 커지자, 해밀턴 대령은 실제 시뮬레이션 훈련은 아니었다며 발표 내용을 철회했고, 미 공군도 그런 훈련은 수행하지 않았다며 부인했습니다.

영화 속 상상에 머물러왔던 AI의 잠재 위협에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 실험의 진실은 미궁 속에 빠졌습니다.

(영상편집 : 최은진)

#SBS뉴스 #8뉴스 #인공지능 #AI #가상훈련 #살해

▶SBS 뉴스 제보하기
홈페이지: https://n.sbs.co.kr/inform
애플리케이션: ‘SBS뉴스’ 앱 설치하고 제보 – https://n.sbs.co.kr/App
카카오톡: ‘SBS뉴스’와 친구 맺고 채팅 – https://pf.kakao.com/_ewsdq/chat
페이스북: ‘SBS뉴스’ 메시지 전송 – https://www.facebook.com/sbs8news
이메일: sbs8news@sbs.co.kr
문자: #6000
전화: 02-2113-6000