구글 등 美 AI 기업, “생성 콘텐츠에 워터마크”
“AI의 사회적 리스크도 우선적으로 연구”
내년 11월 美 대선 앞두고 가짜뉴스 극성 우려 [앵커] 최근 인공지능 AI를 활용한 사기나 속임수 등이 사회적으로 큰 문제가 됐었는데요.
구글과 오픈 AI 등 미국의 7개 주요 기업이 AI가 만든 콘텐츠에 워터마크를 넣는 등 안전조치를 취하기로 했습니다.
미 백악관도 한국 등 동맹국들과 협력해 국제적으로 연대할 계획이라고 밝혔는데요.
취재기자 연결해 자세한 소식 알아보겠습니다. 김선희 기자!
요즘 인공지능 AI를 악용해 가짜뉴스 등이 심심치 않게 나왔었는데 기업들이 자발적으로 안전조치를 만든 거군요?
[기자] 네, 그렇습니다.그동안 보도가 됐었던 것처럼 AI를 활용한 사기나 속임수 등은 심각한 문제로 지적돼왔습니다.
몇 달 전 세계를 깜짝 놀라게 한 사건이 대표적인데요.
미 국방부 펜타곤 부근에서 검은 연기가 치솟는 사진이 SNS를 통해 급속히 퍼지며 금융시장까지 출렁였는데 결국 가짜로 판명 난 겁니다.
트럼프 미국 전 대통령이 경찰 추격을 받고 수갑 찬 모습, 죄수복 차림 사진도 모두 AI가 만든 가짜로 드러났습니다.
이렇게 문제가 심각해지다 보니 구글과 메타, 마이크로소프트, 아마존 등 7개 주요 기업이 AI로 만든 콘텐츠에 워터마크를 넣는 등 안전조치를 취하기로 했습니다.
또 AI 시스템의 기능과 한계. 적절한 사용 영역 등을 공유하고 개인정보를 보호하는 등 AI의 사회적 문제도 함께 연구하기로 했습니다.
이번 조치는 오픈 AI가 챗GPT를 출시한 것과 관련해 AI 활용에 대한 우려가 커지고 있는 가운데 나온 것입니다.
특히 내년 11월 미국 대선 때 딥페이크 등 AI 기술을 활용한 정보 조작이나 가짜뉴스가 극성을 부릴 수 있다는 우려도 작용했습니다.
[앵커] 미국 백악관도 기업들과 함께 AI 대책에 적극 나설 것이라고 밝혔죠? [기자] 네, 백악관도 사실상 ‘첫 AI 정책’으로 간주하고 적극적으로 나서고 있습니다.백악관은 새 기술을 개발하는 기업은 제품의 안전성을 보장할 책임도 뒤따른다며,
AI의 잠재력은 활용하면서 시민의 권리와 안전을 지킬 수 있도록 대책을 세워나가겠다고 밝혔습니다.
조 바이든 대통령도 이번 조치가 실질적인 정책이 될 것이라며 기대감을 나타냈습니다.
아직 법적인 강제성은 없지만, 조만간 행정명령을 발표할 계획이라고 전했습니다.
또 한국을 비롯한 20개 동맹국과 협력해 AI 개발과 사용을 관리하기 위한 국제적인 연대 방침도 세워두고 있습니다.
지금까지 국제부에서 YTN 김선희입니다.
영상편집 : 이영훈
YTN 김선희 (sunny@ytn.co.kr)
※ ‘당신의 제보가 뉴스가 됩니다’
[카카오톡] YTN 검색해 채널 추가
[전화] 02-398-8585
[메일] social@ytn.co.kr
▶ 기사 원문 : https://www.ytn.co.kr/_ln/0104_202307221231414758
▶ 제보 하기 : https://mj.ytn.co.kr/mj/mj_write.php
▣ YTN 유튜브 채널 구독 : http://goo.gl/Ytb5SZ
ⓒ YTN 무단 전재 및 재배포금지
