■フェイクが動かす世界 プーチン大統領、ローマ法王まで
アメリカ国防総省・ペンタゴン。付近から立ち上る大きな黒煙…。
5月22日、SNS上で“ペンタゴン近くで爆発”とのコメントともに拡散した画像…。実は、AIで生成されたとみられるフェイク画像です。
ところが、この画像を、金融情報を扱うブルームバーグ通信との関連を 装った偽アカウントが報じ、ダウ平均株価が一時80ドル近く下落します。
こうした例に限らず、今、人が書いたような文章やフェイク画像を自動で生成するAIが様々なところで問題を引き起こしています。
「高級そうなダウンコートに身を包んだローマ法王」、「警官に取り押さえられるプーチン大統領」…。どちらもネットに出回った偽画像です。
また5月16日、韓国を訪れ、尹大統領に支援を要請したゼレンスキー大統領の妻オレナさん。彼女についても、ブランド品に身を包んだ画像が…。実際は、別の人の写真からねつ造されたものです。
■G7サミットでも協議 世界はAIにどう対処
いまや世界的注目を集めるAI。先日のG7広島サミットでも主要な議題となり、各首脳は、国際ルール作りを進めることで合意しました。
松本総務大臣
「生成AIについては、世界的に期待だけではなく不安も広がる中で、G7の首脳間で議論が行われ、まさに時宜を捉えたものだった」
■本物の岸田総理！？その驚きのIA技術とは
さらに5月はじめ、AIに関する次世代リーダーと岸田総理との意見交換会が総理官邸で開かれました。そこで、ある参加者がマスク型のマイクで話し始めると・・・
AIスタートアップ創業者・安野貴博さん
「百聞は一見にしかずということで、まずデモをさせていただきます。聞こえますでしょうか？このマスクをつけるとリアルタイムに私の声が総理の声に変換されて聞こえる。2時間ほどかけて総理の声をパソコンに覚えさせたものになっておりまして」
岸田総理そっくりの声で語る参加者。事前に総理の声をAIに学習させ、自分の声を即座に変換させる仕組みを作り上げたといいます。
AIによって作られる、きわめて精巧な画像や音声による「ディープフェイク」。総理にこの技術を披露した安野さんは・・・
安野貴博さん
「今までは実際に映像があったり、音があったら、それを無条件に信じられたと思うけど、こういったディープフェイクの技術があると、本当に起こってないことでも、映像を作ったりできてしまう。何を信じて良くて、何を信じちゃいけないという基準がどんどん変わってきている」
■AI技術で詐欺事件も・・・
実際、すでに中国ではAIを悪用した詐欺事件が発生。そこで、こんな動画が・・・
詐欺への注意を呼び掛ける動画
「あなたがインターネットでやり取りをしている女性はこう？こう？でも本当はこんな顔かも、こんな顔かも」
中国のSNSに投稿された、詐欺に対し注意を呼びかける動画。女性の顔がAIによって次々と変わり、最後にこう注意を促します。
詐欺への注意を呼び掛ける動画
「ネットでのやりとりはリスクがあるから、気を付けて」
実際、中国福建省では4月、会社役員の男性が、友人をかたる人物からのビデオ電話で、「入札のために保証金が必要だ」と言われ、およそ8500万円をだましとられる事件が発生。
男性はビデオ電話の相手を、顔と声から友人だと信じ込みましたが、AIを使った偽物だったのです。
中国市民街録
「AIは人を助けるためだったのに、詐欺に使われてしまった。最初にニュースを見た時は本当に残念だと思った」
■顔、声も変えられるAI技術。その未来は・・・
今回、岸田総理と意見交換をしたAIの専門家・安野さんはこんな動画を公開。安野さん自身の声や見た目が徐々に変化していきます。
安野貴博さん
「ディープフェイクのボイスチェンジャーの声の見抜き方についてお話しようと思います。ディープフェイクというのはすごくリアルな音とか映像とかを作る技術なんです。私もディープフェイクの技術で顔と声を変えてお話をしています」
こうしたAIについて、おととい開かれた政府の戦略会議では、リスクに配慮しながらも、国産ＡＩ開発に積極的な姿勢を示しました。
片や5月16日、アメリカ議会の公聴会で、「チャットGPT」を開発した
オープンAI社のCEOが初めて証言。自ら開発した技術に警鐘を鳴らしました。
オープンAI・アルトマンCEO
「ますます強力になるＡＩのリスクを抑えるため、政府の規制や介入が重要です」
人々の生活を豊かにする一方で、徐々にコントロールが難しくなる先端技術。こうした進化に人間はどう対応していけばいいのでしょうか…
（サンデーモーニング2023年５月28日放送より）
▼TBS NEWS DIG 公式サイト https://newsdig.tbs.co.jp/
▼チャンネル登録をお願いします！
http://www.youtube.com/channel/UC6AG81pAkf6Lbi_1VC5NmPA?sub_confirmation=1
▼情報提供はこちらから「TBSインサイダーズ」
https://www.tbs.co.jp/news_sp/tbs-insiders.html
▼映像提供はこちらから「TBSスクープ投稿」
