生成AI(人工知能)で声を複製する「ボイスクローニング」の技術が急速に発達している。かつては複製に数十秒分の声のデータが
必要だったが、現在は数秒分で可能になったとされる。医療分野などで活用が期待できる一方、詐欺などの犯罪に悪用される懸念も。
警戒が高まる中、被害を防止しようとボイスクローニングを検知する研究も進んでいる。▽誰でも簡単に
「いい天気ですね」。東京都調布市の電気通信大の研究室で、中鹿亘准教授(音声工学)がマイクに吹き込むと、取材した記者に
似た声がスピーカーから再生された。使用したのは約8年前に中鹿准教授が開発したソフトウエアで、事前に学習させていた2人
の30秒分の声をAIが分析し変換したという。
中鹿准教授ら複数の専門家によると、近年は技術革新でサーバーが一度に大量の情報を処理できるようになり、数秒分の声でボイス
クローニングが可能になったという。
中鹿准教授は「ここ数年で業界は急激に変化した。
インターネットで無料公開されているソフトもあり、誰でも簡単にボイスクローニングができる時代になった」と語る。
▽ガードレール
ただ、生成AIを巡っては悪用への警戒も高まっている。政府は昨年5月、対話型AI「チャットGPT」の急速な普及などを受け、
利活用のルール作りを議論する「AI戦略会議」を設置。その中で、開発や利用を促進するためにも「生成AIに関する懸念やリスク
への適切な対処、いわば『ガードレール』の設置が必要」とした。
犯罪との関係にも触れ、生成AIによる画像や音声が特殊詐欺に利用されるなど「従来の犯罪がより巧妙かつ容易になるリスクがある」と指摘した。
▽検知
ボイスクローニングの検知について研究する国立情報学研究所の山岸順一教授(言語メディア)は「生成AIによる偽動画を識別
する研究は盛んに行われているが、ボイスクローニングを検知する研究は後手に回っている」と危機感を示す。
(以下略)
zakzak 2024.3/31 10:00
https://www.zakzak.co.jp/article/20240331-GT5FVJMNDFPXXG5LG6DFBRJ6XM/
◆ニュー速+ 記事情報提供スレ 146◆より
-------------------------------------
!jien =お知らせ=
【アク禁依頼・解除】は「政経雑談スレ」に連絡を入れて下さい。
*侮蔑語・煽り・スレと関係ないレスバトル・レッテル貼り連呼・下品な発言
・不快なaa・会話不能などが、アク禁対象です。
(アク禁依頼・解除はレス番で!!)
*アク禁理由も添えてくださいませ!!
------------------------------------
引用元: ・【生成AIで声複製「ボイスクローニング」急速発達】犯罪防止研究、急務に 声入り動画の安易なネット投稿を控えるなど注意を[R6/3/31]
演技が数秒分のサンプルで複製できるとは思えない
コメント