コンテンツにスキップ

第13回　応用事例と社会的インパクト

この回の資料

生成AI音声偽造（Deepfake）・バイアス検証

配慮事項（神経多様性）
この回は動画視聴とCBTが中心です。字幕付き動画を利用するなど、やれる範囲で自分のペースで進めてください。テストは持ち込み可（紙メモ）。時間や方法について相談があればメールでご連絡ください。

授業の目標

この回を終えると、次のことができるようになります：

  1. 生成AI音声技術の技術的仕組みを説明できる
  2. 音声Deepfakeが社会に与えるリスクを複数の観点から考察できる
  3. 音声AIにおけるバイアスの問題を具体的に指摘できる
  4. 技術者・研究者として倫理的責任を自分の言葉で表現できる

進化の視点：声による個体識別と、偽造への対処

ヒト以外の動物にも、声から個体や親族を聞き分けることを示す実験がある。例えばRendallほか（1996）は、野外のアカゲザルを対象に再生実験を行った。1 ヒトの話者認知でも、声帯・声道に由来する音響特徴や、学習された話し方などが手がかりになる。ただし、声は録音条件や体調でも変わり、声の類似だけで本人確認が保証されるわけではない。

音声Deepfakeは、こうした話者らしさの手がかりを生成できるため、本人だと思い込ませる手段になり得る。動物の実験から人間の詐欺への反応を直接説明することはできないが、「個体識別の手がかり」と「信頼できる本人確認」を分ける問いにつながる。

技術への接続：検出器は音響的な特徴などを使って本物と偽造の違いを学習する。ASVspoofは、未知の生成手法、録音・圧縮条件などに対して性能を比較する枠組みである。声の類似度を測る話者認証と、合成・加工の有無を調べる検出は別の課題である。19

方言・アクセントの多様性は、言語経験や社会的な伝達にも関わる。ASRの学習・評価データがその一部しか含まなければ、対象外の利用条件で性能が変わる可能性がある。ただし、精度差だけから学習データの内訳や原因を確定することはできない。

問い：声が似ていること以外に、本人と連絡経路をどう確認できるだろうか。

講義の構成

1. イントロダクション — なぜ今、この話をするのか

問いかけ：

「あなたが電話で家族の声を聞いたとき、その声が本物かどうか、確認する手段はありますか？」

  • 2023年：米FTCが、家族の声を模倣する詐欺について注意を呼びかけた11
  • 2024年1月：米ニューハンプシャー州予備選前に、バイデン氏を模した自動音声電話が発信された12
  • 事例の存在と、世界全体での被害件数の増減は分けて考える
  • 技術の進歩は「できること」を広げる一方で、「悪用のリスク」も拡大させる

この授業で扱う問い：

  • 技術はどこまで進んでいるのか？
  • 社会にどんな影響があるのか？
  • 私たちは何をすべきか？何をすべきでないか？

2. 生成AI音声技術の現状（1）— TTSの発展

テキスト音声合成（Text-to-Speech, TTS）の主な研究例

以下は代表例の整理であり、技術を排他的な「第1〜第5世代」に分ける標準分類ではない。

技術・発表年 主に扱うこと 特徴・区別する点
規則合成・波形接続・統計的パラメトリック合成 音響規則、録音単位の接続、音響パラメータの生成 自然さや制御性は方式・データ・用途で異なる
WaveNet（2016） 生の音声波形の生成 先行サンプルに条件づけて次のサンプルを予測
Tacotron 2（2017年プレプリント／2018年発表） テキストからメルスペクトログラムを予測し、WaveNetで波形化 音響モデルと波形生成器を区別する
FastSpeech（2019） 並列にメルスペクトログラムを生成 非自己回帰型の構造と継続時間の制御
VITS（2021）、NaturalSpeech（2022） テキストから波形までの合成 潜在変数などを用いる。全モデルが同じ制御機能を持つわけではない
VALL-E、Voicebox（2023） 参照音声を条件にした生成など ニューラル音声コーデックの言語モデル／フローマッチングという異なる方式

各研究の原論文を比較すると、波形生成器、TTS全体、話者適応は別の比較軸だと分かる。2345678

WaveNet（2016）の特徴

  • 拡張因果畳み込みを用い、先行する波形サンプルに条件づけて次のサンプルを生成する自己回帰モデル
  • 音素ごとではなく波形の標本ごとに予測する。例えば16 kHzなら1秒に16,000標本だが、16 kHzに限定された方式ではない
  • 原論文では英語・中国語のTTSで自然さの改善を報告した。「それ以前はすべてロボット声」「初めて人間に近づいた」という一律の説明はしない2

VITS（2021）の仕組み

  • 変分推論、正規化フロー、敵対的学習を組み合わせる
  • テキスト側の表現と音声側の潜在表現を学習し、波形を生成する
  • 確率的な継続時間予測により、同じテキストから異なるリズムの音声も生成できる
  • 生成速度はモデル・ハードウェア・設定による。論文での高速性を、どの機器でもリアルタイムという保証と混同しない5

3. 生成AI音声技術の現状（2）— Voice ConversionとZero-shot TTS

Voice Conversion（声質変換、VC）とは

入力された発話の言語内容を保ちながら、話者らしさなどの音声特性を変換する課題。内容・韻律・話者情報を完全に独立した成分として分離できるとは限らず、変換によって内容が崩れることもある。

入力音声（話者A）＋対象話者の条件 → VCモデル → 変換音声

仕組みのイメージ

  1. 入力から内容に関する表現を取り出す
  2. 対象話者の埋め込みや参照音声などを条件として与える
  3. 内容を保ち、対象話者らしい音声になるように生成する

声優の演技の変換や支援技術などに応用できるが、利用目的、本人の同意、契約との関係も考える。

Zero-shot TTS（ゼロショット音声合成）

学習済みのモデルを、対象となる新しい話者について追加のパラメータ学習をせずに利用する設定。対象話者の参照音声を入力する方式もあり、「データを一切使わない」「モデルの事前学習も不要」という意味ではない。

読み上げるテキスト＋対象話者の参照音声 → TTSモデル → 新しい内容の音声

VALL-E（2023）の研究例

  • 約6万時間の英語音声による事前学習を行った
  • 学習時に含まれない話者の約3秒の録音を、推論時の音響プロンプトとして利用した
  • 原研究の条件で、話者の類似性・自然さや、感情・録音環境の特徴を保持する例を報告した7

3秒だけでモデル全体を学習するわけではない。対応言語、話者、参照音声の品質、テキストの読みなどで結果が変わり、常に完全な模倣や正確な発音ができるという主張でもない。

4. 音声Deepfakeとは（1）— 技術的仕組み

Deepfakeとは

深層学習などを用いて、実在する人などの音声・映像を本物らしく生成・加工したものを指す。授業では特に、本人が発していない発話を本人のものと受け取らせる音声を扱う。合成音声全般が詐欺や偽情報を目的とするわけではない。

生成モデルと処理課題は別の分類

GAN・拡散・フローマッチング・自己回帰モデルは生成の仕組みの分類であり、TTSとVCは入力・出力で定める課題の分類である。一つのシステムが複数の仕組みを組み合わせることもある。

1. GAN（敵対的生成ネットワーク）

生成器は音声を作り、識別器は学習データの音声と生成音声を区別する。両者の目的を組み合わせて学習するが、品質の改善や安定した収束が保証されるわけではない。

  • WaveGANは波形生成の研究例
  • MelGAN・HiFi-GANは、メルスペクトログラムなどから波形を生成するニューラルボコーダの例
  • ボコーダだけで「指定した人物に任意の文章を言わせる」システム全体になるわけではない9

2. 拡散モデル

雑音を加える過程と対応する除去過程を学習し、雑音から音声やその潜在表現を生成する。DiffWaveは波形生成、AudioLDMは潜在拡散によるテキストからの音生成の例である。AudioLDMは環境音・音楽なども扱い、特定話者のクローン専用モデルではない。10

3. フローマッチング

分布間を移す連続的な変化を学習する。Voiceboxは非自己回帰型のフローマッチングモデルであり、単に拡散モデルの例として列挙しない。8

4. 潜在変数・音声コーデックを使う方式

VAEなどによる潜在表現を使う方式や、VALL-Eのように音声コーデックの離散コードを生成する方式もある。潜在表現は必ずしも単純な低次元圧縮ではなく、話者情報と内容の分離の程度もモデルによる。57

5. 音声Deepfakeとは（2）— 実例と検出の難しさ

公的資料で確認できる事件と注意喚起

時期 事例・公表資料 確認できる内容
2023年3月 米FTCの注意喚起 家族の声を模倣した緊急の金銭要求に注意を呼びかけた。世界の被害増加率を示す統計ではない11
2024年1月21日 米ニューハンプシャー州予備選前の自動電話 当時のバイデン大統領に似せた音声で、投票を控えるよう促す電話が発信された12
2024年1月に警察が受理 香港の企業送金詐欺 幹部らを模した録画の会議映像を用い、約2億香港ドルの損失。音声だけでなく映像も使った事件13

報道された金額、通貨、発生年と公表年、音声だけか映像も含むかを分けて読む。個別事例だけで全体の発生率やすべての詐欺の生成方式は分からない。

なぜ判別が難しくなり得るのか

  1. 話者らしさ：生成音声が本人に似ていても、それだけで本物とは判定できない
  2. 参照音声の短さ：短い録音を使えるモデルがあるが、出力品質は条件による
  3. 文脈の利用：名前や用件などの情報が、聞き手の判断に影響し得る
  4. 録音・圧縮・加工：検出器が学習した特徴が変化し、別の通信条件で性能が落ちる場合がある
  5. 未知の生成手法：評価時に初めて出会う生成方式への汎化を調べる必要がある19

「聞けば必ず分かる」「どの検出器も全く役に立たない」のどちらも、評価条件を無視した結論である。聞き取り、検出スコア、配信元、独立した確認経路を組み合わせて考える。

6. 社会的インパクト（1）— 詐欺・フィッシング

音声詐欺の手口と進化

従来のオレオレ詐欺 - 電話で家族を名乗り、緊急の金銭を要求 - 声が違うことを指摘されるリスクがあった

AI音声を使った詐欺の特徴 - 本人の声（SNS音声、インタビュー動画等から取得）を模倣 - 感情的なシナリオ（事故・逮捕・病気）と組み合わせ - 標的の「家族の声」に特化したカスタマイズが可能になりつつある

ビジネスメール詐欺（BEC）と音声によるなりすまし - 経営幹部の音声を使い、緊急の振り込みや機密情報の提供を指示 - メールや会議映像と音声を組み合わせたなりすましもある。声を使うことだけで信憑性が必ず高くなるとは限らない

対策として考えること - 緊急の要求を受けたらいったん通話を切り、以前から知っている本人の番号や別の連絡経路で確かめる。着信表示や相手が提示した番号だけに頼らない11 - 組織の送金では、既存の承認手順や複数人での確認を守る - 合言葉は補助策になり得るが、漏えい・推測される可能性も考える - 検出器を導入する場合は、見逃し・誤警報・遅延を使用環境で評価する。検出結果だけで本人確認を完結させない

7. 社会的インパクト（2）— 政治的操作とフェイクニュース

政治的文脈での音声Deepfake

選挙や政治運動において、音声Deepfakeは新たなリスクをもたらしています。

事例と影響の考え方

  • 政治家が「言っていないこと」を言わせる偽音声の拡散
  • 選挙直前のタイミングで流布されると、反論の時間が取れない
  • 本物の音声も「Deepfakeかもしれない」として信頼されなくなるリスク（真実の希薄化）

「Liar's Dividend（嘘つきの配当）」という概念

Chesney & Citron（2019）は、偽造技術が知られることで、本物の不都合な証拠にも「偽物だ」と疑いを向けて責任を逃れやすくなる問題を論じた。単に情報への信頼が薄れる現象全体や、詐欺師の金銭的な利益を指す語ではない。14

社会的・民主主義的な問題

  • 偽の発言を信じることと、本物の証拠を退けることの両方が問題になる
  • 標的、発信時期、配信経路、拡散・訂正の速度を具体的な事例で確認する
  • 政治的な影響の大きさは、音声の自然さだけでは決まらない

多角的な視点：生成・検出技術に加え、情報リテラシー、報道・プラットフォームの対応、本人確認や訂正の手続を考える。偽音声が存在することだけで、特定の選挙結果への影響が実証されたことにはならない。

8. 社会的インパクト（3）— 著作権・肖像権・声の権利

声の何を、どの権利で保護するのか

声質、発話内容、実演、録音物、氏名・肖像の商業的な利用、個人情報、契約を分ける。国・地域や用途によって判断の枠組みが異なる。

日本で区別すること

  • 声質が似ていることだけと、保護される実演・録音物等を利用することは同じではない。文化庁の検討でも、声の模倣と著作権・著作隣接権の関係を分けている（公式審議資料・議事録）
  • 肖像などの人格的利益の保護と、顧客吸引力の排他的な利用を扱うパブリシティ権を混同しない（裁判例の整理）
  • 著作権法上の保護が及ばない場合でも、契約、一般不法行為、パブリシティ権などが問題になり得る。「声は著作物ではないから、あらゆる利用が自由」とは結論できない

国・地域別の例（2026年10月19日時点）

国・地域 法律・規則・指針と、その対象
米国テネシー州 ELVIS Act（2024年成立）：個人の権利の保護対象にvoiceを明記した州法。適用要件と例外を持ち、米国全体の一律禁止ではない（州議会）
EU AI Act：用途等に応じた義務。第50条の透明性義務は2026年8月2日から適用され、生成物の機械可読な表示とDeepfake利用者による開示を区別する（欧州委員会）
中国 2023年の深度合成・生成AI関連規則に加え、生成合成コンテンツの表示に関する規則が2025年9月1日施行。明示的表示とメタデータ等の表示を定める（規則本文）
日本 AI事業者ガイドライン第1.2版（2026年3月）：自主的な取組を促す指針であり、法律そのものではない。既存法の義務とは分けて読む（総務省・経済産業省の公表ページ）

具体的な検討例

  1. 故人の声を復元して利用する際の契約・権利者・表示
  2. 声優・歌手の声を模倣した商品の、本人の関与についての表示
  3. 吹き替え用に提供した録音を、契約外の学習や用途に再利用する場合
  4. ニュースキャスターの声を偽情報に流用する場合

法律上の義務、契約上の義務、授業・研究で採用する倫理上のルールはそれぞれ確認する。

9. 音声Deepfake検出（1）— 特徴量と学習モデル

検出の構成要素

音声からどんな表現を得るかと、その表現からどう判断するかを分ける。「スペクトル解析」と「機械学習」は排他的な二分類ではなく、スペクトル特徴を機械学習モデルへ入力する方法もある。

1. 音響的な表現・手がかり

  • スペクトログラム、MFCC、LFCCなど
  • 振幅だけでなく位相や時間変化を使う方法
  • 音源・生成方式・通信条件によって現れる統計的な違い

すべての偽音声に共通する「高周波ノイズ」「不自然な位相」が存在するとは限らない。収録装置や圧縮の違いを、偽造の違いとして学習していないかも調べる。

2. 分類器・表現学習

研究例 概要
RawNet2を用いた偽造検出 生の波形から特徴を学習し、真偽を分類する15
AASIST 時間・スペクトルの情報をグラフ注意機構で扱う16
wav2vec 2.0を用いた検出 自己教師あり学習の表現と検出器を組み合わせる17

評価で残る課題

  • 学習に含まれない話者・生成手法・言語・録音条件でも働くか
  • 圧縮、雑音、帯域制限などで誤警報や見逃しが増えるか
  • 判定しきい値をどこに置き、どちらの誤りにどんなコストがあるか

検出スコアは、そのまま「本人である確率」や「詐欺である確率」ではない。合成音声の検出、話者認証、発言内容の真偽確認を分けて考える。

10. 音声Deepfake検出（2）— ASVspoofチャレンジ

ASVspoofとは

話者認証へのなりすまし攻撃や音声Deepfakeの検出を、共通のデータ・評価手順で比較する研究コミュニティのチャレンジである。ASVはAutomatic Speaker Verification（自動話者照合）を指す。

版 主な評価設定
ASVspoof 2015 TTS・VCによる攻撃の検出
ASVspoof 2017 録音再生（リプレイ）攻撃の検出
ASVspoof 2019 合成・変換を扱うLAと、再生攻撃を扱うPAを別タスクで評価
ASVspoof 2021 LA・PAに加えてDFタスクを設定し、通信・圧縮などの条件も検討
ASVspoof 5（2024） 単独のDeepfake検出と、なりすましに頑健な話者照合（SASV）の2トラック。攻撃・録音条件などを拡張

2019年版がすべてを単一タスクへ統合したわけではなく、ASVspoof 5も「拡散モデル専用」の評価ではない。1819

評価指標

  • EER（Equal Error Rate）：しきい値を変えたとき、2種類の誤り率が等しくなる付近の値。偽造検出では、本物を拒否する率と偽造を受け入れる率を区別する
  • t-DCF：偽造検出器と話者照合器を組み合わせたシステムのコスト。事前確率や誤りのコストを含む
  • ASVspoof 5の主指標：Track 1はminDCF、Track 2はmin a-DCF。EER・t-DCFだけを全版共通の主指標として説明しない19

ベンチマークと実運用

高いベンチマーク成績だけで実際の電話詐欺の検出性能は保証されない。実運用では、言語、通信方式、話者、攻撃頻度、しきい値などが異なる。優勝システムが実際の電話詐欺で「必ず大幅に低下する」と断定するには、その環境での評価が別に必要である。

11. バイアスの問題（1）— データ・評価・利用条件

音声AIのバイアスをどう検証するか

集団間の性能差には、学習データの量・内容、モデル構造や学習目標、評価データ、録音環境、利用方法などが関わり得る。訓練データの偏りは重要な仮説だが、観察された精度差だけで原因を一つに確定することはできない。

学習データで確認する観点

  • 言語・方言・アクセント、話者の人数と音声時間
  • 年齢などの属性の記録方法、自己申告、未回答の扱い
  • 読み上げ・会話・対話、用語や発話の長さ
  • 録音機器、環境、発話の多様性、データの使用条件

すべてのASRが「成人男性・標準語・健康な声道」を中心に学習しているとは断定できない。公開されたデータカードやモデルカードを読み、非公開部分は不明として扱う。

同じ差に複数の説明があり得る例

観察 検証する仮説・条件
高い声・低い声で誤り率が違う F0だけでなく、話者、音量、内容、マイクとの関係
子供と成人で成績が違う 音響特徴、発話内容、読み上げ能力、データ量
方言・第二言語話者で誤りが多い 語彙、発音、正解表記、録音条件、学習経験
間や繰り返しで入力が途切れる 音響モデルだけでなく、音声区間検出や対話の終了判定

研究事例

Koeneckeほか（2020）は、当時の5社の英語ASRと、研究対象の黒人話者・白人話者の発話でWERの差を報告した。話者・録音・当時のモデルを明示した結果として読む。20 Common Voiceは多様な言語・話者による音声収集の取組であるが、参加型データも全人口の代表標本とは限らない。21

12. バイアスの問題（2）— 方言・アクセント・多言語

日本語を例に考える

あるシステムが共通語中心のデータで学習していれば、異なる語彙・発音を持つ方言で性能が変わる可能性がある。ただし、特定の方言で常に精度が低いと述べるには、システムと評価データを指定した結果が必要である。

  • 関西方言・東北方言などの内部にも多様性がある
  • 琉球諸語と沖縄で使われる日本語の地域的変種を、すべて一つの「沖縄方言」として扱わない
  • 話者が話し方を変えなければ利用できない設計は、追加の負担になり得る

多言語・多アクセントの評価

「インド英語」「アフリカ英語」なども一様な発音ではない。属性名から結果を予測せず、どの話者・語彙・文体・音響条件で測ったかを示す。

Whisperの研究例

原論文では、言語間で文字起こしの性能が異なり、学習音声の量と性能との関係も分析された。これは多言語対応が全言語で同じ精度を保証しない例である。個別方言の性能や非公開の学習データ構成まで、この結果から逆算することはできない。22

精度差が利用に与え得る影響

  1. アクセシビリティ：音声入力のやり直しや訂正に、利用者による負担の差が出る
  2. 医療：記録支援の誤認識が確認作業を増やす。患者の状態の判断とは分けて評価する
  3. 教育：発話内容よりも認識誤りが評価に影響しないかを確認する
  4. 司法：自動文字起こしの誤りを原音声などで確認し、証拠の信頼性をASRスコアだけで決めない

これらは検証すべき利用上の影響であり、すべての実サービスで同じ問題が実証されたという一覧ではない。

13. バイアスの問題（3）— ジェンダー・発話・年齢の多様性

ジェンダーと音響特徴を混同しない

  • ジェンダーの自己認識、データセットの性別ラベル、F0などの音響量は別の情報である
  • ASRが必ず二値の性別カテゴリを入力に使うわけではない
  • 声だけからトランスジェンダー／ノンバイナリー等の属性を決めつけない
  • 集団間の平均WERに差があっても、方向・大きさ・原因はシステムと条件ごとに確認する20

発話の多様性と、確認すべき設計

状況・特性の例 確認すること
吃音に伴う繰り返し・引き伸ばし・ブロック 待ち時間、発話終了判定、利用者が意図する文字起こしの形式
構音の不明瞭さや運動性の発話障害 どの音や語で誤るか、個人向けの適応や修正が有効か
ALSなどに伴って発話が変化する場合 本人の状態に応じた入力方法と経時的な評価
口蓋裂などに伴う共鳴・構音の変化 開鼻声などと鼻音という音素を区別し、個別の発話で評価する

診断名だけで一人の音声の特徴や必要な支援を決定しない。ASRの利用を本人に強制せず、文字・AACなども含む選択肢を考える。2423

年齢について

発声器官、語彙、発話の長さや内容、録音時の行動など、年齢と共に変わり得る条件を検討する。すべての高齢者でジッター・シマーが増える、すべての子供で同じ誤りが出るとは決めつけない。

取組の例

  • GoogleのProject Euphonia：非定型的な発話のデータ収集と認識改善の研究。2025年の報告では多言語への拡張も扱う23
  • Mozilla Common Voice：参加者が音声を提供する公開データ収集21
  • 取組の存在と、対象集団全体で十分な性能が確保されたことは別である

14. 倫理的ガイドラインと規制動向（1）— EU AI Act

2024年に発効し、規定ごとに段階的に適用される法律

AI Actを「2024年から全義務が一斉施行」と説明しない。この節は2026年10月19日時点の公式資料に基づく。適用範囲、例外、既存システムの経過措置を条文と併せて読む。

リスクに応じた規定の整理

規定 読むときの注意
第5条の禁止行為 列挙された行為・用途に要件や例外がある
高リスクAIの義務 製品との関係や具体的用途で定まり、医療・司法のAIがすべて同じ扱いではない
第50条の透明性義務 AIとの対話、生成物の表示、Deepfakeの開示などの義務を分ける
その他のシステム AI Actの特定の義務の対象外でも、個人情報保護など他法令の対象になり得る

音声AIに関わる透明性義務

  • 第50条2項（提供者）：合成音声などの出力を、技術的に実行可能な範囲等を踏まえ、機械可読な形式で表示し検出可能にする義務
  • 第50条4項（利用者・導入者）：Deepfakeに当たる音声・画像・動画を生成・加工するAIの利用について、人工的な生成・加工であることを開示する義務
  • 芸術・創作・風刺などは全面的な開示免除ではなく、鑑賞を妨げない適切な方法での開示へと調整される（第50条本文）
  • 第50条は2026年8月2日から適用。同日より前に市場投入された生成AIシステムの2項の義務には、2026年12月2日までの経過措置がある。4項の開示義務まで一律に延期されたという意味ではない（欧州委員会の適用説明）

禁止行為の範囲にも注意する

  • 職場・教育機関で自然人の感情を推定するAIの使用等を禁止する規定には、医療・安全上の理由の例外がある
  • 公共の場でのリアルタイム遠隔生体識別についての禁止は、法執行目的という要件や限定的な例外を伴う。「公共空間の音声識別がすべて禁止」とは読めない

いずれも第5条本文の対象と定義を確認する。文字起こし、本人照合、感情推定は、音声を使っていても異なる用途である。

日本の開発者との関係

EU市場への提供やEU内で使われる出力など、法の適用範囲に入るかを確認する。国内の指針への対応だけでEUの法的義務を満たしたことにはならず、反対に音声AIなら常に全条文の対象という意味でもない。

15. 倫理的ガイドラインと規制動向（2）— 音声AIの責任ある使用

主要な倫理的フレームワーク

IEEEのEthically Aligned Design（第1版、2019）の一般原則

  1. 人権（Human Rights）
  2. ウェルビーイング（Well-being）
  3. データについて主体的に関与できること（Data Agency）
  4. 有効性（Effectiveness）
  5. 透明性（Transparency）
  6. 説明責任（Accountability）
  7. 悪用の認識（Awareness of Misuse）
  8. 能力・力量（Competence）

これは倫理的設計の指針であり、法律そのものではない。原文では8原則である。25

音声AIにおける「責任ある使用」の実践

場面 責任ある実践 避けるべき実践
研究 同意または適切な利用根拠、ライセンス、所属機関の手続を確認 公開音声だから用途を問わず自由に使えると決めつける
開発 利用場面に合うデータと評価、データ利用条件を整える 未評価の集団にも同じ性能だと説明する
展開 Deepfakeであることを明示 偽音声であることを隠す
評価 様々な話者グループで性能検証 平均精度だけで評価

コンセント（同意）の問題

  • 声のサンプルを提供した人が意図しない用途に使われることへの懸念
  • 「音声の所有権」は誰にあるのか
  • 同意の有効期限・撤回可能性

16. 研究者・技術者としての倫理的責任

「技術が使えるかどうか」と「技術を使うべきかどうか」は別の問い

"Just because you can, doesn't mean you should."

技術者が直面する倫理的ジレンマの例

  1. 依頼された研究だが悪用リスクが高い場合
  2. 「自分は技術を作るだけ」という切り離しは可能か？

  3. 研究の二重利用（Dual Use）問題

  4. 精度を上げるためにプライベートな音声データを使いたい場合

  5. 利便性と個人のプライバシーのトレードオフ

  6. バイアスを知りながらシステムをリリースする場合

  7. 「完璧でなくても役に立つ」vs「一部の人を不当に傷つける」

倫理的責任を果たすための実践的ステップ

  1. 設計段階からの倫理的考慮（Value-Sensitive Design）
  2. 多様なステークホルダーの声を設計に反映
  3. バイアス監査の実施とその公開
  4. 悪用への懸念を記録し、組織の相談・報告手続を使う。関与の見直しも検討する
  5. 継続的な見直しとアップデート

この授業で考えてほしいこと

音声処理・音声認識の技術者として、あなたはどのような社会を作ることに加担したいですか？

CBTテスト問題（第13回）

受験上の注意 - 問題は全6問、各問4択です - 紙メモの持ち込みを認めます - 時間制限：30分（時間や方法について相談がある場合はメールでご連絡ください） - 各問は、記述された条件と授業の評価観点に照らして最も適切な選択肢を選びます - CBTは小課題・演習30%の範囲で扱います。提出期限・提出先は授業で案内します

問題1（技術理解）

VALL-E（2023）のようなZero-shot TTSの説明として、最も適切なのはどれか？

A. モデルの事前学習にも音声データを一切使わない
B. 学習済みモデルに対象話者の参照音声を与え、その話者について追加学習せずに音声を合成する
C. 音声認識の誤り率を計算するための技術である
D. どの言語・話者でも完全に同じ品質の音声を作れる

正解：B

解説
Zero-shotは、この設定では新しい対象話者について追加のパラメータ学習を行わないことを指す。参照音声の入力はあり、事前学習には大量のデータを使う。VALL-E原論文は約6万時間の英語音声による学習と、約3秒の音響プロンプトを報告した。7

  • A：事前学習と、推論時の対象話者の入力を混同している
  • C：TTSによる生成とASRの評価は別の課題である
  • D：言語・話者・テキスト・録音条件によって品質は変わる

問題2（社会的インパクト）

「Liar's Dividend（嘘つきの配当）」が示すリスクはどれか？

A. 音声生成の費用が下がり、詐欺師の利益が増えること
B. Deepfakeの存在を利用して、本物の不都合な証拠を「偽物だ」と否定し、責任を逃れやすくなること
C. 音声AI企業が特許を取得して利益を得ること
D. 機械学習の計算量が増えること

正解：B

解説
Chesney & Citron（2019）がこの名称で論じた概念である。偽物を信じさせる問題に加えて、実際に起きたことの証拠にも疑いを向けさせる問題を捉えている。14 Aは金銭的な利益の問題であり、この概念の定義ではない。C・Dも該当しない。

問題3（技術・バイアス）

同じASRを評価すると、2つの話者集団でWERに差があった。原因を調べるための説明として最も適切なのはどれか？

A. 差があるので、開発者が意図的に一方を排除したと断定する
B. データの代表性、語彙、録音条件、モデルや評価手順などの仮説を立て、条件をそろえて検証する
C. 差があるので、必ずマイクだけが原因である
D. ASRに集団間の差は原理的に存在しないので、結果を無視する

正解：B

解説
学習データの偏りは重要な候補だが、平均WERの差だけでは因果関係は確定しない。モデルの版、話者数、内容、音響条件、正解の表記、話者ごとの分布を確認し、特定の仮説を区別できる追加分析を設計する。A・Cは証拠のない原因の断定、Dは評価結果の否定である。

問題4（倫理・法規制）

EU AI Act第50条4項が適用される、芸術作品等でも法執行上の例外でもない音声Deepfakeを利用・公開する場合、同項で求められるのはどれか？

A. すべての生成音声の公開を禁止すること
B. その内容が人工的に生成・加工されたことを開示すること
C. 必ず政府の事前許可を得ること
D. 本物らしく聞こえる場合に限り、開示を省略すること

正解：B

解説
第50条4項は、対象となるDeepfakeの生成・加工について開示を求める。提供者に対する2項の機械可読な表示義務とは区別する。芸術・創作等では鑑賞を妨げない方法での開示へ調整されるので、単純な全面免除ではない。A・Cは同項の要求ではなく、Dも開示を省ける理由にならない。（条文）

問題5（倫理的思考）

映画・ゲーム向けの音声生成ツールを開発するインターンが、なりすましへの悪用可能性を認識した。授業で扱った「リスクを評価して対処する」という観点から、最も適切な初動はどれか？

A. インターンには一切の責任がないとして、何も確認しない
B. 技術は中立だとして、把握したリスクを無視する
C. 想定用途・同意・悪用対策と限界を整理し、担当者に改善と評価を提案する。残る懸念は記録・相談し、必要なら関与の見直しを検討する
D. 具体的なリスクの検討なしに、すべての音声技術の開発停止を求める

正解：C

解説
この設問では、リスクの把握、対処、残る問題の共有という観点でCを選ぶ。透かし、利用制限、同意確認なども、それぞれに限界があるため、導入しただけで安全を保証するものではない。A・Bは把握した問題を扱わず、Dは用途ごとの評価を省いている。

実際の責任や対応可能性は役割、契約、法令、組織の制度などでも変わる。戦争犯罪に関する「命令への服従」の法理を、インターンの開発参加へそのまま当てはめない。懸念の相談先と、自分が現実に取れる行動を考える。25

問題6（技術理解・失敗分析）

議論用の仮想例：日本語に対応するTTSで、声質は参照音声に似たが、固有名詞のアクセントが不安定で、「生成AI」の一部が脱落して聞こえた。内部処理や実験ログはまだ調べていない。この観察から最も適切に言えるのはどれか？

A. 声質が似ているので、内容と読みも正確である
B. 話者類似性と読み・内容の正確さは別の評価軸であり、前処理、読み、韻律、生成過程などを切り分けて調べる必要がある
C. 原因は必ず、辞書が「エー」を削除したことである
D. Zero-shot TTSは日本語に原理的に対応できない

正解：B

解説
声が似ていることから、読み上げが正確だとは言えない。固有名詞の読み、英字の正規化、アクセントや韻律、音と文字の対応づけ、生成の不安定さなどが検証候補になる。同じ入力で繰り返す、読み仮名を与える、入力表記を変えるなどして、変わる条件と変わらない条件を確かめる。

  • A：話者らしさと内容の正確さを混同している
  • C：観察だけでは特定の内部原因は分からない。辞書を使う方式かどうかも確認が必要である
  • D：日本語への対応はモデル次第であり、Zero-shotという設定自体の原理的な禁止ではない

考えるべき視点：読みの崩れは本物の発話でも起こり得る。読み誤りの有無だけで、合成音声かどうかを判定してよいだろうか。

第13回のまとめ

  1. 生成AI音声技術では、波形生成、TTS、声質変換、話者への適応を区別する
  2. Zero-shot TTSは対象話者の追加学習なしで利用する設定であり、事前学習データが不要という意味ではない
  3. 音声Deepfakeには複数の生成方式があり、詐欺・政治的操作・権利への影響を具体的な事例から考える
  4. 検出技術とASVspoofは、偽造検出と話者照合のタスク・評価条件・指標を区別して読む
  5. バイアスの観察と原因の特定は別であり、データ・モデル・録音・評価条件を検証する
  6. 規制と指針は、対象、法的拘束力、例外、発効・適用開始日を確認する
  7. 倫理的責任として、用途、同意・利用根拠、性能の限界、懸念の共有を設計に組み込む

次回予告（第14回）

第14回はオンライン同期授業です。

  • 授業全体の振り返り（14回の学習内容マップ）
  • 期末プロジェクト・レポートの提出要件の最終確認と質疑
  • 最終発表セッション

発表について：口頭発表が難しい場合は事前録画や書面レポートでの代替が認められています。詳細は期末プロジェクト説明書を参照してください。成績評価は期末プロジェクト70%・小課題と演習30%です。

作成：小野原彩香 / 音声処理と認識（3年後期）

参考資料・出典

  1. Rendall, D., Rodman, P. S., & Emond, R. E. (1996). Vocal recognition of individuals and kin in free-ranging rhesus monkeys. 原論文 ↩

  2. van den Oord et al. (2016). WaveNet: A Generative Model for Raw Audio. 原論文 ↩↩

  3. Shen et al. (2018). Natural TTS Synthesis by Conditioning WaveNet on Mel Spectrogram Predictions. 原論文（2017年プレプリント） ↩

  4. Ren et al. (2019). FastSpeech: Fast, Robust and Controllable Text to Speech. 原論文 ↩

  5. Kim et al. (2021). Conditional Variational Autoencoder with Adversarial Learning for End-to-End Text-to-Speech. 原論文 ↩↩↩

  6. Tan et al. (2022). NaturalSpeech: End-to-End Text to Speech Synthesis with Human-Level Quality. 原論文 ↩

  7. Wang et al. (2023). Neural Codec Language Models are Zero-Shot Text to Speech Synthesizers. VALL-E原論文 ↩↩↩↩

  8. Le et al. (2023). Voicebox: Text-Guided Multilingual Universal Speech Generation at Scale. 原論文 ↩↩

  9. Donahue et al. Adversarial Audio Synthesis（WaveGAN）原論文；Kumar et al. (2019). MelGAN 原論文；Kong et al. (2020). HiFi-GAN: Generative Adversarial Networks for Efficient and High Fidelity Speech Synthesis. 原論文 ↩

  10. Kong et al. DiffWave. 原論文；Liu et al. (2023). AudioLDM. 原論文 ↩

  11. 米FTC（2023）家族の緊急事態を装ったAI音声詐欺への注意喚起；連絡先を独立に確認する対策 ↩↩↩

  12. 米FCC（2024年2月）DA 24-102。2024年1月21日のニューハンプシャー州向け自動電話を説明している。 ↩↩

  13. 香港政府（2024年6月26日）LCQ9: Combating frauds involving deepfake。1月に受理した約2億香港ドルの事件についての政府答弁。 ↩

  14. Chesney, B., & Citron, D. (2019). Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security. California Law Review. 原論文 ↩↩

  15. Tak et al. (2021). End-to-end anti-spoofing with RawNet2. 原論文 ↩

  16. Jung et al. (2022). AASIST: Audio Anti-Spoofing using Integrated Spectro-Temporal Graph Attention Networks. 原論文 ↩

  17. Tak et al. (2022). Automatic speaker verification spoofing and deepfake detection using wav2vec 2.0 and data augmentation. 原論文 ↩

  18. ASVspoof公式サイト・2021年版のタスクと公開資料 ↩

  19. ASVspoof consortium (2024). ASVspoof 5 Evaluation Plan・公式の評価実装 ↩↩↩↩

  20. Koenecke et al. (2020). Racial disparities in automated speech recognition. 著者公開の原論文 ↩↩

  21. Mozilla. Common Voiceについて。データごとの条件・収集方法も確認する。 ↩↩

  22. Radford et al. (2023). Robust Speech Recognition via Large-Scale Weak Supervision. 原論文（2022年プレプリント） ↩

  23. Google Research (2025). Project Euphonia: Advancing Inclusive Speech Recognition through Expanded Data Collection and Evaluation ↩↩

  24. ASHA. Stuttering, Cluttering, and Fluency・Cleft Lip and Palate。発話・共鳴の特徴と、その個人差の説明。 ↩

  25. IEEE (2019). Ethically Aligned Design, First Edition. 8つの一般原則 ↩↩