SlideShare une entreprise Scribd logo
1  sur  51
Télécharger pour lire hors ligne
『未来館常設展示「アナグラのうた」にみるゲー
ミフィケーションの事例/情報科学とコンピュー
ターゲームが協力して描きだした未来の「シアワ
セ」インタラクティブセッション サウンド編


                   株式会社ブレインストーム
                       中村隆之

2012年 8月 19日 日曜日
「アナグラのうた」とは
           •       延床面積:150㎡

           •       レーザーセンサー:20基

           •       プロジェクター:24基

           •       スピーカー:11個+ウーファー1個

           •       日本科学未来館に2011年8月にオープンした

           •       空間情報科学に関する常設展示

           •       ボーカロイドが歌う

           •       サウンド制御にMax/MSPを利用



2012年 8月 19日 日曜日
「アナグラのうた」とは

              • 文化庁メディア芸術祭にて、優秀賞を頂き
                   ました。




2012年 8月 19日 日曜日
このプレゼンのハイライトは?


              •    プレイヤーの体験内容によって歌を自動生成(ボーカ
                   ロイドを使用)

              •    11.1chのスピーカーをリアルタイムにコントロール

              •    大型施設の展示のサウンドコントロールににMax/MSP
                   を利用

              •    ここから、サウンドの技術的な話になります。



2012年 8月 19日 日曜日
プレゼンター中村隆之 自己紹介

              • 1967年生まれ
              • 東京都出身
              • ビデオゲーム向けの音楽 効果音制作会社
                   経営。

              • 作曲、サウンドプログラムなどが職業
2012年 8月 19日 日曜日
略歴
               •   1990年 セガ入社
               •   1991年 「F1エキゾーストノート」
               •   1992年 「アウトランナーズ」
               •   1993年 「バーチャファイター」
               •   1994年 「バーチャファイター2」
               •   1996年 セガ退社、ドリームファクトリー入社
               •   1996年 「トバル2」
               •   1998年 「エアガイツ」
               •   1999年 独立、ブレインストーム設立
               •   2000年 「剣豪」
               •   2004年 「ルミネス」
               •   2005年 「メテオス」
               •   2006年 「NINETY-NINE NIGHTS」
               •   2007年 「ルミネス2」
               •   2009年 「スティッチDS オハナとリズムで大冒険」
               •   2011年 「アナグラのうた」、ゲームサウンド制作 多数
2012年 8月 19日 日曜日
2012年 8月 19日 日曜日
1990年当時のセガ

                   • アーケードゲームが盛ん
                   • メガドライブ発売直後
                   • サウンドクリエイターもプログラムを書く。
                   • 曲と効果音のデータはアセンブラのマクロで
                    書かれていた。



2012年 8月 19日 日曜日
当時、私のプログラム経験


             • 大学時代、ポケコンでBASIC自作プログラム
             • 秋葉原ヤマギワテクニカでパソコン販売員
             • セガに入社後サウンドプログラムを教わる
                   • Z80,68000アセンブラを習得
2012年 8月 19日 日曜日
当時の曲データ




2012年 8月 19日 日曜日
プログラムをかけるようになって,


           • アセンブラマクロで曲データを手入力しなくてはい
               けないことに不満を持った。(MML)


           • 当時のセガの開発基盤にはMIDI I/Fをつけられた。

           • ゲーム基板でStandard MIDI Fileがそのまま読めるプロ
               グラムを開発



2012年 8月 19日 日曜日
VirtuaFighter


                   Model1ゲーム基板


2012年 8月 19日 日曜日
アーケードゲームのサウンドプログラム
                   (1992年頃)

                   •   MIDIでゲームサウンドを制御できるようになり,

                   •   VirtuaFighterの様なメイン基板とサウンド基板が分離してい
                       る筐体は、MIDIでやり取りしていた。

                   •   テストプログラムには、MAX/OPCODEを利用した。

                       •   これが、私のMaxを使い始めたきっかけ。

                   •   当時、MaxをMIDIのテストツールとして利用した。


2012年 8月 19日 日曜日
とういう背景



2012年 8月 19日 日曜日
そんな私が「アナグラのうた」のサウンド
                   システムを作りました。

                   アナグラのサウンドシステムは、

                   Max/MSPによって動いています。




2012年 8月 19日 日曜日
「アナグラのうた」の
                   サウンドシステム


2012年 8月 19日 日曜日
まずはビデオをご覧くだ
                   さい。


2012年 8月 19日 日曜日
スピーカーの配置




2012年 8月 19日 日曜日
2012年 8月 19日 日曜日
Max/MSPとは?
              Max
              Max (マックス)は、サンフランシスコのソフトウェア企業Cycling '74が開発・保守している音楽とマルチメディア向
              けのグラフィカルな統合開発環境(ビジュアルプログラミング言語)である。作曲家やメディアアーティストらに20年
              以上使われ続けている。


              Max/MSP
              前バージョンまではDSPの追加機能を備えたMax/MSP(マックス・エムエスピー)という名で発売されており、それに
              追加モジュールとして映像を取り扱うJitter(ジッター)が別売りで販売されていた。

              ヴァージョン5からは全てのMaxにJitterが含まれ、MaxとMSPとJitterは一つのパッケージとして販売されるようになっ
              た。これにより名称は再びMaxに戻った。

              モジュール化
              Maxは非常にモジュール性が高く、ほとんどのルーチンは共有ライブラリの形で存在している。APIによってサードパー
              ティーが(external objectsと呼ばれる)新たなルーチンを開発可能である。結果として、多くのMaxユーザーが商用か
              否かに関わらず、拡張を行っている。拡張性とグラフィカルなユーザインタフェースにより、Maxはインタラクティブ
              な音楽パフォーマンスソフトウェア開発におけるリングワ・フランカともいうべき存在になっている。


              (Wikipediaより)



2012年 8月 19日 日曜日
Max/MSPを使い制御したこと その1
                   •   「通常サウンド」「アナグラの歌」「まつりの歌」
                       の3つのモードを一つのプログラムで実行。
                   •   体験者の動作に応じた効果音の再生
                   •   プロジェクターの現れるオブジェクト(動物)の効
                       果音制御
                   •   イキトイキでの、音声の録音とその音の曲への反映




2012年 8月 19日 日曜日
通常時のサウンド(歌が流れいない状態)


                   • 1000年後、人類のいない、コンピュータ
                    だけの世界、そのアンビエントを表現


                   • 開発開始直後の震災
                   • テストプログラム開発中だった。
                   • そして、Nagiの誕生
2012年 8月 19日 日曜日
Nagiの誕生
              • 震災直後の人を癒やしたいという衝動
              • 音のフィードバック&ディレイとサイン波
                   の融合というアイディア

              • 同化pのメンバーの後押し
              • 約一ヶ月で3000ダウンロード
2012年 8月 19日 日曜日
2012年 8月 19日 日曜日
コンテンツPC
                      通常状態
                    効果音の制御
                                                                      ME01
                    イキ・トイキ録音
                                                         効果音再生信号         録音開始・終了要求
                                                                                     イキ・トイキ録音した後にロスト
                                                                                     した場合について要検討
                                                                                     ※軌跡ID変わるので



                                          ME05                     ・効果音ファイル名            軌跡ID
                                                                   ・スピーカー座標              or
                                        表示制御音楽                                         QRコード
                                       データ受信・送信


                                                     サウンドPC
                                                                                           ME11
                               ・効果音ファイル名                                                  音声録音
                               ・スピーカー座標


                                                       ・効果音ファイル名
                   表示PC                                ・スピーカー座標
                                                                                            生成



                          効果音再生信号
                                                                                          イキ・トイキ収録
                                                                                          ファイル(.wav)
                                                                        ME10
                                                                      音響再生制御
                                                                       MAX/MSP              効果音
                                                                                     参照
                                                                                          ファイル(.wav)




                                                                               出力



                                                                               音




2012年 8月 19日 日曜日
Max/MSPを使い制御したこと その2
                   •   複数曲の連続再生と、「まつり」発生条件の制御
                   •   11個のSP、1個のウーハーの音量コントロール
                   •   エフェクト,ディレイのコントロール
                   •   映像PCへのタイミング信号の送信
                   •   イキトイキでの、音声の録音とその音の曲への反映




2012年 8月 19日 日曜日
コンテンツPC                                                            履歴PC
                     アナグラのうた                                                         プレイヤーデータ
                   歌の生成と映像の制御                                       ME01             (軌跡ID)                        過去体験
                                                                                     (QRコード)                        データ
                                                                                     (軌跡データ)
                                                             再生QUE送信                 (全員分のデータ)
                                                                                                         参照


                                                          歌終了信号                    ME02
                                                                                 歌詞テキスト生成


                                                  ME05                                         歌詞データ
                                                                                               (軌跡ID)
                                                表示制御音楽                                         (物語番号)
                                               データ受信・送信                                        (体験パターン)
                                                                                               (曲パターン)
                                                                         軌跡ID                  (.vsq)
                                                                  軌跡ID

                                                         サウンドPC
                               パーティクル                               ME08                    軌跡ID生成
                               制御信号
                                                                    wav生成
                                                                                                        生成      可変ボーカル
                                        歌詞番号                                                   .vsq生成           ファイル(.vsq)
                                                                                                          参照
                   表示PC                                                  生成完了信号送信           ME09 歌合成
                                          歌詞テキスト     歌詞番号
                                                                                            .vsqから.wav
                                                                                               を生成

                                                                                       生成
                             データ受け取り                                                                      生成
                              データ解析                                                  軌跡ID
                                                 パーティクル                               (.txt)                  可変ボーカル
                   パーティクル                        制御信号                                              参照         ファイル(.wav)
                   アニメーション
                                                                                参照                            既存ボーカル
                                                                ME10                               参照         ファイル(.wav)
                                                              音響再生制御
                                                               MAX/MSP                             参照            伴奏
                     歌詞表示      ダンス表示                                                                          ファイル(.wav)

                                                                   出力                               参照        イキ・トイキ収録
                                                                                                              ファイル(.wav)

                                                                    音




2012年 8月 19日 日曜日
コンテンツPC
                      まつり状態
                   歌の再生と映像の制御
                                                                              ME01
                                                                        状態判定
                                                                        (手をつないだか)




                                                  ME05                   祭り開始信号
                                                表示制御音楽
                                               データ受信・送信


                                                          サウンドPC
                                               歌詞番号

                             歌終了信号    パーティクル
                                      制御信号

                   表示PC                                               歌終了信号               祭り待機状態信号

                                                               歌詞番号
                                                      パーティクル                         状態判定
                                                      制御信号                           (QUEが何人
                               データ受け取り                                               たまっているか)
                                データ解析
                                                                                 ME10
                   パーティクル                                                      音響再生制御
                   アニメーション
                                                                                MAX/MSP                 祭り曲
                                                                                                 参照
                                                                                                      ファイル(.wav)


                     歌詞表示            ダンス表示
                                                                                      出力



                                                                                      音




2012年 8月 19日 日曜日
歌詞と歌の自動生成



2012年 8月 19日 日曜日
要望


   • 歌にYAMAHA VOCALOID VY-1を使う。
   • 体験者の情報をリアルタイムに歌にして欲しい。
   • 複数パターンの曲を用意して欲しい。(10パターン)
   •     さらにダンスミュージックであって欲しい。

2012年 8月 19日 日曜日
体験者の情報をリアルタイムに歌にしてほしい

                        課題:歌詞の自動生成
           •   アナグラでの体験を元に歌詞を自動的につくる
               •   名前
               •   体験した装置
               •   録音した音声
               •   アナグラの物語


           •   これらの情報が反映した歌詞をつくる。
           •   どうやって?

2012年 8月 19日 日曜日
歌詞のテンプレートをつくる

       パーツの組み合わせで1曲分の歌詞にする

           •   体験者の名前を頭2文字だけ抜き出し歌詞に入れる。
               •   名前の文字数が固定数である必要があった。
           •   体験者の行動から歌詞パーツを組み合わせ、体験内容に合った歌詞をリ
               アルタイムで生成。


           •   さらに!

           • すべての曲のメロディの音符数をそろえる。
           •   それにより、全曲で歌詞を共通化できる。



2012年 8月 19日 日曜日
歌詞パーツパターン表




2012年 8月 19日 日曜日
歌の生成は、専用プログラム
               歌詞の自動組み合わせでTEXTを生成


                   VSQ(VOCALOID)用のファイル変換


                   VSQファイルをWAVファイル変換

                   というプロセスを経て,ボーカルのWAVフ
                   ァイルを用意する。
2012年 8月 19日 日曜日
実際に聞いて見よう


                   • 同一歌詞、別メロディの10曲


2012年 8月 19日 日曜日
「まっていたんだ まおちゃんを」

              10パターンの曲,歌の冒頭部分を聞き比べ


                   パターン1    パターン2   パターン3

                   パターン4    パターン5   パターン6

                   パターン7    パターン8   パターン9

                   パターン10

2012年 8月 19日 日曜日
曲の再生の問題点


              • 伴奏WAVデータと歌WAVデータの同期再生
              • さらに10パターンの違う曲
              • ボーカロイドの歌へのエフェクト処理(デ
                   ィレイなど曲毎の対応)


2012年 8月 19日 日曜日
歌曲の構造
      歌のwaveファイルを準備    歌A    歌B         歌C




      再生順を記述したシーケンスTEXTを作る


       シーケンスファイルに沿って再生



          伴奏Intro     伴奏A         伴奏B        伴奏C
                      歌A          歌B         歌C

      再生のタイミングを細かくコントロールすることによって、同期に失敗しない

2012年 8月 19日 日曜日
テンポ



                               伴奏用TEXTファイル名

                                体験者の声の録音ファイル名




               再生ファイル名
                         小節数




     再生終了記号
号2012年 8月 19日 日曜日
なぜリアルタイム再生しないのか?


              • VSTiなどを利用すれば、Waveファイルの
                   作成はいらないのでは?




              • マシンが安定して同期することを最優先

2012年 8月 19日 日曜日
歌毎のスピーカーとディレイ制御


              • 12のスピーカーのボリューム制御
              • 12のスピーカーのディレイ制御
              • シーケンスファイルにより曲毎に,曲のテンポ
                   に合わせ,ディレイタイム、設定を変更出来
                   る。



2012年 8月 19日 日曜日
曲の制御と同様にボリューム、ディレイも
                   テキストファイルにシーケンス情報として
                   記述しました。




2012年 8月 19日 日曜日
テンポに対する倍率(ディレイ)




2012年 8月 19日 日曜日
映像制御

              • 映像表示は,全て映像PCによるもの
              • Maxからはタイミングデータの送信
              • 歌詞の表示タイミング
              • パーティクルサイズのコントロール

2012年 8月 19日 日曜日
テンポに対する倍率(ディレイ)


                             パーティクルのグループ



                             パーティクルの種類




               Lineに入れる値




2012年 8月 19日 日曜日
映像への制御も同様にシーケンスファイル
                   で。




2012年 8月 19日 日曜日
Max/MSPを利用するメリット




2012年 8月 19日 日曜日
• 開発期間に関して
                   • 3月から8月までの6ヶ月間の内、実質の
                    開発期間2ヶ月間程度


                   • 11曲の制作と効果音、そしてMax/MSPの
                    プログラムをほぼ一人で。




2012年 8月 19日 日曜日
• Max/MSPに用意されているモジュール
                   • タイミング制御が容易、テンポの設定の
                   みで小節数、拍数で制御


                   • オーディオ信号の同時処理のプログラム
                   が書ける。




2012年 8月 19日 日曜日
時間があれば実演
                   ライブ・プログラミング




2012年 8月 19日 日曜日
Q&A



2012年 8月 19日 日曜日

Contenu connexe

En vedette

【企画書】チャットワーク:社内検討用資料
【企画書】チャットワーク:社内検討用資料【企画書】チャットワーク:社内検討用資料
【企画書】チャットワーク:社内検討用資料Find Job Startup
 
P2 P 奨学金プロジェクト Ver3 5
P2 P 奨学金プロジェクト Ver3 5P2 P 奨学金プロジェクト Ver3 5
P2 P 奨学金プロジェクト Ver3 5Daisuke Miyoshi
 
T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)
T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)
T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)Keita Takizawa
 
【企画書】ReceReco:新規事業討議用社内資料
【企画書】ReceReco:新規事業討議用社内資料【企画書】ReceReco:新規事業討議用社内資料
【企画書】ReceReco:新規事業討議用社内資料Find Job Startup
 
【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料
【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料
【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料Find Job Startup
 
【企画書】omiai:IVS_LAUNCH PAD用資料
【企画書】omiai:IVS_LAUNCH PAD用資料【企画書】omiai:IVS_LAUNCH PAD用資料
【企画書】omiai:IVS_LAUNCH PAD用資料Find Job Startup
 
【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料
【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料
【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料Find Job Startup
 
PIXTA_シードラウンド用事業プラン説明資料
PIXTA_シードラウンド用事業プラン説明資料PIXTA_シードラウンド用事業プラン説明資料
PIXTA_シードラウンド用事業プラン説明資料Find Job Startup
 
Cyta.jp_サービスEC説明資料
Cyta.jp_サービスEC説明資料Cyta.jp_サービスEC説明資料
Cyta.jp_サービスEC説明資料Find Job Startup
 
創業時の「nanapiのナマ企画書」
創業時の「nanapiのナマ企画書」創業時の「nanapiのナマ企画書」
創業時の「nanapiのナマ企画書」Find Job Startup
 
ストリートアカデミー_ローンチ前企画書
ストリートアカデミー_ローンチ前企画書ストリートアカデミー_ローンチ前企画書
ストリートアカデミー_ローンチ前企画書Find Job Startup
 
メルカリ_サービス説明資料
メルカリ_サービス説明資料メルカリ_サービス説明資料
メルカリ_サービス説明資料Find Job Startup
 
BASE_プレゼン用サービス説明資料
BASE_プレゼン用サービス説明資料BASE_プレゼン用サービス説明資料
BASE_プレゼン用サービス説明資料Find Job Startup
 

En vedette (13)

【企画書】チャットワーク:社内検討用資料
【企画書】チャットワーク:社内検討用資料【企画書】チャットワーク:社内検討用資料
【企画書】チャットワーク:社内検討用資料
 
P2 P 奨学金プロジェクト Ver3 5
P2 P 奨学金プロジェクト Ver3 5P2 P 奨学金プロジェクト Ver3 5
P2 P 奨学金プロジェクト Ver3 5
 
T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)
T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)
T TIME 滞在時間割キャンペーン(第4回販促会議企画コンペティション)
 
【企画書】ReceReco:新規事業討議用社内資料
【企画書】ReceReco:新規事業討議用社内資料【企画書】ReceReco:新規事業討議用社内資料
【企画書】ReceReco:新規事業討議用社内資料
 
【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料
【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料
【企画書】UIscope:MOVIDA JAPAN_Demo Day用資料
 
【企画書】omiai:IVS_LAUNCH PAD用資料
【企画書】omiai:IVS_LAUNCH PAD用資料【企画書】omiai:IVS_LAUNCH PAD用資料
【企画書】omiai:IVS_LAUNCH PAD用資料
 
【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料
【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料
【企画書】gamba!(ガンバ):サムライインキュベート様向け_企画プレゼン資料
 
PIXTA_シードラウンド用事業プラン説明資料
PIXTA_シードラウンド用事業プラン説明資料PIXTA_シードラウンド用事業プラン説明資料
PIXTA_シードラウンド用事業プラン説明資料
 
Cyta.jp_サービスEC説明資料
Cyta.jp_サービスEC説明資料Cyta.jp_サービスEC説明資料
Cyta.jp_サービスEC説明資料
 
創業時の「nanapiのナマ企画書」
創業時の「nanapiのナマ企画書」創業時の「nanapiのナマ企画書」
創業時の「nanapiのナマ企画書」
 
ストリートアカデミー_ローンチ前企画書
ストリートアカデミー_ローンチ前企画書ストリートアカデミー_ローンチ前企画書
ストリートアカデミー_ローンチ前企画書
 
メルカリ_サービス説明資料
メルカリ_サービス説明資料メルカリ_サービス説明資料
メルカリ_サービス説明資料
 
BASE_プレゼン用サービス説明資料
BASE_プレゼン用サービス説明資料BASE_プレゼン用サービス説明資料
BASE_プレゼン用サービス説明資料
 

Similaire à アナグラプレゼン資料 Cedec

「Graph Arpeggiator3とMaxの関係」Igda sig audio#2
「Graph Arpeggiator3とMaxの関係」Igda sig audio#2「Graph Arpeggiator3とMaxの関係」Igda sig audio#2
「Graph Arpeggiator3とMaxの関係」Igda sig audio#2Takayuki Nakamura
 
SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告
SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告
SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告IGDA Japan SIG-Audio
 
SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」
SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」
SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」IGDA Japan SIG-Audio
 
SIG-Audio#11 アンケート集計結果
SIG-Audio#11 アンケート集計結果SIG-Audio#11 アンケート集計結果
SIG-Audio#11 アンケート集計結果IGDA Japan SIG-Audio
 
【Unite Tokyo 2018】Audio機能の基礎と実装テクニック
【Unite Tokyo 2018】Audio機能の基礎と実装テクニック【Unite Tokyo 2018】Audio機能の基礎と実装テクニック
【Unite Tokyo 2018】Audio機能の基礎と実装テクニックUnityTechnologiesJapan002
 
CEDEC2012 今すぐ導入できるボイスファイルマネージメント
CEDEC2012 今すぐ導入できるボイスファイルマネージメントCEDEC2012 今すぐ導入できるボイスファイルマネージメント
CEDEC2012 今すぐ導入できるボイスファイルマネージメントTakafumi Inamori
 
JUCEを利用したモバイル クロスプラットフォーム開発
JUCEを利用したモバイル クロスプラットフォーム開発JUCEを利用したモバイル クロスプラットフォーム開発
JUCEを利用したモバイル クロスプラットフォーム開発susan335
 
NIPS2017報告 SPEECH & AUDIO
NIPS2017報告 SPEECH & AUDIONIPS2017報告 SPEECH & AUDIO
NIPS2017報告 SPEECH & AUDIOKoichiro Mori
 

Similaire à アナグラプレゼン資料 Cedec (8)

「Graph Arpeggiator3とMaxの関係」Igda sig audio#2
「Graph Arpeggiator3とMaxの関係」Igda sig audio#2「Graph Arpeggiator3とMaxの関係」Igda sig audio#2
「Graph Arpeggiator3とMaxの関係」Igda sig audio#2
 
SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告
SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告
SIG-Audio#1 CEDEC2012 ラウドネス関連セッション報告
 
SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」
SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」
SIG-Audio#13 GDC2016オーディオ報告会「日本語翻訳されないサウンドデザイン技術を求めて」
 
SIG-Audio#11 アンケート集計結果
SIG-Audio#11 アンケート集計結果SIG-Audio#11 アンケート集計結果
SIG-Audio#11 アンケート集計結果
 
【Unite Tokyo 2018】Audio機能の基礎と実装テクニック
【Unite Tokyo 2018】Audio機能の基礎と実装テクニック【Unite Tokyo 2018】Audio機能の基礎と実装テクニック
【Unite Tokyo 2018】Audio機能の基礎と実装テクニック
 
CEDEC2012 今すぐ導入できるボイスファイルマネージメント
CEDEC2012 今すぐ導入できるボイスファイルマネージメントCEDEC2012 今すぐ導入できるボイスファイルマネージメント
CEDEC2012 今すぐ導入できるボイスファイルマネージメント
 
JUCEを利用したモバイル クロスプラットフォーム開発
JUCEを利用したモバイル クロスプラットフォーム開発JUCEを利用したモバイル クロスプラットフォーム開発
JUCEを利用したモバイル クロスプラットフォーム開発
 
NIPS2017報告 SPEECH & AUDIO
NIPS2017報告 SPEECH & AUDIONIPS2017報告 SPEECH & AUDIO
NIPS2017報告 SPEECH & AUDIO
 

アナグラプレゼン資料 Cedec

  • 2. 「アナグラのうた」とは • 延床面積:150㎡ • レーザーセンサー:20基 • プロジェクター:24基 • スピーカー:11個+ウーファー1個 • 日本科学未来館に2011年8月にオープンした • 空間情報科学に関する常設展示 • ボーカロイドが歌う • サウンド制御にMax/MSPを利用 2012年 8月 19日 日曜日
  • 3. 「アナグラのうた」とは • 文化庁メディア芸術祭にて、優秀賞を頂き ました。 2012年 8月 19日 日曜日
  • 4. このプレゼンのハイライトは? • プレイヤーの体験内容によって歌を自動生成(ボーカ ロイドを使用) • 11.1chのスピーカーをリアルタイムにコントロール • 大型施設の展示のサウンドコントロールににMax/MSP を利用 • ここから、サウンドの技術的な話になります。 2012年 8月 19日 日曜日
  • 5. プレゼンター中村隆之 自己紹介 • 1967年生まれ • 東京都出身 • ビデオゲーム向けの音楽 効果音制作会社 経営。 • 作曲、サウンドプログラムなどが職業 2012年 8月 19日 日曜日
  • 6. 略歴 • 1990年 セガ入社 • 1991年 「F1エキゾーストノート」 • 1992年 「アウトランナーズ」 • 1993年 「バーチャファイター」 • 1994年 「バーチャファイター2」 • 1996年 セガ退社、ドリームファクトリー入社 • 1996年 「トバル2」 • 1998年 「エアガイツ」 • 1999年 独立、ブレインストーム設立 • 2000年 「剣豪」 • 2004年 「ルミネス」 • 2005年 「メテオス」 • 2006年 「NINETY-NINE NIGHTS」 • 2007年 「ルミネス2」 • 2009年 「スティッチDS オハナとリズムで大冒険」 • 2011年 「アナグラのうた」、ゲームサウンド制作 多数 2012年 8月 19日 日曜日
  • 7. 2012年 8月 19日 日曜日
  • 8. 1990年当時のセガ • アーケードゲームが盛ん • メガドライブ発売直後 • サウンドクリエイターもプログラムを書く。 • 曲と効果音のデータはアセンブラのマクロで 書かれていた。 2012年 8月 19日 日曜日
  • 9. 当時、私のプログラム経験 • 大学時代、ポケコンでBASIC自作プログラム • 秋葉原ヤマギワテクニカでパソコン販売員 • セガに入社後サウンドプログラムを教わる • Z80,68000アセンブラを習得 2012年 8月 19日 日曜日
  • 11. プログラムをかけるようになって, • アセンブラマクロで曲データを手入力しなくてはい けないことに不満を持った。(MML) • 当時のセガの開発基盤にはMIDI I/Fをつけられた。 • ゲーム基板でStandard MIDI Fileがそのまま読めるプロ グラムを開発 2012年 8月 19日 日曜日
  • 12. VirtuaFighter Model1ゲーム基板 2012年 8月 19日 日曜日
  • 13. アーケードゲームのサウンドプログラム (1992年頃) • MIDIでゲームサウンドを制御できるようになり, • VirtuaFighterの様なメイン基板とサウンド基板が分離してい る筐体は、MIDIでやり取りしていた。 • テストプログラムには、MAX/OPCODEを利用した。 • これが、私のMaxを使い始めたきっかけ。 • 当時、MaxをMIDIのテストツールとして利用した。 2012年 8月 19日 日曜日
  • 15. そんな私が「アナグラのうた」のサウンド システムを作りました。 アナグラのサウンドシステムは、 Max/MSPによって動いています。 2012年 8月 19日 日曜日
  • 16. 「アナグラのうた」の サウンドシステム 2012年 8月 19日 日曜日
  • 17. まずはビデオをご覧くだ さい。 2012年 8月 19日 日曜日
  • 19. 2012年 8月 19日 日曜日
  • 20. Max/MSPとは? Max Max (マックス)は、サンフランシスコのソフトウェア企業Cycling '74が開発・保守している音楽とマルチメディア向 けのグラフィカルな統合開発環境(ビジュアルプログラミング言語)である。作曲家やメディアアーティストらに20年 以上使われ続けている。 Max/MSP 前バージョンまではDSPの追加機能を備えたMax/MSP(マックス・エムエスピー)という名で発売されており、それに 追加モジュールとして映像を取り扱うJitter(ジッター)が別売りで販売されていた。 ヴァージョン5からは全てのMaxにJitterが含まれ、MaxとMSPとJitterは一つのパッケージとして販売されるようになっ た。これにより名称は再びMaxに戻った。 モジュール化 Maxは非常にモジュール性が高く、ほとんどのルーチンは共有ライブラリの形で存在している。APIによってサードパー ティーが(external objectsと呼ばれる)新たなルーチンを開発可能である。結果として、多くのMaxユーザーが商用か 否かに関わらず、拡張を行っている。拡張性とグラフィカルなユーザインタフェースにより、Maxはインタラクティブ な音楽パフォーマンスソフトウェア開発におけるリングワ・フランカともいうべき存在になっている。 (Wikipediaより) 2012年 8月 19日 日曜日
  • 21. Max/MSPを使い制御したこと その1 • 「通常サウンド」「アナグラの歌」「まつりの歌」 の3つのモードを一つのプログラムで実行。 • 体験者の動作に応じた効果音の再生 • プロジェクターの現れるオブジェクト(動物)の効 果音制御 • イキトイキでの、音声の録音とその音の曲への反映 2012年 8月 19日 日曜日
  • 22. 通常時のサウンド(歌が流れいない状態) • 1000年後、人類のいない、コンピュータ だけの世界、そのアンビエントを表現 • 開発開始直後の震災 • テストプログラム開発中だった。 • そして、Nagiの誕生 2012年 8月 19日 日曜日
  • 23. Nagiの誕生 • 震災直後の人を癒やしたいという衝動 • 音のフィードバック&ディレイとサイン波 の融合というアイディア • 同化pのメンバーの後押し • 約一ヶ月で3000ダウンロード 2012年 8月 19日 日曜日
  • 24. 2012年 8月 19日 日曜日
  • 25. コンテンツPC 通常状態 効果音の制御 ME01 イキ・トイキ録音 効果音再生信号 録音開始・終了要求 イキ・トイキ録音した後にロスト した場合について要検討 ※軌跡ID変わるので ME05 ・効果音ファイル名 軌跡ID ・スピーカー座標 or 表示制御音楽 QRコード データ受信・送信 サウンドPC ME11 ・効果音ファイル名 音声録音 ・スピーカー座標 ・効果音ファイル名 表示PC ・スピーカー座標 生成 効果音再生信号 イキ・トイキ収録 ファイル(.wav) ME10 音響再生制御 MAX/MSP 効果音 参照 ファイル(.wav) 出力 音 2012年 8月 19日 日曜日
  • 26. Max/MSPを使い制御したこと その2 • 複数曲の連続再生と、「まつり」発生条件の制御 • 11個のSP、1個のウーハーの音量コントロール • エフェクト,ディレイのコントロール • 映像PCへのタイミング信号の送信 • イキトイキでの、音声の録音とその音の曲への反映 2012年 8月 19日 日曜日
  • 27. コンテンツPC 履歴PC アナグラのうた プレイヤーデータ 歌の生成と映像の制御 ME01 (軌跡ID) 過去体験 (QRコード) データ (軌跡データ) 再生QUE送信 (全員分のデータ) 参照 歌終了信号 ME02 歌詞テキスト生成 ME05 歌詞データ (軌跡ID) 表示制御音楽 (物語番号) データ受信・送信 (体験パターン) (曲パターン) 軌跡ID (.vsq) 軌跡ID サウンドPC パーティクル ME08 軌跡ID生成 制御信号 wav生成 生成 可変ボーカル 歌詞番号 .vsq生成 ファイル(.vsq) 参照 表示PC 生成完了信号送信 ME09 歌合成 歌詞テキスト 歌詞番号 .vsqから.wav を生成 生成 データ受け取り 生成 データ解析 軌跡ID パーティクル (.txt) 可変ボーカル パーティクル 制御信号 参照 ファイル(.wav) アニメーション 参照 既存ボーカル ME10 参照 ファイル(.wav) 音響再生制御 MAX/MSP 参照 伴奏 歌詞表示 ダンス表示 ファイル(.wav) 出力 参照 イキ・トイキ収録 ファイル(.wav) 音 2012年 8月 19日 日曜日
  • 28. コンテンツPC まつり状態 歌の再生と映像の制御 ME01 状態判定 (手をつないだか) ME05 祭り開始信号 表示制御音楽 データ受信・送信 サウンドPC 歌詞番号 歌終了信号 パーティクル 制御信号 表示PC 歌終了信号 祭り待機状態信号 歌詞番号 パーティクル 状態判定 制御信号 (QUEが何人 データ受け取り たまっているか) データ解析 ME10 パーティクル 音響再生制御 アニメーション MAX/MSP 祭り曲 参照 ファイル(.wav) 歌詞表示 ダンス表示 出力 音 2012年 8月 19日 日曜日
  • 30. 要望 • 歌にYAMAHA VOCALOID VY-1を使う。 • 体験者の情報をリアルタイムに歌にして欲しい。 • 複数パターンの曲を用意して欲しい。(10パターン) • さらにダンスミュージックであって欲しい。 2012年 8月 19日 日曜日
  • 31. 体験者の情報をリアルタイムに歌にしてほしい 課題:歌詞の自動生成 • アナグラでの体験を元に歌詞を自動的につくる • 名前 • 体験した装置 • 録音した音声 • アナグラの物語 • これらの情報が反映した歌詞をつくる。 • どうやって? 2012年 8月 19日 日曜日
  • 32. 歌詞のテンプレートをつくる パーツの組み合わせで1曲分の歌詞にする • 体験者の名前を頭2文字だけ抜き出し歌詞に入れる。 • 名前の文字数が固定数である必要があった。 • 体験者の行動から歌詞パーツを組み合わせ、体験内容に合った歌詞をリ アルタイムで生成。 • さらに! • すべての曲のメロディの音符数をそろえる。 • それにより、全曲で歌詞を共通化できる。 2012年 8月 19日 日曜日
  • 34. 歌の生成は、専用プログラム 歌詞の自動組み合わせでTEXTを生成 VSQ(VOCALOID)用のファイル変換 VSQファイルをWAVファイル変換 というプロセスを経て,ボーカルのWAVフ ァイルを用意する。 2012年 8月 19日 日曜日
  • 35. 実際に聞いて見よう • 同一歌詞、別メロディの10曲 2012年 8月 19日 日曜日
  • 36. 「まっていたんだ まおちゃんを」 10パターンの曲,歌の冒頭部分を聞き比べ パターン1 パターン2 パターン3 パターン4 パターン5 パターン6 パターン7 パターン8 パターン9 パターン10 2012年 8月 19日 日曜日
  • 37. 曲の再生の問題点 • 伴奏WAVデータと歌WAVデータの同期再生 • さらに10パターンの違う曲 • ボーカロイドの歌へのエフェクト処理(デ ィレイなど曲毎の対応) 2012年 8月 19日 日曜日
  • 38. 歌曲の構造 歌のwaveファイルを準備 歌A 歌B 歌C 再生順を記述したシーケンスTEXTを作る シーケンスファイルに沿って再生 伴奏Intro 伴奏A 伴奏B 伴奏C 歌A 歌B 歌C 再生のタイミングを細かくコントロールすることによって、同期に失敗しない 2012年 8月 19日 日曜日
  • 39. テンポ 伴奏用TEXTファイル名 体験者の声の録音ファイル名 再生ファイル名 小節数 再生終了記号 号2012年 8月 19日 日曜日
  • 40. なぜリアルタイム再生しないのか? • VSTiなどを利用すれば、Waveファイルの 作成はいらないのでは? • マシンが安定して同期することを最優先 2012年 8月 19日 日曜日
  • 41. 歌毎のスピーカーとディレイ制御 • 12のスピーカーのボリューム制御 • 12のスピーカーのディレイ制御 • シーケンスファイルにより曲毎に,曲のテンポ に合わせ,ディレイタイム、設定を変更出来 る。 2012年 8月 19日 日曜日
  • 42. 曲の制御と同様にボリューム、ディレイも テキストファイルにシーケンス情報として 記述しました。 2012年 8月 19日 日曜日
  • 44. 映像制御 • 映像表示は,全て映像PCによるもの • Maxからはタイミングデータの送信 • 歌詞の表示タイミング • パーティクルサイズのコントロール 2012年 8月 19日 日曜日
  • 45. テンポに対する倍率(ディレイ) パーティクルのグループ パーティクルの種類 Lineに入れる値 2012年 8月 19日 日曜日
  • 46. 映像への制御も同様にシーケンスファイル で。 2012年 8月 19日 日曜日
  • 48. • 開発期間に関して • 3月から8月までの6ヶ月間の内、実質の 開発期間2ヶ月間程度 • 11曲の制作と効果音、そしてMax/MSPの プログラムをほぼ一人で。 2012年 8月 19日 日曜日
  • 49. • Max/MSPに用意されているモジュール • タイミング制御が容易、テンポの設定の みで小節数、拍数で制御 • オーディオ信号の同時処理のプログラム が書ける。 2012年 8月 19日 日曜日
  • 50. 時間があれば実演 ライブ・プログラミング 2012年 8月 19日 日曜日