日本を拠点とする IT ソリューション企業 Citynow Asia Inc は、最新の生成 AI モデルと B2B のドメイン知識を活用した、社内コンバージョンAIを実装するための包括的なソリューションを提供しています。 当社の Conversional AI プラットフォームは、質問応答機能をサポートし、トレーニング/テストデータを社内に安全に保管しながら、クエリ情報からリアルタイムで日本語の関連コンテンツを生成できます。

1. 生成AIのビルド方法
Researched and
presented by

2. 目次
1. 総括
2. OpenAssistantについて
3. Haystack.deepset & Coatiについて
4. お問合せ先
Copyrighted by

3. 日本を拠点とする IT ソリューション企業 Citynow Asia Inc は、
最新の生成 AI モデルと B2B のドメイン知識を活用した、社内コ
ンバージョンAIを実装するための包括的なソリューションを提供
しています。
当社の Conversional AI プラットフォームは、質問応答機能をサ
ポートし、トレーニング/テストデータを社内に安全に保管しなが
ら、クエリ情報からリアルタイムで日本語の関連コンテンツを生
成できます。
総括
Copyrighted by

4. OpenAssistant について
Copyrighted by

5. このパイプラインには 4 つのコンポーネントが含まれています。
1. ユーザーインターフェイス: ユーザーがプロンプトを入力し、応答
を受け取ることによってシステムと対話する場所。
2. 標準化されたデータベース: 利用可能なデータと知識ベースのスト
レージ。データ形式は事前に統一しておく必要があります。
3. 内部検索エンジン: ユーザーからのプロンプトに関連するデータを
標準化されたデータベースから取得する。
4. コンバージョン AI モジュール: 内部検索エンジンから取得したデー
タを使用してユーザーのプロンプトに応答する。
OpenAssistant について
Copyrighted by

6. OpenAssistantを使用する場合の主な利点
・組み込みモデル:
社内にあり、サードパーティのシステムには保存されません。
・データベースのセキュリティ:
データはユーザーの環境に安全に保存される。
・ユーザーフレンドリー:
ユーザーは技術分野の知識がなくてもコンバージョンAIを使用可能。
・モデルの微調整:
データの検証と更新のためのプラットフォームが存在する。
OpenAssistant について
Copyrighted by

7. ColossalAI と Deepspeed アプローチに関しては、OpenAi (ChatGPT) と比較してハードウェア能力が不
足しているため、ハードウェアアクセラレータ/オプティマイザーを使用して、独自のDGXシステム
とOpenAiによって提供されるトレーニング ステップ、および ユーザーが提供するデータセットの能
力を最適に組み合わせることができます。
1. ハードウェア サポートの場合、候補ツールは (ColossalAi および DeepSpeed) です。
2. システム アーキテクチャでは、次の 2 つの主要コンポーネントでシステムを構築します。
+ 情報検索システム:
これにより、質問をデータベース内の最も近い情報ストアに照合する機能が可能になり、
チャットボットを再トレーニングすることなくデータベース (知識空間) を定期的に更新できる
ようになります。
+ チャットボット システム:
これにより、回答がより自然で人間らしく見えるようになります。
Haystack.deepset & Coati について
Copyrighted by

8. 情報検索システム
(1) ユーザーがシステムに質問を送信。
(2) ユーザーの質問をベクトルとして埋め込んだ
Python スクリプトとシステム内のすべてのド
キュメントを比較して、最適解を発見 (コサイ
ン スコアで評価)。
(3) システムは、ユーザーの質問に答えることが
できる最適なドキュメントと最適な段落を返
却。
(4) Python スクリプトは、すべての情報 (ユーザー
の質問、回答) をチャットボットに供給できる
形式に変換。
(5) チャットボットは上記のすべての情報を自然
な応答に変換してユーザーに応答。
概要
Haystack.deepset & Coati について
Copyrighted by

9. 情報検索システムは、ユーザーのクエリに基づいて関連ドキュメントを検索するのに役立つツール
です。このシステムでは、クライアントからのドキュメントを保存するために Vector Database が
使用されます。
各文書は、「文変換」と呼ばれるツールを使用して、ベクトルと呼ばれる一連の数値に変換されま
す。このツールは、「paraphrase-multilingual-mpnet-base-v2」と呼ばれる事前トレーニング済みモ
デルを使用して、テキストをベクトルに変換します。
このアプローチにより、このシステムを使用するチャットボットは GPT (一度に保存して使用でき
る情報の量が最大になる) のような知識不足の問題が発生しないことが保証されます。さらに、シ
ステムはチャットボット* を再トレーニングすることなく、新しいドキュメントをデータベースに
簡単に追加できます。
*より詳しい情報はこちらをご参照ください: https://huggingface.co/sentence-transformers/paraphrase-multilingual-
mpnet-base-v2
Haystack.deepset & Coati について
Copyrighted by

10. チャットボットと情報検索システムはどちらも、日本語データでトレーニングされていれば
、日本語データを操作できます。これは、チャットボットと情報検索システムが日本語のク
エリを理解して応答できることを意味します。
情報検索システムで使用される事前トレーニング済みモデルは日本語もサポートしているた
め、日本語データを処理するために再トレーニングする必要がない場合があります。ただし
、これを確認するにはさらなる実験が必要です。システムが他の言語をサポートする必要が
ある場合は、事前トレーニングされたモデルのドキュメントに記載されているサポート対象
言語のリストを参照することもできます。
より詳しい情報はこちらをご参照ください:
https://www.sbert.net/docs/pretrained_models.html#multi-lingual-models
Haystack.deepset & Coati について
Copyrighted by

11. Citynow Asia 株式会社
Website: https://citynow.jp/
Hotline: +81 3 4405 3731
Email: corp@citynow.jp
Facebook: https://www.facebook.com/citynow.asia
Linkedin: https://www.linkedin.com/company/citynow-asia/
Citynow Asia株式会社 | Bunkyo-ku Tokyo | Facebook
お問合せ先
Copyrighted by