Loading...

LLMサービス開発なら
ChatStream!

ChatStream はオープンソースLLMを活用したチャットボット・推論環境構築のワンストップソリューションです。 オープンソースLLMなら、AIチャットの知的会話レベルを維持しつつ、(データを外部送信しないため)秘匿性の高い情報、社外秘のデータなども安全安心に取り扱うことが可能です。

・社外秘情報の自然言語検索システム
・コールセンターサポートシステム
・AIキャラクターによる対話型チャット

など多彩なLLMサービスを簡単構築!

資料をダウンロード お問い合わせ
About Service

全てのLLMサービス開発に応える ワンストップソリューション

日進月歩で進化するLLMテクノロジーやLLM活用ビジネスの最新事情をキャッチアップすることは容易ではありません。 最先端技術や海外事情に精通した当社なら企画から市場導入までワンストップでのご支援が可能です。

38,024,765

以上

ChatStream®がこれまでに生成したトークン数

お問い合わせはコチラ
Our Proposal

サービスの特長

コンサルティング

LLMサービス商用化において戦略立案から構築・市場導入まで専任コンサルタント(MBA)及びAI専門家がご支援致します。 KPIの設定、PoCの計画と実行、推論環境相談などあらゆるニーズにお応えします。

LLMサービス開発支援

高度な専門性を保有する当社AI/LLMエンジニアチームによる開発支援をご提供しております。 推論環境プロビジョニング、商用開発、負荷テスト、当社製品ChatStream®導入などお気軽にご相談ください。

LLM人財育成

LLMの市場調査、サービス企画、戦略立案、LLM関連テクノロジーと先端の開発アプローチ、 関連法規やグローバル展開における法的リスクなどLLMサービスに係る人財育成サービスを提供しています。

About ChatStream®

LLMチャットボットはChatStream®で簡単構築!

【巨大モデル対応】高速推論サービング

【開発ほぼ不要】ノーコード/ローコード

【規模拡大も柔軟】多ユーザー高負荷対応

【顧客に支持される】多機能チャットUI

独自開発の推論基盤と使いやすいUIで、いますぐ商用LLMサービスを構築

ChatStream🄬はカスタマイズ可能なフロントエンドUIと推論基盤がセットで提供しているため、簡単なカスタマイズだけで本番商用LLMサービスを構築可能です。 (要件にあわせた追加機能開発も可能です)PagedAttentionをはじめとする高速推論、省メモリ機能、スケールアウト機能、万全のセキュリティ機能も搭載。 大手クラウド環境からオンプレまであらゆる環境で安定動作いたします。

お問い合わせはコチラ
体験デモ

ChatStream®でLLMチャット体験

オープンソースのLLMを活用し、ほぼノーコードまたはローコードで開発可能なChatStream®の利便性を、ぜひご自身の目でお確かめください。

体験デモ
主な仕様

ChatStream®

ChatStream🄬はカスタマイズ可能なフロントエンドUIと推論基盤がセットになった、開発をパワフルに支えるツールです。

ChatStream®について

ChatStream🄬はカスタマイズ可能なフロントエンドUIと推論基盤がセットになった、開発をパワフルに支えるツールです。
Python:Python 3.11,Pytorch 2.~ 環境で動作
対応GPU:NVIDIA CUDA 11.7~搭載GPU
チャットUI:マルチタスク対応WebチャットUIを標準搭載。Web,スマホ対応。各種カスタム可。レスポンスの再生成やリクエストの再編集など会話ツリーの柔軟な変更オペレーションにも対応。
マルチGPU負荷分散:対応   →データ並列:データ並列による分散LLMサービング
マルチノード負荷分散:マルチノードによるクラスタリング負荷分散に対応   →モデル並列:テンソル並列(PagedAttention,Megatron LLM)、クラスタリングによる大型モデルのサービング   →大型モデルのスケールアウト:モデル並列したクラスターセット(ChatStream🄬 Pool)によるさらなるスケールアウト
セキュリティ:ASNフィルタリング、IPフィルタリング、TLS3.0、CSRFプロテクション、他
応用機能:マルチタスク、OAuthユーザー認証、他
実行環境:Qualiteg GPUクラウド(当社GPU環境)、AWS、Azure、GCP、オンプレミス(当社にて別途 GPU調達、HPCクラスター構築サービス有)、LLM API接
 
ChatStream®をご体験頂きました

お客様の声