RICOH

オンプレLLMスターターキット

高セキュリティなオンプレLLMの導入から運用までご支援
「高セキュリティ・低コスト・高性能・活用の自由度」を兼ね備えた
ローカルLLMパッケージ

サービスがよく分かる

まずは相談してみる

お問い合わせ

RICOH オンプレLLMスターターキットとは？

RICOH オンプレLLMスターターキット（以下、オンプレLLMスターターキット）は「高セキュリティ」、「低コスト」、「高性能」、「活用の自由度」
すべてを兼ね備えたお客様の社内環境で動くローカルLLMパッケージです。本パッケージはGPUサーバ1台で稼働するお手軽な設備としてご導入いただけます。
機微な情報を扱う業務においても完全ローカルの遮断された環境で利用する事ができます。
リコーがお客様の高セキュリティなLLM活用をご支援します。

LLMは、Large Language Models（大規模言語モデル）の略称です。

オンプレLLMスターターキットの構成

①RICOH製LLM

リコーが開発したLLMでオンプレミスを含むローカル環境で稼働できる
GPUサーバ1台で稼働し低コストでの導入・運用が可能
リコーの高い技術力でGPT4相当の高い性能を持つ

②ノーコードAIツールDify

UIとして生成AIを活用したアプリケーションを簡単に作成できるDifyを搭載
誰でも簡単に業務で使える生成AIアプリをノーコードで作成可能

③GPUサーバ

お客様のサーバルームでも動くGPUサーバをご提供
LLM、Difyをリコーがサーバに構築して直ぐに生成AIを利用開始できる状態でご提供

オンプレLLM
スターターキット提供内容

リコーはお客様でプライベートLLMを運用開始する際に必要なハードウェア設備～AI機能を提供し
プライベートLLMの環境構築～導入支援、運用支援まで一元的にご支援しております。

環境構築
- GPUサーバにリコー製品LLM、Dify、その他LLM動作に必要な各種ソフトウェアをキッティングします。
- 動作検証を実施し、お客様先へ発送いたします。
導入支援
- お客様現地でサーバの設定を実施します。
  導入時にDifyに関する教育を実施します。
  ※別途有償
運用支援
- 定期的に最新のLLMモデルの追加情報を提供いたします。
- 本構成に関するお問い合わせサポートを提供いたします。

こんなお悩み
ありませんか？

生成AI活用の課題

01

コスト
- AI活用を進める程、従量課金コストがあがってしまう
- 社内のAI活用が増えた際のコストが予測しにくい
02

セキュリティ
- クラウド上に社内データを連携するのは心配
- 機密情報を扱うコア業務で生成AIを利用できない
03

人材不足
- 社会的な生産性向上への期待、人手不足
- AIに精通した人材がいない

RICOH オンプレLLMスターターキットで解決

オンプレLLMスターターキットの導入のメリット

01コスト
- 社内インフラとしてプライベートで使い放題の環境提供が可能に
コスト面も安心

社内のインフラで完結できるから、コスト面におけるハードルが低い環境が実現！
02セキュリティ
- セキュリティの高いオンプレミス環境だから、これまで生成AIを利用できなかった機密情報を含む業務でも利用可能
リコーが全面サポート

導入までの工程をすべてリコーがサポートできるから、導入後も簡単に自社業務に合わせたAIの使い方を試すことができます！
03人材不足
- 生成AIが人的リソース不足解消の救世主に
- ノーコードAIツールを利用すれば、社員が自発的にAI活用を推し進める環境の準備が可能
社員が自由にAIを試せる

社員が自由にAIによる業務効率化を試せる環境を提供する事ができます！

サービスがよく分かる

資料のダウンロードはこちら

特長

オンプレLLMスターターキットには
4つの特長があります。

1

高セキュリティ

オンプレミスの完全プライベート環境で稼働し、生成AIを安心安全にご利用可能
2

低コスト

自社インフラとして利用でき、従量課金でなく生成AIを使い放題の環境を提供
3

高性能

GPT4相当の高い日本語性能を持つリコー製品LLMを業務で自由にご利用可能
4

活用の自由度

ノーコードAIアプリ開発ツールをUIとし、非技術者でも簡単にAIのご利用が可能

1高セキュリティ

オンプレLLMは社内のGPUサーバ上で実行されます。
これにより、データ処理をインターネットを介さずに行うことが可能で、LLMを利用する上でのデータのセキュリティ基準が向上します。
特に、機密情報等を扱う業務では、オンプレ環境で動作する点が大きなメリットとなります。

2低コスト

企業の生成AI利用環境には「クラウド型LLM」と「オンプレLLM」の二つのパターンがあります。
クラウドで稼働するLLMは、一般的に利用量（トークン数）に応じた従量課金制を採用していることが多く、利用量に応じ高額な料金が発生する可能性や利用料金の予測が難しい事を課題とするお客様が多いです。一方、オンプレLLMは初期投資後でコストが発生するものの、利用頻度が高いほど、オンプレLLMのコスト効率は向上します。

3高性能 RICOH製 LLMについて

700億（70B)パラメータをもつ、リコーが開発した大規模言語モデル（LLM）
リコーの持つモデルマージ技術（汎用的なLLMと特定領域用にチューニングされたLLMを組み合せる技術）を駆使した高性能なLLM
複雑な指示・タスクを含む代表的な日本語のベンチマーク「ELYZA-tasks-100」においてGPT-4と同等レベルの高いスコア

超高性能LLM（GPT・Gemini™等）

高性能LLM（RICOH）

2024年リコー調べ。

4活用の自由度

Difyとは

DifyはLangGenius社（U.S.）が提供するAIワークフロー・アプリ開発プラットフォームです。各種Model（LLM, SLM, VLMなど）、インターフェース（Document Intelligence）、外部APIなどを接続しワークフローを構築することで、ユーザーが独自の業務アプリを開発することが可能になります。生成AI・IF・APIを連結させたワークフローによる複合タスクの処理により、高度なアウトプット生成ができるようになります。

APIは、Application Programming Interface の略称です。

Difyでできること

①APIアプリの開発

ノーコードであらゆるユーザーが自分に合ったAIアプリを作成・開発することができます。

②ノーコードでワークフロー作成

複数のタスクをワークフロー状に構築して、普段の業務の流れをテンプレート化できます。