Nishika DSの髙山です。今回も「実務で後一歩使えない」シリーズで、「実務で後一歩使えない」を解決するLLM・RAG ~PDFの表を崩さず理解する~の連載になります。実際にLLM・RAGを使ったシステムを構築した際に、何も工夫をしないと「画像を含むスライドを理解できない」「図形・テキストボックスを含むスライドを理解できない」という課題によく遭遇します。画像や図形・テキストボックスがある場合にどのような課題があるのか、その解決策を紹介します。 【実務での悩み】画像の内容やテキストボックスの位置関係を踏まえたドキュメントの解釈ができない!以下の画像は弊社議事録アプリのSec...

Nishika DSの髙山です。今回も「実務で後一歩使えない」シリーズで、「実務で後一歩使えない」を解決するLLM・RAG ~PDFの表を崩さず理解する~の連載になります。実際にLLM・RAGを使ったシステムを構築した際に「なかなか適切なドキュメントをひっかけてくれない」という悩みはつきものです。どのような場合にドキュメントの検索が難しいのか、課題とその解決策を紹介します。 【実務での悩み】個別のページ・シート・スライドに関する質問に関するドキュメントが検索できない生成AI周りのアプリケーション開発のよく使用されるライブラリLangchainで用意されているものを使用すると、P...

Nishika DSの髙山です。今回は前回の記事「実務で後一歩使えない」を解決するLLM・RAG ~PDFの表を崩さず理解する~の続編です。実際にLLM・RAGを使ったシステムを構築した際に「なかなか適切なドキュメントをひっかけてくれない」という悩みはつきものです。どのような場合にドキュメントの検索が難しいのか、課題とその解決策を紹介します。 【実務での悩み】固有名詞（商品コード、製品名など）に関する質問に関するドキュメントが検索できない例えば商品固有の名前やコードについて質問をして社内のナレッジに基づいて回答をさせたいというケースは実務でニーズがあると思います。日本の官公庁...

はじめにNishika代表の松田です。Nishikaでは、生成AIを扱った事業を2つ行っています。生成AIによる会議録特化要約機能を搭載したAI議事録ツールSecureMemoCloudの提供生成AIを活用した企業向けコンサルティング・開発生成AIを活用するユースケースとして、生成AIに社内ドキュメントを検索し回答させる、LLM・RAGを活用したエンタープライズサーチシステムの引き合いが非常に多くあります。これは弊社に限らない傾向と思われ、生成AIを実業務のユースケースとして使うときの最たる例だと思います。念の為おさらいしておくと、RAGはRetrieval Aug...

はじめにNishikaは「テクノロジーですべての人が誇りを持てる社会の実現」をビジョンに掲げ、「テクノロジーを、普段テクノロジーからは縁の遠い人にとっても当たり前の存在としていき、皆の仕事の付加価値・業務効率を向上させることに貢献したい」と考えています。その一環として、AI音声認識サービス「SecureMemo」「SecureMemoCloud」を開発しています。SecureMemoCloudは、他のAI音声認識サービスと一線を画した、高い精度の音声認識AI・要約AIが特徴です。本記事では、SecureMemoCloudのAI要約機能について紹介します。 SecureMemo...

はじめにNishikaでは、AI文字起こしサービスとして、SecureMemoおよびSecureMemoCloudを提供しています。これに加え、APIを通じたサービスの提供も積極的に行っています。その一環として、リアルタイム推論APIの性能検証のためにSageMaker runtimeのエンドポイントをAPI Gateway経由で接続できるようにしたところ、設定に結構ハマったのでメモがてら共有いたします。API Gatewayでは、SageMaker runtimeと直接接続することができるのですが、何か込み入ったことをやろうとすると途端に間にLambdaを挟もうと誘惑されます...

Nishika DSの髙山です。最近は弊社でRAG(Retrieval Augmented Generation:検索拡張生成)をはじめとするLLM関連の相談をいただくことが多く、LangChainでOpen AI APIを使用してStreamlitでサンプルアプリケーションをよく作成しております。LangChainでベクトルストアを作成する際にはデフォルトでChromaを使用し、LangChainの動作するサーバーにSQLiteのDBが作成されますが、検証用途ではなく商用サービスの場合でベクトルストアを構成する際には、アプリケーションサーバーではなく別途DBサーバーを立てRDBMSに...