こんにちは。エンジニアの山下です。 LLM に対する機能追加のためのプロトコルとして Anthropic が定義した MCP が注目を集めています。MCP を使用することで個々のモデルに依存することなく LLM に対する追加機能の開発を行うことが可能になりました。 MCP の仕様は 2024 年 11 月 5 日に初版が公開されましたが、2025 年 3 月 26 日に最新版が公開され、いくつかの機能についての記述が追加されています。今回はその中から認証機能について取り上げたいと思います。 MCP に対して適切な権限制御を行いたい状況はそこそこあり、その筆頭がリソース参照系の機能です。例えばフ…

みなさんこんにちは。エンジニアの佐藤です。今回はテキスト埋め込み(text embedding)についてお話しさせてください。(あらかじめお断りしますと、割と基本的な話です。なお、機能寄りの話で、数学は出てきません。) 疑問のきっかけは「RAG案件失敗」の知らせ ある日のこと、他社某案件の失敗談が聞こえてきました。曰く、「PoCが失敗し、プロジェクトが打ち切りになった」と。恐ろしい話だと思って聞くと、RAG(Retrieval-Argumented Generation)が期待通りに動作しなかったようです。(詳しい話は省略します。) RAGは、ご存知の方も多いと思いますが、一般的にはチャットボ…

みなさんこんにちは。エンジニアの竹田です。 今日はIT企業であるフレクト内でのLLMの活用について紹介したいと思います。 フレクトの主な業務はシステム開発なので、もちろんシステム開発を効率化するための道具としてLLMを使っていますし、今後さらに加速していきます。 けれども、今回紹介するのはシステム開発でのLLMの活用ではなくて、それ以外の業務での活用です。 （システム開発のLLMでの活用についてもいずれお伝えしたいと思います） きっと、IT企業でもそうでない企業でも参考にしていただけるものがあると思いますので、ぜひご一読ください。

こんにちは。エンジニアの浅見です。 フレクトでは、社内のナレッジを蓄積・共有するために「Fラボ」というツールを運用しております。 本ブログ記事は、この春からAI部門に配属された入社3年目の私が、「15分でわかる！Salesforce で「生成AI」」として「Fラボ」に公開したものです。 本来「Fラボ」は社内のみに公開されているのですが、前回の記事（15分でわかる！Agentforce）とあわせて特別に、社外にも公開することとなりました。 なお、本内容は社内入門者向けの教育コンテンツとなっておりますので、その点予めご認識いただけますと幸いです。

こんにちは。エンジニアの大橋です。 簡単に自己紹介をさせていただくと、私は入社4年目のエンジニアとなります。 このたびAI部隊に配属となり、Agentforceの知見をまとめましたので、共有します。 フレクトでは、社内のナレッジを蓄積・共有するために「Fラボ」というツールを運用しています。近年は特にAI領域に力を入れており、FラボでもAIに関する知見や活用事例を数多く蓄積しています。今回は、その豊富なAIナレッジの中から「15分でわかる！Agentforce」という記事を特別に公開したいと思います。 なお、本内容は社内入門者向けの教育コンテンツであることをあらかじめご認識ください。

こんにちは，研究開発室の福井です．研究開発室においてオペレーションズ・リサーチ(OR)のビジネス活用について研究を行っております．今回は予知保全の PoC プロジェクトを高速化するために開発室メンバーの北村さん，東さんとともに開発を進めてきた boilerplate を紹介します． 本記事は以前の記事『Databricks を活用した機械学習プロジェクトの PoC フェーズの高速化に向けた取り組みの紹介』の続きとなります．

こんにちは．研究開発室の北村 蘭丸です．普段，研究開発室では Operations Research (OR) のビジネス活用について研究を進めています．その一環として，本記事では，Model Context Protocol (MCP) の仕組みを利用して Large Language Model (LLM) と OR の連携の仕方を模索するために，数理最適化を行うためのMCPサーバーを試作してみたのでご紹介いたします．簡単な問題であれば，会話のような自然なやり取りから数理最適化を行い結果を得るシステムの構築も可能なのではないかと考え，今回取り組んだことについてお話します．

こんにちは。エンジニアの山下です。 Salesforce の四半期決算で Agentforce の導入事例が 5000 件を超えたことが発表されるなど、Salesforce の LLM 活用の波を感じるニュースが増えてきましたね。というわけで、今回は Agentforce の中核機能の１つである Service Agent について書きたいと思います。 Service Agent のユースケースは色々と考えられそうですが、典型例となりそうなのが個人向けにカスタマイズされたアドバイザーです。ユーザを取り囲む文脈を読み取って適切なサポートをしてくれるデジタル秘書ないしはコンサルタントのようなイメー…

みなさんこんにちは。エンジニアの佐藤です。 前回「Microsoft AutoGen「りんご売買」エージェントの顛末」で、AutoGenを用いてAIエージェント同士の会話が展開でき、店員と買い物客の間の合意がプログラム的に検知できそうだ、というお話をしました。今回はAIエージェントに「内部助言者」を付ける手法を紹介させていただきたいと思います。 現実世界では身近な「内部助言者」をAIエージェントに持ち込む あなたが何かの当事者として誰かと交渉に臨む場合、交渉相手と話す前に、事前相談する人がきっといることでしょう。これらの「内部助言者」は、あなたと交渉相手の立場を両方勘案し、あなたに有利な展開を…

こんにちは。研究開発室のエンジニアの東です。 今回はDatabricks環境で、１つのノードやGPUにおさまらないような巨大なデータセットやモデルの学習を、Rayを用いてMulti-node/ Multi-gpuで行う方法について解説します。 想定される読者は以下のような方々です。 機械学習についての基礎的な知識がある方 Databricksについての基礎的な知識がある方 DatabricksでMulti-node/ Multi-gpu学習を行いたい方

みなさんこんにちは。エンジニアの佐藤です。 前回「LangGraphで最小限のAIエージェントを作る」というお話をしました。今回はこれを一歩進めて、AIエージェント同士の会話を試みたいと思います。 Microsoft AutoGenに辿り着くまで 前回はLangGraphを使いましたが、それは「著名なLangChainの姉妹品なら」という期待があったためです。実は、あのコードをクラスにして2つ展開すれば、エージェント同士の会話は成立します。しかし、「もっと簡単な方法はないのか？」という気持ちが募ってきました。筆者が最も苦痛に感じたのは、双方のやり取りのメッセージ履歴を維持し、それを元に条件分岐…

こんにちは．研究開発室の牧野と北村です．研究開発室においてOperations Research (OR)のビジネス活用について研究を行っております． さて，先日の2024年11月4日~7日にかけて第27回情報論的学習理論ワークショップ (IBIS2024)が大宮にて開催されました．そこで行われたポスターセッションにおいてフレクト研究開発室から1件のポスター発表をさせていただきました．そこで，本稿では我々の発表内容，IBISの様子などについてお伝えできればと思います.

みなさんこんにちは。エンジニアの佐藤です。 先月(2024年10月)の話ですが、Dreamforce'24でAgentforceが発表されました。これまであったEinstein Copilotが「質問すれば答えてくれる」「お願いすればやってくれる」存在だったのに対し、今度のAgentforceは「代わりに働いてくれる」というものです。キーノートで披露されたデモでは、商談日程を見込み顧客と決める、質問対応をこれまでより高度に自動処理する、オフィスの仲間のように各種作業をやってくれる、などの「AIエージェント」が登場します。マスコット達も未来的なロボットになり、何やらSFの世界に踏み込んだような感…

こんにちは。エンジニアの山下です。 Dreamforce 2024 で華々しく発表された Agentforce ですが、中でも一際力が入っていたのが Service Agent の発表です。これは LLM にエージェントとしてお客様の対応を行なってもらうサービスで、チャットボットなどの従来のサービスよりも自然かつ柔軟な対応が行える点が魅力です。 Service Agent は Salesforce の外部の Web ページからも利用できるように設計されており、任意の画面にチャット形式で埋め込むことが可能です。Salesforce に直結したフルマネージド LLM をそのまま Web ページに埋…

こんにちは。研究開発室の北村 蘭丸です。研究開発室では、Operations Research (OR) のビジネス活用について研究を進めています。本記事では、その一環として現在取り組んでいる機械学習による製造機器の予知保全についてご紹介いたします。

こんにちは。研究開発室の東です。 今回はDatabricksを使用する際の作業領域であるワークスペースを手動で構成する方法について解説します。 本稿では、ワークスペースを構築するために必要なクラウドサービスにはAWSを使用し、S3、IAMロール、VPCなどの必要なリソースの作成にはAWS CDKを使用します。 本稿では、以下の点を取り扱います。 Databricksワークスペースの手動作成 AWS CDK (Python)を使用したCloudformationスタックの作成 S3, IAM role, VPCの作成 想定される読者は、以下のような方々です。 Databricksの導入(prem…

こんにちは。エンジニアの山下です。 先日行われた Dreamforce 2024 の目玉として Agentforce が大きく取り上げられました。その一環として Einstein Copilot は Agent の一種として取り扱うという階層変更が行われ、またこれに伴い８月末から９月初頭にかけて一部の仕様が変更されています。 この仕様変更の中には Einstein Copilot の開発工程に大きく影響を与えるものが含まれており、その筆頭が Agent Topics の追加です。端的に述べると、これは既存の Copilot と Action の間に階層を一つ追加するような変更で、開発に対して設…

こんにちは，研究開発室の福井です．研究開発室においてオペレーションズ・リサーチ(OR)のビジネス活用について研究を行っております．今回は，機械学習プロジェクトを高速化するために現在研究開発室で推進している取り組みについてご紹介します．

こんにちは。エンジニアの山下です。今回は OCR について書こうと思います。 OCR は画像中の文字を文字データに変換するシステムの総称で、DX の前段階にあたるペーパーレスの推進などの文脈でしばしば見かけます。昨今の AI ブームの恩恵を受けて OCR の精度は非常に高くなっており、実際、以下のように粗悪な質の画像であってもそれなりの精度で機能します。 しかし、DX の前段階という文脈では、単に OCR の読み取り精度が高いだけでは十分とは言えません。というのは、多くの場合、OCR の出力は構造化されたデータではなく、読み取った文字列を列挙しただけのデータ片になりがちだからです。 以下に実際…

こんにちは。エンジニアの山下です。 今回は Einstein Copilot のユースケースの一例として、Einstein Copilot を使って商談案件のリスクの評価を行う方法について書きたいと思います。 商談案件の状況の追跡は Salesforce をはじめとする CRM プラットフォームが取り組む大きな課題の１つです。商談案件を管理する立場にある人、特に複数の案件を管理する立場にある人には、案件の状況を手早く確認し、かつ介入が必要かどうかを正確に判断できるような手段が欲しいという強いニーズがあります。 実はこのニーズには Eisntein Copilot がピタリと嵌まります。抽象的な…

こんにちは。エンジニアの山下です。 今回は Einstein Copilot と Data Cloud Vector Database を連携する方法について書こうと思います。 Einstein Copilot は Salesforce が提供する LLM によるアシスタントサービスで、チャットベースで LLM に指示を行うことで、自然言語によるレコード検索やメールの文面の下書きなどを行なうことができます。地味に手間のかかる作業を LLM に一任できるため、Salesforce を普段使いする人に重宝されそうなサービスです。 Einstein Copilot の微妙な点は、デフォルトで搭載され…

こんにちは。エンジニアの山下です。 今回は Salesforce Data Cloud と Amazon SageMaker の連携機能について書きたいと思います。 やること 今回は Data Cloud と SageMaker の連携機能を検証するわけですが、実はこの検証に SageMaker は使用しません。本記事のタイトルにも SageMaker のモデルを呼び出すとは一言も書いていなかったりします。 要するにこういうことです。今回は SageMaker のエンドポイントを装ったダミーのサービスを立ち上げて Data Cloud に接続します。そしてダミーのサービスから適当な結果を返して…

こんにちは. 研究開発室の牧野*1です. Operations Research (OR)のビジネス活用について研究を行なっています. 本稿ではORの文脈で現れる組合せ最適化問題 (Combinatorial Optimization, CO)の解法として強化学習(Reinforcement Learning, RL)を応用する研究分野(Neural Combinatorial Optimization, NCO)について紹介します. また, この分野の研究をまとめたライブラリであるRL4COを使用して簡単なデモを行います. 本稿の構成は次の通りです. *1:2022年度新卒入社. 学生時代は…

こんにちは。エンジニアの山下です。 前回の記事 で Einstein Discovery と Einstein Next Best Action の連携方法の一例として、Einstein Discovery の推論結果を元に Einstein Next Best Action のレコメンデーションの出し分けを行う方法を紹介しました。 今回はもう少し進んだ例として、Einstein Discovery で行ったマッチング処理の結果を Einstein Next Best Action のレコメンデーションとして表示する方法について書こうと思います。

こんにちは。エンジニアの山下です。 今回は Salesforce の Einstein Discovery と Einstein Next Best Action を連携させ、Lightning Page 上で統計手法ベースのレコメンデーションの出し分けを行う方法について書こうと思います。

みなさんこんにちは。エンジニアの佐藤です。今回はAWS製プロセッサGraviton3の強さを再確認した、というお話です。 難しい！今時のEC2インスタンス選び AWS EC2にはさまざまな種類のインスタンスがあります。本稿執筆時点(2024年4月初旬)では、最新世代のCompute Optimizedタイプのインスタンスとして以下の3種類が利用可能です。 種類 プロセッサ 一般利用開始 アーキテクチャ C7g AWS Graviton3 2022-03 arm64 C7i Intel 4th gen Xeon 2023-09 x86_64 C7a AMD 4th gen EPYC 2023-1…

こんにちは。エンジニアの山下です。 昨今の LLM の隆盛は目を見張るものがあり、フレクトでも LLM を使った開発に必要な技術や知識の準備を進めています。その一環として Agents for Amazon Bedrock を使って模擬的に LLM アプリケーションを実装・調整してみたのですが、今回はそこで得た知見について書こうと思います。 本投稿では主に Agents for Amazon Bedrock を使ってみて得た所見について書きますが、前提を共有するため、最初に Agents for Amazon Bedrock の概要とアーキテクチャについても簡単に述べます。既に知っているという…

こんにちは。エンジニアの山下です。 パスワードレス技術として Passkey が注目を集めていますが、この Passkey はフィッシング耐性を持つと言われています。今回は Passkey のフィッシング耐性を支える仕組みについて調査した結果を書きたいと思います。 Passkey と FIDO そもそも Passkey は FIDO Alliance という団体によって定められた概念です。FIDO Alliance の 公式ページ では Passkey を以下のように定義しています： Any passwordless FIDO credential is a passkey. FIDO All…

皆さんこんにちは。エンジニアの佐藤です。今回はメモリキャッシュのお話です。 Redisはポピュラーなメモリストレージではあるが。。 Webアプリケーション開発者の方々なら、Redisを知らない人はいないでしょう。メモリストレージの定番として、筆者が認識し始めたのは10年ぐらい前でした。無料で利用可能で、Dockerコンテナで手軽にデプロイできます。今ではクラウドベンダーはほとんどRedisをSaas提供しており、ローカル開発環境からクラウドの本番環境にそのままま乗せ替えできる点も便利です。 しかし、問題はお値段です。Redisは当然、CPUを占有します。CPUは高価なリソースです。さらに頭が痛…

みなさんこんにちは。エンジニアの佐藤です。今回は年末調整のお話です。 年末調整の時節、会社からは「保険料控除ではXMLを奨励」というアナウンスがありました。「エックスエムエル！」という言葉と共に新鮮な驚きが頭の中に広がりました。ええっ、XMLだって？あいつらまだ生きていたのか！そう、コンピュータ同士の相互通信データフォーマットとして、XMLは時代遅れなのです。現在の主役はとっくにJSON。何を今更XML。 しかし、筆者はXMLは嫌いではありませんし、それなりに知識もあります。(昔話に興味のある方は、末尾の「昔話」をご覧ください。) 保険業社が発行するXMLがどんなものか、大きな興味をもってファ…