こんにちは、CCCMKホールディングス TECH LABの三浦です。 「継続は力なり」という言葉がありますが、私もその通りだと思います。毎日少しずつでいいから続けることが大切なのですが、大切だと分かっていてもなかなか続かないことも多いです・・・。何か一つでもいいから、新しい継続出来ることを見つけたいと思っています。 今回は特定の人格を持ちChatGPTによって対話が出来る機能を持った複数のエージェント(Multi-Agent)同士を特定のテーマについて会話をさせ、その結果を要約し、何らかのインサイトを抽出する、という一連の流れを自動的に実行する仕組みをLangGraphを作って組んでみました。…

こんにちは、CCCMKホールディングスTECH LABの三浦です。 いつの間にか桜が散って、街の中で緑が目立つようになってきました。外に出るのが心地よい時期なので、ベランダでのんびり出来るようにしようとこの前の休みにベランダの掃除をしました。半日くらいかけてきれいにし、なんだか部屋に入ってくる空気もきれいになったように感じました。ベランダの掃除はついつい後回しにしがちだったのですが、家全体の雰囲気が良くなるので、もっと定期的にベランダの掃除をしようと思いました。 前回LangGraphを使ってPDFファイルとBing Searchを使って質問に回答してくれるAgentアプリケーションを作った話…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 最近とあるゲームの自宅専用のサーバーを立てる、ということにチャレンジしてみました。作業は想像よりも複雑ではなくて調べながら進めて上手く稼働させることが出来ました。難しそうだな、と思っていたこともいざやってみるとそんなに難しくなかった、ということは結構あります。今年度は色々なことにチャレンジしてみたいな、と思いました。 前回LangChainのLangGraphというライブラリを使って簡単なLLM Agentアプリケーションを構築してみた話をご紹介しました。 techblog.cccmkhd.co.jp 前回はAgentに2つ…

LangGraphを使ってAgentアプリケーションを作ってみました。 こんにちは、CCCMKホールディングス TECH LABの三浦です。 4月になりました。近所の桜の木がようやく開花し、春っぽくなってきたなぁと感じています。桜が咲く頃は何日か雨が続く日があって、いつの間にか花が散ってしまうことが多いので、今年は忘れずに花見に行きたい！と思っています。 エージェント(Agent)は日本語では"代理人"という意味があり、Large Language Model: 大規模言語モデル(LLM)を推論エンジンにしたAgentは複雑なLLMアプリケーションを組むうえでかなり重要な要素だと考えられます。…

Chainlitを使ってチャットアプリを作ってみました！ こんにちは、CCCMKホールディングス TECH LABの三浦です。 先日久しぶりに飛行機に乗りました。当たり前のことなのですが、飛行機を使うと数100キロ離れていてもあっという間に移動することが出来ます。朝起きた場所と、夜眠る場所が数100キロも離れてるなんてなんだか不思議だな、と思いました。 最近以前から試してみたいな、と思いつつ、なかなか試すことが出来ていなかったChainlitというPythonのライブラリをついに試すことが出来ました！Chainlitを使うととてもスピーディーにチャット型のアプリケーションを作ることが出来ます。…

Multi-Agent Conversationの様々なAgent構成について調べてまとめました。 こんにちは、CCCMKホールディングス TECH LABの三浦です。 卒園式や卒業式のシーズンです。この時期になると自分が大学を卒業して新社会人になった時のことを思い出したりします。当時は"クラウド"という概念が出始めたころで、サーバーを自分の知らない場所において利用するなんて全然イメージが湧いてなかったのですが、今はそれが当たり前のようになりました。振り返るとあっという間に感じますが、世の中は当時から色々大きく変わったんだな、と感じます。 前回LLMを活用するテクニック"Multi-Agent…

こんにちは、CCCMKホールディングスTECH LABの井上です。 前回の記事の続きになります。 AI SearchのSharePointからのインデックス作成をやってみました - CCCMKホールディングス TECH Labの Tech Blog 前回、Sharepointをデータソースにしてベクトル化したときにメタデータが取得できないというところで終了したのですが、できました。 使ったAPIのリクエスト内容は以下のものになります。 データソース作成 POST https://{{search_service}}.search.windows.net/datasources?api-vers…

Multi-Agent Conversation Framework "AutoGen"を使ってみました。 こんにちは、CCCMKホールディングス TECH LABの三浦です。 日曜日は天気が良くて、近所をのんびり散歩してみました。春は外を歩くのが気持ちがいいです。散歩していると見慣れた近所にもまだまだ知らなかった発見があることに気が付きます。こんなところから富士山が見えるんだ、とか、スカイツリーが見えるんだ、とか、少し得した気持ちになりました。 さて、LLM(大規模言語モデル)を使ってタスクを解決するためのテクニックは様々なものが提案されていますが、最近知ったテクニックがとても面白いアプロー…

Terraformのmoduleを使ってみました！ こんにちは、CCCMKホールディングス TECH LAB三浦です。 小学生になる子どもと、算数の問題の解き方を一緒に考えることが増えてきました。学年を重ねるごとにどんどん問題が難しくなっていきます・・・。大人になった今の視点から算数の勉強を見ていると、問題の設定から法則を見つけてより分かりやすい問題に置き換える、抽象化のテクニックを算数の勉強を通じて教えようとしているのかな、と感じます。正しく物事を抽象化することは大人になってからも求められることが多いので、算数を通じて学んだことは多かったんだな、と思いました。 前回IaC(Infrastru…

IaC(Infrastructure as Code)について調べ、Terraformに入門しました。 こんにちは、CCCMKホールディングス TECH LABの三浦です。 はてなブログでは今週のお題で「習慣にしたいこと・していること」が設定されているそうです。私は最近英語の勉強が習慣化出来なくて悩んでいます・・・。特に発音の勉強をしているのを周りに聞かれるのが恥ずかしくて、一人になれる時間や場所を探しているうちにどんどん後回しになってしまっている感じです。なんとかしないといけないな、と思っています。 これまでAIやML周りの開発に携わってきたのですが、最近はクラウドでそれらを稼働するためにど…

こんにちは。テックラボの高橋です。 最近単一画像からのカメラ位置を推定する方法について調べていたところ、fSpyというアプリケーションを知りました。 こちらは手動で消失点を設定してあげることでBlender等で画像のカメラの位置を取り込んでくれるアプリです。 カメラの向きがわかると、背景画像に対して自然にVFXのような合成をすることができるみたいですね。 www.youtube.com しかし、人間が目で消失点を判断できるのですから、最近の技術だったら機械的に消失点の位置が求められるのではないでしょうか？ 調査してみると、何本か実現できそうな技術を取り扱っている論文がありました。 今回は202…

こんにちは、CCCMKホールディングスTECH LABの井上です。 昨年11月にプレビュー公開されたAzure AI SearchのSharePointからのインデックス作成機能を使ってみました。 AI SearchはBlob、SQL Server、Table Storage等からデータを取得してインデックスを作成できるのですが、SharePointがその中に新たに加わった形です。 SharePointから取得できるものはドキュメントライブラリ内にあるPDFやMS Office等のファイルとなります。ASPX（ページ内に書いてあるテキスト）やリストからは取得できないようです。 弊社でも社内のブ…

RAGの改善？Fine Tuning？LLMのFine Tuningの使いどころについて調べてみました。 こんにちは、CCCMKホールディングスTECH LABの三浦です。 なんだか急に暖かくなり、少し戸惑っています。このまま春の陽気になるのかな、と油断するとまた寒い日が来そうな気がするので、冬物の衣服はまだクリーニングに出せないな、と思いました。 gpt-3.5-turboやgpt-4といったLarge Language Model(LLM)を用いた色々な取り組みをしていると、上手くいくケースもあれば、望んでいる結果が得られないこともあります。そういった場合に次に取るべきアクションはなんだろ…

LangServeを使ってLangChainで作ったChainをREST APIにしてみました。 こんにちは、CCCMKホールディングスTECH LABの三浦です。 節分を過ぎると毎年少しずつ暖かい日が増えてくるように感じます。実際に今日はとても暖かい日で、いい天気で、どこかに出かけたくなりました。 今回はLangChainで作ったChatGPTなどのLLMsを絡めた処理:ChainをREST APIとして提供することが出来るLangServeというライブラリを試してみました。使い方についてはもう少し深堀したいところもありますが、基本的な機能でもかなり色々なことが出来るライブラリだと感じました…

レコメンデーションタスクへのLarge Language Modelsの活用について調べてみました。 こんにちは、CCCMKホールディングスTECH LAB三浦です。 私の住んでいる街でも雪が降り、朝には少し雪が積もっていました。雪が降るのを見ながら、「寒くなるな・・・」とか、「道が歩きにくくなるな・・・」とか、「電車動くのかな・・・」とか、マイナスなことばかり考えている自分に気づきました。子どもの頃は雪が降ると、いつもと違う雰囲気にワクワクしていました。そういえばいつから雪を見てワクワクしなくなったんだろう、とふと考えたりしまいた。 さて、今回は最近興味があって調べていたレコメンデーションタ…

LangChain Expression Language (LCEL)を使って 色々Chainを組んでみました！ こんにちは、CCCMKホールディングスTECH LABの三浦です。 先日申請していた子どものパスポートを子どもと一緒に取りに行きました。子どものパスポートは有効期限が5年なので、次回は5年後、新しいパスポートを取りに行くことになります。5年後、子どもは今よりもきっと成長していて、もしかしたら一人でパスポートを取りに行くのかもな、と思うと、少ししんみりしました。 さて、ChatGPTを使ったアプリケーションを開発していると、ChatGPTに対してあるプロンプトを実行させ、その結果を…

Retrieval-Augmented Generation周辺のテクニックについて調べたのでまとめてみます。 こんにちは、CCCMKホールディングスTECH LABの三浦です。 今週のお題「急に休みになったら」。はてなブログの今週のお題ですが、私は急に休みになったら電車に乗って行ったことがない場所に行ってみたいです。特に普段乗っている電車の終点の駅には行ったことがないので、のんびり電車に揺られながら、どんな街なのか見に行ってみたいです。 さて、現在Large Language Models(LLMs)の活用方法でよく取り上げられるのがRetrieval-Augmented Generatio…

こんにちは、CCCMKホールディングス TECH LAB三浦です。 文章を書く機会がこの頃少しですが増えてきました。私は書きたいことがたくさん出てきて上手くまとめられず、ぐちゃぐちゃになってしまうことが多い気がします。ついつい書きたいことを書いてしまいそうになりますが、一度落ち着いて、「もし自分がこの文章を読む立場だったら」という気持ちになって振り返ると不必要な内容が見えてくることが多いです。要点が分かりやすい文章を書けるようになりたいと思っています。 さてChatGPTなどのLarge Language Models(LLMs)に外部データを参照させて質問に回答させるテクニックRetriev…

こんにちは、CCCMKホールディングスTECH LABの三浦です。 2024年も1週間が過ぎ、今日から仕事初めの方が多いように感じます。それに伴い色々な業務が今日から開始されるので、少しずつ感覚を戻していきたいと思います。 Large Language Models(LLMs)からより適切な回答を得るためには、モデルに与える指示、つまりプロンプトをどのように作るかが重要になります。最近より良いプロンプトを作るための26の方針についてまとめられた論文が公開され、一度目を通してみたい、と思い読んでみました。論文の中では26の方針それぞれについて、それを導入することでモデルからの応答の質と精度がどれ…

こんにちは、CCCMKホールディングス TECH LAB三浦です。 2024年が始まりました。今年も引き続き、色々なことを調べたり、試していきたいと思います。 さて、今回はMicrosoftの"Azure AI Studio"というAIを活用したアプリケーション開発プラットフォームを試してみました。ChatGPTなどの生成AIに対し期待されることとして、保有するデータやノウハウ、ツールを上手に活用していきたい、ということが挙げられると思います。Azure AI Studioはまさにそのニーズに答えることを目的としたプラットフォームだと感じました。 Azure AI Studioを実際に試してみ…

こんにちは、CCCMKホールディングスTECH LABの井上です。 前回の記事からの積み残しであった、GPTsのActionsを使ってみました。 GPTsから見た今後のChatGPTへの期待 - CCCMKホールディングス TECH Labの Tech Blog 社内でも「簡単にデータの取得ができれば嬉しい」という声もあったこともあり、今回実現した内容は「自然言語でのテーブル情報の取得」です。 これ自体はpanadsA等Iを使ってもできるのですが、今回はAPIの機能はデータ抽出処理のみの前提で検討しました。 また、SQL+DBで実装したかったのですが、セキュリティ上の都合によりpandas+c…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 2023年もいよいよ終わりが近づいてきました。今年は色々ありましたが、学ぶことが多い1年だったと思います。特に"AI"がこれまで以上に身近になり、多くの人とAIをきっかけに会話をしたり、仕事をしたり出来たことがとても良かったです。来年も色々な人たちと色々なことにチャレンジ出来たらいいな、と思っています。 さて、去年の今頃どんなことを調べていたのかな、とちょっと気になり、ブログの記事を振り返ってみるとこちらが去年最後に書いた記事であることが分かりました。 techblog.cccmkhd.co.jp 当時GPT-3に興味を持っ…

こんにちは、CCCMKホールディングス TECH LAB三浦です。 12月なのにとても暖かくなったり、12月らしい寒さになったり、最近気候が安定していない感じがします。気候が安定しないと身体も疲れやすくなりますね。年齢を重ねるにつれ、体調の変化に敏感になってきました。疲れたな、と思ったときは、ストレッチをしたり休憩したりして自分の体調を気遣うようになりました。 前回Jetson AGX Orin開発者キットをセットアップし、生成AIを動かしてみた話をご紹介しました。 techblog.cccmkhd.co.jp 前回の段階ではオープンソースのLLMを動作させることは出来たのですが、NanoOW…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 2023年も残り僅かになりました。10月くらいからバタバタすることが多く、暑い季節が過ぎてからあっという間に年末になってしまった気がします。今年を振り返ってみると、自分にとって一番ホットだった話題は"LLM"だったなぁと思います。これまでの考え方が色々と変わるきっかけになりました。 さて、今回は久しぶりにデバイスを触ってみようかな・・・と思い、Nvidiaのエッジコンピュータ"Jetson AGX Orin開発者キット"をセットアップしてみました。調査不足なところもあり、ところどころ不明確なところもあるのですが、Huggin…

こんにちは、CCCMKホールディングス三浦です。 12月に入り、寒い日が増えてきました。毎年冬になるとしもやけで手が荒れてしまうので、今年はとにかく気が付いたらハンドクリームを塗ることを意識しています。今年こそ、痛い思いをせずに冬を越したいです。 今回は以前から一度試してみたいな、と思っていたDatabricksの"Delta Live Tables"という機能を試してみました。"Delta Live Table"を使うことでクラウドストレージに格納されたCSVやJSON形式のファイルを機械学習やデータ分析に適したテーブル形式に加工するまでの一連の流れを1つのパイプラインとして組むことが出来ま…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 近所の街路樹が紅葉していて「秋だなぁ」と思ったのですが、もうすぐ12月なんですよね。例年だったらもっと早く紅葉している気がします。なんだか今年は色々、いつもと違うリズムの一年になったように感じています。 さて、先日Bot Framework Composerに入門した話をご紹介しました。 techblog.cccmkhd.co.jp その後も色々試しながらBot Framework Composerについて調べており、最近ようやく少しずつですが仕組みが理解出来てきました。そこで今回はMicrosoft Teamsから送ったメ…

こんにちは、CCCMKホールディングスTECH LABの井上です。 11/7にChatGPTの大幅なアップデートと発表がありました。 その1つにGPTs（GPT Builder）というのものがあります。 もうすでに色々と記事も出回ってるので興味ある方はお試し済みかと思います。 別でネーミングするのであれば「簡単RAGシステム_チャットボット作成ツール」でしょうか。 ファイルを作成画面でアップロードするとその内容を元に回答を生成することができるようになります。 都度のアップロードが必要になりますが普通のGPT-4のプロンプトからも同様なことはできます。 ちなみにGPTsで作ったチャットボットから…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 急に寒くなったせいか、先日風邪を引いてしまいました。昔からそうなのですが、風邪を引いた時は変な夢を見ることが多いです。夢占いや夢診断があるように、どんな夢を見たのかを調べることで体調や気持ちの状態など紐解くことが出来るのかも、と思いました。 さて、今回はAzure AI Serviceに含まれている音声データを扱うAzure Speech ServiceとChatGPTなどを利用できるAzure OpenAI Serviceを組み合わせてChatGPTと音声でやり取りが出来る簡単な仕組みを作ってみた話をご紹介します。 作ろう…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 この前の土日に大学の頃のサークルのメンバーとオンラインで10数年ぶりに会話をしました。その次の日は学生の頃から好きなアーティストのライブに行きました。 なんだかこの土日は学生の頃のことを思い出すことが多く、大学生に戻ったような、なんだか不思議な気持ちになりました。色々経験をして「自分は変わったなぁ」と思うことがありますが、変わっていないところもたくさんあるんだなぁと感じた週末でした。 さて、普段機械学習のモデル開発で主に利用しているAzure Databricksですが、最近はChatGPTなどのLLMに与えるプロンプトの開…

こんにちは、CCCMKホールディングス TECH LABの三浦です。 街の雰囲気が黄色から赤色に変わり、ハロウィンが過ぎて次はクリスマスなんだなぁと感じました。11月に入り今年も残すところあと2か月です。年の終わりに「いい一年だった」と思えるように、がんばっていきたいなと思います。 さて、今回はMicrosoftのBot開発環境BotFramework Composerを使ってBotアプリケーションする方法について色々調べてみました。さらに開発したBotをAzureにデプロイし、Microsoft Teamsからテストするところまで試してみました。 Botアプリケーションの中ではAzure O…