こんにちは、CCCMKホールディングス AIエンジニアの三浦です。 最近のAIに関する出来事で特に印象に残っていることがOpenAIによるオープンモデルgpt-ossのリリースです。OpenAIはWhisper⁠やCLIPといったオープンなモデルをリリースしていますが、オープンソースの言語モデルのリリースはgpt-2以来です。 openai.com サイズは120bと20bが提供されており、特に20bは12GBのメモリがあれば動くと紹介されており、エッジコンピューティングでの利用が期待できます。 エッジコンピューティング、と聞くと、私はNvidiaのJetsonが思い浮かびます。Jetsonは…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先週末はたくさん花火大会が開催されたようで、私の住む街でも花火を見ることが出来ました。打ち上るたびに次はどんな花火になるんだろうと想像するのが楽しくて、いつまでも見ていられるなぁと思いました。 はじめに 今回読んだ論文 検証における比較対象 Test-Time Scalingによって精度が落ちるタスク Simple counting tasks with distractors(気を散らす情報を含む単純な数え上げ) Regression tasks with spurious features(目的変数に関係ない特徴量を含む回帰…

こんにちは。データサイエンスGr.の木下です。 昨今、生成AIが急速に業務に浸透しています。 その中で、Vibe Codingという、自然言語のみでプログラミングをする技術が話題になっています。 Vibe Codingによるアプリケーション作成の事例は多々見受けられる一方、 データサイエンスの文脈で使用されている事例は見かけません。 そこで、SIGNATEの分析コンペを対象に、 Vibe Codingのみで（すなわち、コードを一切書かずに）どこまで精度が出るのか検証してみました。 Github Copilot Agent Mode 正式名称「Copilot Coding Agent」として、2…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先日サンフランシスコで開催されたSnowflakeの年次サミット"SNOWFLAKE SUMMIT25"のキーノートセッションの動画がアップされていて、最近そちらを閲覧しました。面白いアップデートが紹介されていたのですが、その中で特に印象に残ったのが"Cortex AISQL"です。 Cortex AISQLはSQLの中でLLMを呼び出し特定の処理を実行することが出来る関数セットです。LLMを使った特定の列の変換処理や、潜在的な意味に基づいたテーブルの結合処理を実現することが出来ます。 本記事では、現在利用できるAISQLを一通…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先日、今年6月に開催されたdatabricksのDATA+AI Summit2025を振り返るdatabricksのユーザー会に参加し、LT枠で登壇させていただきました。 jedai.connpass.com 大分前からLLMアプリケーション開発フレームワーク"DSPy"をテーマにしてお話したい！と考えていました。DSPyは"Programming-not prompting-LMs"というメッセージを掲げた、AIアプリケーションの構築をプロンプトエンジニアリングに頼るのではなく、Moduleの組み合わせ (プログラミング) と…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 生成AI周りの機能がアップデートされたMLflowに、ベータ版の機能で"Prompt Registry"が搭載されていました。この機能はプロンプトエンジニアリングの効率化を目的とした機能で、生成AIアプリに搭載するプロンプトの編集、バージョン管理、タグ付け等を行うことが出来ます。Prompt Registryに登録されたプロンプトはコマンド一つでダウンロードすることが可能です。 今回の記事では、現在ベータ版であるPrompt Registryを触って調べてみたことをまとめたいと思います。おそらく今後様々なアップデートが行われ、現…

こんにちは、CCCCMKホールディングスAIエンジニアの三浦です。 毎日とても暑いですね・・・。体調を崩さないように気を付けないと、と思います。 databricksのDATA+AI Summit2025に参加したとき、ブレークアウトセッションで"DSPy"というAIアプリケーション開発フレームワークを取り扱っているものが結構あることに気づきました。 DSPyは以前このブログの中でも触れたことがあります。 techblog.cccmkhd.co.jp 投稿した日付を見ると、ちょうど一年前でした。今回久しぶりにDSPyを使ってみたのですが、当時よりも使いやすくなった印象を受けました。もちろんDS…

こんにちは。テックラボの中岸です。 テックラボではAIの研究開発を行っていますが、その周辺情報として、今回のエントリーでは会社全体でのAI利活用の取り組みや体制についてご紹介します。 CCCグループ AI倫理ポリシーの策定 2025年1月、CCCグループはAIの利活用における基本的な考え方と行動指針を明文化した「AI倫理ポリシー」を公表しました。 このポリシーは、AIを活用するすべての社員が「人間中心」「透明性」「プライバシーの保護」「公平性」「安全性」といった価値観を共有し、責任あるAIの実装を進めるための基盤となるものです。 AI技術の進化とともに、企業としての倫理的な姿勢が問われる今、私…

LangGraph Supervisorを使ったMulti-Agentシステムの構築

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先日参加したdatabricksのDATA+AI Summitというイベントでは様々なdatabricksの新しい機能が発表されました。 techblog.cccmkhd.co.jp その中で個人的にとても気になったのが"Agent Bricks"という機能です。 Agent BricksはプロダクトレベルのAI Agent開発をノーコードで実現することが出来るdatabricksの新しい機能です。現在一部のリージョンでbeta版で利用することが出来る状態です。私はAzure Databricksの"eastus"リージョンで試…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先週一週間、アメリカのサンフランシスコに出張してきました！目的はdatabricksのData+AI Summitというイベントに参加をするためです。 今回の記事では現地の様子をいくつかご紹介をした後に、2日間に渡って行われたキーノートセッションで紹介されたdatabricksのアナウンスについてまとめていきます！ Data + AI Summit 2025 現地の様子など 会場付近 キーノートセッション 街中の広告 会場で配布されていたご飯 キーノートセッションでの新機能の発表 Lakebase Databricks Apps…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 今週、アメリカサンフランシスコで開催されるDatabricksのイベントに現地参加します。どんなアップデートが聞けるかとても楽しみです。 現地は気温が東京に比べて低めなので、風邪を引かないように気を付けようと思います。 はじめに 使用するVLM 評価用のデータ データセットをダウンロードしてUnity Catalogに登録する VLMで推論を行う LLM as a judgeによる推論結果の評価 まとめ はじめに 最近のAIツールはテキストだけでなく画像を入力したり生成したり出来ることが普通になってきました。それらのツールが具体…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 先日開催された人工知能学会全国大会に現地参加してきました！どんなイベントで、現地がどんな様子だったのか、そして特に印象に残ったトピックなどをまとめたいと思います。 第39回人工知能学会全国大会 人工知能学会全国大会は一般社団法人人工知能学会が主催する日本最大級のAI学術イベントで、今年2025年で39回目になります。 今年は5月27日～5月30日の期間で大阪の中之島にある大阪国際会議場(グランキューブ大阪)で開催されました。現地開催だけでなくオンラインでも配信され、参加者は最終的に4,902人となったそうです(現地参加が約4,0…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。最近オフィスが変わり、電車に乗っている時間が長くなりました。「読まないと」と思ってため込んでいた論文や記事を集中して読んでいく時間として活用しています。 最近Snowflakeでコンテナアプリを動かすことが出来る、という話を知り、どんな感じなのか試してみたいと思いました。利用するのは"Snowpark Container Services"というSnowflakeのフルマネージドコンテナサービスで、今回は開発環境でDockerで作っていたコンテナアプリをこの機能を使ってSnowflakeで動かしてみる、という話をご紹介していきます…

こんにちは、AIエンジニアリンググループの矢澤です。 世間はGWでしたが、毎年この時期は交通機関や観光地が混むイメージがあるので、私はほぼ自宅で過ごしました。 ただ、イベントへの参加は新たなインスピレーションなど業務に繋がる可能性もあるので、別の時期に出掛けられればと思っています。 近年、生成AIによるチャットボットが広く普及してきたと感じています。 これまで生成AIについては、社内向けのチャットボットなど一部の業務や機能において検証・導入を進めてきました。 今後は、より具体的なユースケースに向けた活用や量産化も視野に入れていく予定です。 ボットなどのAIサービスを社外に向けて活用していくこと…

こんにちは、CCCMKホールディングス AIエンジニアの三浦です。気温が急に高くなって、まるで夏が来たみたいです。朝と夜はまだ涼しいので、出かける時に何を着ていくのか悩んでしまいます。 Cortex Search コードの実行環境と検証に使用したデータ ライブラリのインストール 翻訳処理の事前準備 データセットのダウンロードとサンプリング 翻訳処理の実行 SnowflakeのTableに書き込む Cortex Searchを作成する Cortex Searchにクエリを実行する まとめ Cortex Search Cortex SearchはSnowflakeのセマンティック検索を実現するため…

こんにちは、CCCMKホールディングス AIエンジニアの三浦です。 先日海に行きました。景色もそうですが、海の近くでは普段の生活であまり感じない匂いなんかも感じられて新鮮な気持ちになりました。 はじめに LLMの推論精度を向上させる方法に"CoT(Chain of Thought)"があります。これはLLMにすぐに回答を生成させるのではなく回答に必要になる思考のプロセスを生成し回答させることで、論理的な思考が必要になる問題にも対処出来るようにするテクニックです。 たとえば AならばB, BならばC, DならばE, CならばF が成り立つとき、AならばFは成立する？ といった問題を考えてみます。…

こんにちは、CCCMKホールディングス AIエンジニアの三浦です。 最近はだいぶ暖かくなって、新緑がまぶしい季節になりました。外に出るのが気持ちのいい時期は一年の中で意外と限られているので、しっかりと堪能したいです。 さて前回SnowflakeのCortex Analystという機能を使って自然言語でTableに問い合わせ、データを取得する、という流れを試してみました。 techblog.cccmkhd.co.jp 前回はSnowflakeのWeb UI(Snowsight)上で動作を確認したのですが、やはり外部のアプリケーションからCortex Analystを使えると色々とやれることが広が…

はじめに Cortex Analyst Semantic Model Dimensions Time Dimensions Facts Filters Metrics Cortex Analystを構築してみる Snowflakeへのデータの格納 Semantic Modelの構築 つまずいたポイント まとめ はじめに こんにちは、CCCMKホールディングス AIエンジニアの三浦です。 最近クラウドデータプラットフォーム"Snowflake"を色々と調べています。Snowflakeに含まれるLarge Language Model(LLM)を利用した"Snowflake Cortex"という機…

こんにちは。AIエンジニアリンググループの矢澤です。 NeurIPS 2024の参加報告として、これまでチュートリアルや招待講演、オーラルプレゼンテーションの内容を共有しました。 今回は学会後半に行われたワークショップの中から、特に気になった発表の概要を説明したいと思います。 ワークショップについて 概要 ワークショップは、特定のテーマに基づいて独立して開催される勉強会に似たイベントで、メインセッションとは別に招待講演やオーラル発表が行われます。 当初はスキーリゾートなどの別会場で開催されていましたが、途中からメインカンファレンスと同じ会場での開催に統合される形となっています。 2024年度は…

こんにちは、CCCMKホールディングスAIエンジニアの三浦です。気温が高くなってきたので冬服や厚手の布団をしまっていかないと・・・と感じる今日この頃です。 はじめに MCPについて 実装してみる Serverの実装 Clientの実装 Agentの機能を拡張する Serverの強化 Serverの追加 MCPによるAgentアプリ開発の今後 まとめ はじめに "MCP"というAIとデータやツールを効率的に接続する共通ルールが話題になっています。MCPはModel Context Protocolの略で、Claudeを開発したAnthropic社が去年の11月に提唱しました。個人的な印象だと、今…

こんにちは。AIエンジニアリングGの矢澤です。 先日、昔遊んでいたゲームに関する動画を見ました。 昔のゲームは、ハードウェアに関する制約がある中でメモリを効率化したりCPUの強さを調整するために、様々な工夫を行っていたという話を聞いたことがあります。 現在は当時よりもAIや画像処理などの技術が向上していると思うので、リメイク版が出たらファンにとって喜ばしいことだと思いました。 AIについて、最近GPTモデルの最新版であるGPT-4.5が公開されました。 GPT-4.51はOpenAIが2024年後半にリリースした最新のLLMモデルで、GPT-4系の従来モデルファミリー（GPT-4、GPT-4o…

はじめに Genie アプリケーションの処理の全体図 アプリケーション構築手順 Genieの作成 PATのシークレットへの登録 NotebookからGenieにアクセスする LangGraphのGraphをスクリプトに書き出す Graphの登録 Model Servingへのデプロイ Model Serving Endpointの使い方 まとめ はじめに こんにちは、CCCMKホールディングスAIエンジニアの三浦です。 前回Azure DatabricksでUnity CatalogのTableの内容を参照して回答するAgentアプリケーションをLangGraphで構築した話をご紹介しました。…

こんにちは。AIエンジニアリンググループの矢澤です。 NeurIPS 2024の参加報告として、これまでチュートリアルや招待講演についての一部を共有しました。 今回は、学会のメインイベントであるオーラルセッションについて、特に気になった発表を紹介したいと思います。 オーラルセッションとは オーラルセッションは、研究者らが投稿した論文の中で、査読の結果特に優れた内容と認められたものを発表するイベントです。 チュートリアルや招待講演と異なり、発表時間は20分しかないので、研究の背景や課題から手法、実験結果などが端的にまとめられています。 そのため、聴講者側もある程度の事前知識が必要となりますが、ど…

CCCMKホールディングス TECH LABのTech Blogが、ITフリーランス向け案件サイト「フリーランスHub」で紹介されました。 本ブログがフリーランスエンジニアの皆様のお役に立てれば幸いです。 【タイトル】スキルアップやキャッチアップにつながる！注目の企業テックブログまとめ 【記事URL】https://freelance-hub.jp/column/detail/651/ freelance-hub.jp 【フリーランスHubトップページ】https://freelance-hub.jp/ 【フリーランスHub案件一覧ページ】https://freelance-hub.jp/pr…

こんにちは。AIエンジニアリンググループの矢澤です。よろしくお願いします。 前回の記事で、ExpertGenQAによる自動QA生成の概要や実験結果について話しました。 本記事では、実験で使用したスクリプトを共有し、処理の流れや論文との差異について説明します。 実装 以下では、ExpertGenQAの論文を基にPythonで実装したスクリプトについて説明します。 まずは実装したソースコードを載せます（モジュールのインポートやユーティリティ関数の内容などは省略）。 def generate_qas(documents, n_topics=10, K=5, n_fewshots=3, test_mo…

はじめに やりたいこと 使用したデータ 利用したLLM データの準備 データセットのダウンロード Tableへの書き込み COMMENTの付与 アプリの構築 LLMとアプリのState rooting normal_chat create_sql execute_sql answer ビルド 動作確認 まとめ はじめに こんにちは、CCCMKホールディングス三浦です。 この前の土日、東京は桜がちょうどきれいに咲いていて、散歩をしながらお花見が出来ました。自分にとってはなんとなく桜を見ることが、一年の節目になってるなぁと感じます。 最近Azure東日本リージョンのDatabricksでModel…

こんにちは。AIエンジニアリンググループの矢澤です。 先日、マーケティング関連の展示会に参加しました。 特に専門家の方の講演が興味深く、ユーザー視点での商品・サービス開発を目指す上で参考になるお話でした。 マーケティングの知識やセンスは奥が深く、一朝一夕に身に付けられるものではないと思いますが、エンジニアのような技術職であってもある程度知っておくべきだと再認識することができました。 近年ではLLMやRAGの技術が発展し、専用のチャットボットを比較的簡単に作れるようになりました。 しかし、課題として想定質問による事前テストやパラメーター調整などが挙げられます。 特に、対象ドメインや参照するデータ…

こんにちは、CCCMKホールディングス AIエンジニアの三浦です。 4月ですね！今日インターネットでニュースを見ていたら、個人的にすごくびっくりするニュースを見つけました。その後、今日がエイプリルフールだということを思い出しました・・・。 さて最近Agent開発フレームワークのLangGraphについて調べていたのですが、その中で面白そうなトピックを見つけました。それはAgentの"Human-In-The-Loop"の実装に関するもので、今後Agentシステムを開発する際に導入したい、と思う内容でした。 Agentシステムにおける"Human-In-The-Loop"の役割について考えてみま…

こんにちは。AIエンジニアリンググループの矢澤です。 先日の記事では、NeurIPS 2024のチュートリアルについて報告しました。 具体的には、私が聴講した発表（LLMの電子透かしと、人間とAIのアライメントに関するチュートリアル）の序盤部分を共有しました。 今回は同学会の招待講演について説明したいと思います。 招待講演とは NeurIPSでは、基本的に研究者らが論文を投稿し、採択された場合に発表を行います（オーラル、ポスター発表）。 しかし上記とは別のセッションとして、学会の前半に招待講演があり、著名な研究者や専門家が業界全体の動向や関連技術などを話す場となっています。1 招待講演は、会場…