前回の続きです。学習の詳細や学習データ、評価データについては前回の記事を見てください。https://zenn.dev/ivry/articles/a2731736355065今回は27Bモデルでも同様に学習による効果が出るのかを9Bの結果と比較して見ることを目的としています tl;dr9Bとは異なりASRタスクでの学習なしにASR性能が大幅改善、音と言語の一致が見え始めた4bit量子化+context lengthを縮めるとVRAM 24GBでASR 1.7B+LLM 27Bの学習が可能自室で学習したためブレーカーが落ち、室温32℃の地獄に 学習と評価学習中の...

というわけで作りました。※こちらは日曜大工的にやった個人の活動を、敢えて会社ブログに載せてみたものです。 tl;drASRモデルとLLMをプロジェクタで合体してaudio-text-to-textモデルを学習した学習により音声特徴量をLLMの本来の入力特徴量にある程度対応づけすることができた最終的なアーキテクチャの性能はLLMの性能に制約されるが、24GBのGPUでも27Bの音声言語モデルを作成することができる (本記事は9Bが対象)一方で、LLMへの追加学習を行わない限りは性能は変わらないため、今回の取り組みはLLMを音声対応にできるぐらいのニュアンスやったことはほぼ...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba）です。趣味はビリヤードで、プロの試合にも出ているぐらい割とガチでやっています。最近シャフト(キューの上半分の部分)を新調しました。木に色を入れた7色のカラフルなデザインのUNLIMITEDのシャフトがあるのですが、結局いちばん無難な黒を選びました。7色のシャフト。ビリヤードの話はこのへんにして、本題に入ります。今回はデータの取り込み方法について整理し、どういうときにどの技術を選ぶのかをまとめました。 TL;DRデータを取り込む方式を「ゼロコピー」「Change Data Capture(CD...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba）です。趣味はビリヤードで、プロの試合にも出ているぐらい割とガチでやっています。先日、青森で開催された「あおもりビリヤードチャリティトーナメント」に参加してきました。51名が参加する大会で、決勝まで勝ち上がったものの、最後は一歩及ばず準優勝でした。あおもりビリヤードチャリティトーナメントの表彰式にてビリヤードの小話はここまでにして、今回はDelta LakeのMERGE INTOについてお話しします。Databricksで差分更新をしたいとき、MERGE INTOはDelta Lakeを使ううえ...

どうも @mirakui です。IVRy で Platform Engineering をしています。今日は Aurora の新機能を使ってニッチなことをやっていこうと思います。 TL;DRAurora PostgreSQL の新機能を検証し、Aurora から Databricks の Delta Lake Tables に対して SELECT できることを確認しました。Databricks の提供する Iceberg REST Catalog API を経由することで Unity Catalog 側のガバナンスを適用した権限の制御はテーブル単位でのみ可能でした。(row/c...

こんにちは。IVRyでAI Engineerをしているtagucciです。本記事公開時点でJevの公開から10日。Jevの詳細は現時点ではまだ不明なものの、JevBenchのページを見ると類似モデルが既に多数公開されています。いやはやすごい速度ですね…https://benchmarkheaven.com/jev-modelsJevの良い点としては「安い・速い」だと思いますが、「うまい（精度が高い）」かどうかは要検証といったところです。公式ドキュメントにも記載されているように、「英語が主要言語なので、それ以外の言語はちゃんと検証してね」というわけです。社内でも一部の分類タスクやL...

はじめにこんにちは。IVRyでAnalytics Engineerをしているnoakiです。社内のデータはDatabricksに集約していて、それを見るための入口のひとつとしてDatabricks Genie Agent（以下Genie）を使っています。Genieは、日本語で質問するとSQLを組み立てて実行し、答えを返してくれるインターフェースです。https://www.databricks.com/jp/product/genie/agentsGenieを使っていく中で気になってきたのは、「解約率」「パイプライン」のように、社内では通じているものの、厳密には複数の指標を指...

こんにちは。ラーメンハゲです。最近は牡蠣のラーメンをスープから作りました。IVRyで対話システムのAIエンジニアをやっています。学生の時はNAISTで対話の研究をしていました。YANSには学生時代に数回参加しつつ、今年は初めてスポンサー側として参加したのでその報告をします。ちなみにYANS自体は今年で4回目ぐらいの参加ですが、自分が最初に参加した時はコロナ下だったのでzoom+gatherでの参加だった記憶です。懐かしい。 YANSとはYANSとは、Young Researcher Association for NLP Studiesの頭文字に由来する名称です。 特徴として、他...

はじめにこんにちは。株式会社 IVRy でソフトウェアエンジニアをしている岸田 (@mwudo) です。AI 対話の機能開発を担当しています。趣味はボルダリングです。弊社の社員4名で PyCon JP 2026 に参加してきたので参加レポートを書くことにします。 PyCon JPhttps://2026.pycon.jp/jaPyCon JP はプログラミング言語 Python に関する国際的なカンファレンスで、日本で開催されています。2026年は2025年に引き続き広島で開催されました。参加者層は日本人だけでなく海外の方も非常に多く、運営側のスライドや発表で日本語と...

株式会社 IVRy のアナリティクスエンジニアの wada です。小ネタ記事ですが、Databricks 上でデータの信頼性を示すための認定済みタグ（Certification status system tag）を dbt で管理してみた話です。 課題背景Data + AI Summit 2026 での発表で、Databricks の AI 機能は Genie ファミリーとして再編されました。これまで、例えば個別のダッシュボードなどに対応していた AI 機能の Genie Space は Genie Agent となりました。Genie One は Genie Agent を含...

TL;DR対話システムの評価は、全自動化できない。人間が最終確認する Human-in-the-Loop 前提での設計をする必要がある。IVRy では、正解ラベルを固定してテストケースを作り、オフラインでまとめて分類器に流している。正解ラベルと合致しなかったケースだけを LLM で再判定し、判定が割れたものだけを人間に回す。この絞り込みで、人間が確認すべきケースは全テストケースの 10% 前後に収まっている。人間が確認した結果は、問い合わせ項目設計の見直しに戻して同じテストケースで再評価する。 はじめに以前、「対話システムの評価を LLM にどこまで任せられるか：5 ...

こんにちは。Embedded SRE の komtaki です。re:Invent 2025 で発表された AWS Lambda Durable Functions を、非同期処理待ちのワークフローで本番運用し始めました。きっかけは、外部サービスに溜まった古いデータを、保持ポリシーに沿って定期的にまとめて削除するバッチの実装でした。外部の非同期処理の完了を待ってから、大量のデータを並列で処理する多段のワークフローで、Durable Functions がちょうどはまる形でした。AWS Lambda Durable Functions は、Lambda 関数でこれまで困難だった最大 ...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba）です。趣味はビリヤードで、プロの試合にも出ているぐらい割とガチでやっています。今回はData + AI Summit（以下Summit）に参加してきたので、現地の様子と注目した発表をまとめます。その前に、いつものビリヤードの話を。Data + AI Summitにはいくつかクエストがあって、達成するとビリヤードボールっぽいものがもらえます。ビリヤードプレイヤーとしての使命感で集めてきました。https://x.com/Data_AI_Summit/status/1933245536389198198...

TL;DR対話システムを「エンドユーザーが使えるか」の観点で受け入れテストするとき、シナリオ生成も評価も LLM に任せたくなります。しかし、LLM によるシミュレーション／評価には、生成発話のクオリティ、LLM as a Judge の限界、LLMベースシミュレーターの持つ譲歩問題など大きく5つの落とし穴が存在します。合成データによる自動評価は本物のエンドユーザーの代理にすぎないため、LLM を使った評価はあくまで対話システムリリースのための「必要条件」でしかならないことに注意が必要です。本記事では LLM によるシミュレーション／評価が、どこでうまくいかなくなるか（...

はじめにこんにちは、IVRy でデータエンジニアとして働いている松田 健司(@ken_3ba)と申します。趣味はビリヤードで、プロの試合にも出ていたりするぐらい割とガチでやっています。余談ですが、最近のビリヤード漫画だと岡Q先生の『ミドリノバショ』（小学館）が面白かったです。作中には手前の球を飛び越える ジャンプショット も出てきます。漫画では足で固定してジャンプショットをしていますが（たぶん反則な気がする）、足で固定しない普通のジャンプショット自体は実際にあり、自分もよく使います。岡Q『ミドリノバショ』（小学館）よりビリヤードの話はこの辺にして、本記事は Databric...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba）です。趣味はビリヤードで、プロの試合にも出るぐらい割とガチでやっています。ビリヤードが盛んな国はどこかご存知でしょうか。アメリカやヨーロッパが盛んなイメージかと思いますが、実はフィリピンや台湾といったアジアでも人気で、世界ランキング上位に複数います。日本にも世界で戦うスタープレイヤーの大井直幸プロがいて、応援しています！画像出典: SE11トーナメント | ビリヤードキューズビリヤードの話はこのへんにして、本題に入ります。 TL;DRゼロからデータ基盤を作って踏んだ3つの失敗談（スナップショ...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba）です。趣味はビリヤードで、プロの試合にも出ているぐらい割とガチでやっています。今日のビリヤード情報は、billiards_TV というYouTubeチャンネルがオススメです。まさかビリヤードにもゆっくり解説があるとは（笑）。初心者にもわかりやすい内容なのでぜひチェックしてみてください。さて、本日のビリヤードの話はこのへんで切り上げて本題に入ります！ はじめにこの度、Databricks Japan User Groupが主催する JEDAI Order 2026 にて、IVRyから3名が表彰されま...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba)です。趣味はビリヤードで、プロの試合にも出ているぐらい割とガチでやっています。先日、年に一度のアマチュア最大の大会「全日本アマチュアナインボール選手権大会」の東京予選に出場しました。101人中わずか6人しか本選に進めない狭き門で、9ボールの7先（先に7ラック取った方が勝ち）で戦います。2回戦まで進んだのですが、6-6のヒルヒル（お互いあと1ラックで勝ち）から最後にミスして敗退しました。悔しい...全日本アマチュアナインボール選手権大会の本選特設会場。いつかここで撞きたい。さて、本日のビリヤードの話は...

はじめにこんにちは！IVRyのdataグループでインターンをしているTsukasaです！インターン最初の1ヶ月で、社内データをよりAIフレンドリーな環境にするために、OBT（One Big Table）の作成を目的としたDatabricksのメタデータ分析に取り組みました。本記事では、この取り組みで得たsystem tableの活用方法についての知見を紹介します。以下のような方に読んでいただくことを想定しています。Databricksで管理している自社データの利用分析を行いたい方インターン生の取り組みについて知りたい方IVRyに興味のある方なにぶん初めての記事で...

こんにちは、IVRyでデータエンジニアとして働いている松田健司（@ken_3ba)です。趣味はビリヤードで、プロの試合にも出ているぐらい割とガチでやっています。今年に入って、ビリヤードの世界大会で日本人の女性と男性がそれぞれ優勝しました！ビリヤードはマイナースポーツなのでご存知ない方も多いかもしれませんが、これは本当にすごいことでとても感動しました！そして、優勝するとビリヤード台の上でパフォーマンスをするという慣例があるのですが、その優勝した日本人プロの方は靴を脱いで台に上がり、日本人らしさを感じました笑さて、本日のビリヤードの話はこのへんで切り上げて本題に入ります！ はじめ...