こんにちは、データサイエンス部の大竹、R&D チームの森田、久保、新規事業開発室の鈴木、岡田です。 今回の記事は 3/11 ~ 3/15 の 5 日間にわたって開催された言語処理学会第 30 回年次大会 (NLP2024) の参加レポートになります。 NLP2024 について 企業ブースとポスター紹介 論文紹介 [C3-2] 長文生成の多面的評価:人手評価と自動評価の向上を目指して [A5-4] 文献理解のための人間の応答を利用したプロンプト最適化 [C6-4] 金融分野における言語モデル性能評価のための日本語金融ベンチマーク構築 まとめ NLP2024 について 言語処理学会は人工知能の一分…

はじめに 現状の実装と課題: 不整合データの混入による手戻り 対応方針: PR 時点でデータ不整合を検出する CI 環境で dbt が使えるようになった dbt seed とは 方針 実装 csv ファイルの配置 プロファイル設定 dbt_project に seeds の設定を追加する シードでロードするテーブルの設定を追加する GitHub Actions で dbt seed と test を行う GitHub Actions で各ステップを記述する 導入結果 さいごに 余談: ChatGPT にエラー解析と初心者解説を頼んだらかなり心理負荷が下がった 参考文献 はじめに こんにちは、B…

こんにちは、 ML チームの k.oshiro です。 この記事は Gunosy Advent Calendar 2023 の 17 日目の記事です。 昨日の記事は yamayu さんの 「サードパーティ Cookie を使わない広告効果計測 〜Privacy Sandbox の Attribution Reporting API について〜」 でした。 本記事では、社内勉強会の1つであるアルゴリズム勉強会で発表した「MessagePack の仕様を読む」を紹介します。 アルゴリズム勉強会とは Gunosy では様々な社内勉強会が定期的に開催されており、アルゴリズム勉強会はそのうちの一つです。…

はじめに こんにちは。最近所属が変わり、新しく新規事業開発チームに配属された上村です。 本記事は、Gunosyアドベントカレンダー2023 13日目の記事です。 昨日の記事は、田辺さんの「A/Bテストの情報過多と戦う」でした。 今回は、新規事業開発チームで開発している「ウデキキ」という業務支援ツールについてご紹介します。 また、ウデキキのチャット機能の実装についてもご紹介します。 「ウデキキ」とは サービス紹介 ウデキキ ウデキキは、ChatGPTという強力な自然言語処理モデルを活用した業務支援特化の生成AIサービスです。 通常、ChatGPTから望ましい回答を引き出すためには、LLM（Lan…

はじめに 背景: A/Bテスト作業者の増加による品質差が出てきた 課題: 情報過多がさまざまな課題を引き起こしている 原因: 膨大な情報をハンドリングするスキルが個人の経験値・地頭に依存してしまう では膨大な情報をどう扱えばよいのか？ 改善1. 情報を削る 改善点2. 情報の抽象度を上げる (仮説ありきで考える) 対処: 見ないべき指標ガイドライン整備 さいごに こんにちは、BIチームの田辺です。 この記事はこの記事はGunosy Advent Calendar 2023の12日目の記事です。 前回の記事はtakujiさんのLLM を使って自分のおさいふ事情を把握してみるでした。 はじめに 今…

こんにちは。データサイエンス部 ML チームの村田です。スプラトゥーンで新シーズンがはじまりましたね。 この記事は Gunosy Advent Calendar 2023 の 10 日目の記事です。前回の記事は otake さんの パーソナライズド動画推薦システムをつくる でした。 はじめに 新規広告推論モデル学習パイプライン システム外観 学習パイプライン外観 機械学習ワークフロー構築時に意識したこと 前提 ETL 特徴量の作成をバージョンごとの学習パイプラインから分離 Train モデル作成の実行時パラメータに対する冪等性の確保 CI 学習パイプラインと推論サーバーで推論に差分が無いか確認…

この記事は Gunosy Advent Calendar 2023 の 9 日目の記事です。昨日の記事は koizumi さんの「インシデント発生時における初動対応の自動化」でした。 こんにちは、データサイエンス部 ML チームの大竹です。 弊社では KDDI 株式会社が提供するスマートフォン向け動画アプリ、au5Gチャンネルに対して動画コンテンツのレコメンドエンジンを提供しています。今回のブログでは、au5Gチャンネルのレコメンドエンジン開発をどのように進め、そこからどのような学びが得られたのか、パーソナライズド推薦モデルの構築にフォーカスしてその足跡を振り返りたいと思います。 全体観やシス…

こんにちは。R&D の森田です。牛スネ肉のブロックをまるごと炭火で焼いたら美味しかったので、最近のオススメです。 この記事は Gunosy Advent Calendar 2023 の 2 日目の記事です。前回の記事は nagayama さんの Android DataStore の段階導入 でした。 今日は、進歩が速すぎる LLM (Large Language Model) 界の論文をどう追いかけていくかについて紹介します。 一口に LLM の論文といっても LLM に関係する領域は広がり続けていて、それぞれが 1 分野といっても差し支えのない量の論文が日々出続けています。例えば、11/2…

はじめに はじめに dbt はそもそもツールとして何を行なうか ELT における Transform について dbt が担っている機能 dbt は技術的にどのようにして Transform を実現しているか Jinja テンプレートによる SQL の生成 各種データ基盤に向けたデータ変換の手続きの抽象化 生成された SQL に基づくデータ変換の手続きの実行 さいごに DRE&MLOps チームの hyamamoto です。 最近は涼しくなってきて、秋の気配が感じられるようになってきましたね。 秋は一番好きな季節なので嬉しいです。 さて、今回は dbt について少し変わった切り口で紹介します。…

2023年4月に新卒エンジニアとしてデータサイエンス部MediaMLチームに配属された大城（k.oshiro）です。 普段はauサービスTodayアプリの記事配信システムの開発を行っています。 本記事は、新卒エンジニアとして入社後にやってきたことを簡単にまとめたものです。 新卒研修 1日のスケジュール OJT auサービスTodayについて 実装 A/Bテスト 振り返り 終わりに 新卒研修 Gunosyの新卒研修は、新卒全体に対して実施される全体研修と、エンジニアのみを対象にしたエンジニア研修の2つがあります。 全体研修では、各事業部についてメンバーや業務内容の紹介、セキュリティやコンプライア…

はじめに 情報検索のカンファレンスであるEuropean Conference on Information Retrieval (ECIR)が2023年の4月2日から4月6日の間にアイルランドのダブリンで開催されました。 Gunosyから投稿した論文がフルペーパーとして採択されたため*1、飯塚が参加・発表してきました。 Gunosyから本学会に参加するのは今回が初めてとなります。 ECIR2023について ECIRはヨーロッパと名のつく通り、ヨーロッパ各地で毎年開催される学会であり、今年は45回目という歴史のある学会でした。 ヨーロッパ出身の方に加え、インドからの現地参加者も多かったように思…

はじめに こんにちは、Gunosy Tech Lab (GTL) MediaMLチームの上村です。今回のブログでは、先日プレスリリースがあった au 5Gチャンネル へのレコメンド機能の提供についてご紹介したいと思います。 gunosy.co.jp 「au 5Gチャンネル」とは*1 「au 5Gチャンネル」はドラマ・アニメ・映画、音楽などのエンタメ情報や生活に根差したお役立ち情報、かわいい動物達の癒し動画や話題のおもしろ動画など、様々なジャンルのトレンド動画をザッピング感覚でお楽しみいただけるアプリです。 また、5Gマップにて生活圏が5Gエリアかどうかを確認でき、5Gエリア化された際にお知らせ…

こんにちは、GunosyTechLab の濱下、森田、大竹、飯塚、久保です。 今回の記事は、3/13〜3/17 の 5 日間にかけて開催された言語処理学会第 29 回年次大会（NLP2023）の参加レポートになります。 NLP2023 について 言語処理学会は人工知能の一分野である（自然）言語処理を専門とする学会です。今年はコロナ禍以降初となる、大規模な対面でのセッションを含むオフライン・オンラインのハイブリット開催で、現地会場も大いに賑わっていました。参加者数は 1828 人、発表件数は 579 件、スポンサーは 80 団体となり、いずれも歴代最高となりました。 Gunosy からは、「P1…

はじめに 背景とモチベーション ニュースキュレーションサービスとしての自動要約技術の重要性 事前学習済み言語モデルの急速な発展 自動要約モデルの作成 タスク設定 モデル データセット T5 の fine-tune 評価 自動評価 人手評価 推論の高速化 ONNX とモデル量子化 CPU を使用した推論速度と要約精度の評価 API 実装と slack bot 化 API 化 slack bot化 ChatGPT の登場 今後に向けて・おわりに はじめに こんにちは、 Gunosy Tech Lab (GTL) MediaML チームの大竹です。今回のブログでは、社内で運用されているニュース記事の…

こんにちは、GunosyTechLab の上村、飯塚です。 今回の記事は、3/5〜3/9の5日間にかけて開催された第21回日本データベース学会年次大会（DEIM2023）の参加レポートになります。 DEIM2023 について DEIMはデータ工学と情報マネジメントに関するフォーラム という名で毎年3月上旬に開催される学会です。 検索や推薦、データベースシステムからビッグデータ、SNSなど幅広い分野のトピックにまつわる研究が発表されています。 今年は、前半がオンライン、後半がオフラインでの開催となりました。 オンラインの参加者数は800名程度、オフラインの参加者数は400名程度でした。 オフライ…

こんにちは。Gunosy Tech Labの飯塚、森田です。 今回の記事は3月の学会発表予定のお知らせです。 3月5日から3月9日にかけて開催される「第15回データ工学と情報マネジメントに関するフォーラム（DEIM2023）」、および3月13日から3月17日にかけて開催される「言語処理学会第29回年次大会（NLP2023）」において、Gunosyから計3件の発表を行います。 DEIM2023 3/5 3b-1: 推薦モデル「[技術報告] Gunosyにおける推薦システムの変遷と深層学習モデルの応用事例の紹介」 この発表では、Gunosyにおける推薦システムの変遷と深層学習モデルの活用例を紹介し…

はじめに 背景 課題 解決策：Incremental Trainingの導入 1, 特徴モジュール 2, モデルの継承 実験結果 まとめ はじめに こんにちは。Gunosy TechLab Ads MLチームのしょうえいです。 この記事は Gunosy Advent Calendar 2022 の22日目の記事です。 Ads ML側はユーザに興味がありそうな広告を洗い出し、レコメンドすることを担当しています。 今回は、導入する予定の新広告レコメンドモデルのオフライン実験で実践したIncremental Trainingについて話します。 背景 Gunosyではグノシー・ニュースパス・LUCRA…

この記事では、ELT パイプラインにおける Transformation ツールである dbt の snapshot という機能について紹介した後、snapshot の手法を一般化したディメンションモデリングにおける概念である Slowly Changing Dimension を包括的に紹介します。

MediaML ではニュース記事のパーソナライズシステムの運用をしています。その一部に記事やユーザーをベクトル化する Python 製の API があり、内部では TensorFlow を利用しています。今回、その API を新モデルの検証のために新規構築する機会があり、そこで遭遇した arm64 由来の TensorFlow に関するエラーについてまとめていきます。 本記事では主に TensorFlow について記述していますが、amd64 と arm64 が混在するような開発環境の方には参考になるかと思います。

本記事では、2022 年春頃に auサービスToday のニュース記事プッシュ通知に導入したパーソナライズシステムについてご紹介いたします。

はじめに 他ドメインと比較したニュース記事推薦の特徴 1. ライフサイクルの短さがもたらすコールドスタート問題 2. 深い言語理解の必要性 3. 明示的なフィードバックの利用の難しさ トピック別ニュース記事推薦手法 記事の人気度合い（popularity）の考慮 概要 既存研究 固有表現（Named Entity）の明示的な考慮 概要 知識グラフと知識グラフ埋め込み 既存研究 リッチな言語表現の利用 概要 既存研究 明示的なユーザーフィードバック・post click指標の利用 概要 既存研究 ユーザーの興味をより正確に捉えるアーキテクチャ 概要 既存研究 今後のチャレンジ おわりに はじめに…

あいさつ 自己紹介 なんでGunosyに入ったの？ 新卒研修 新卒研修 Udemy（動画による研修） OJT 概要 動画記事の利用状況を分析する（SQL） 「動画記事リスト」を作成する（Python） 動画記事の挿入を行う（Golang） ABテスト OJTを振り返って 終わりに あいさつ こんにちは！2022年4月、株式会社Gunosyに新卒エンジニアとして入社したhigetaと申します。本記事は私にとって初めてのブログ執筆となります。 例年より暑く、諸々の事情で外出が億劫になった8月を乗り越え、ようやく涼しくなってきた頃ですが、もう9月ということは私が4月に入社してから既に6ヶ月目というこ…

Stable Diffusion を Windows 10 で動かすイメージ画像 （作: Stable Diffusion） *1 こんにちは。初めまして、Gunosy Tech Lab R&D の 森田 （pnnc205j）です。最近好きな牛肉の部位はカメノコです。 今回は、テキストから画像を生成する Stable Diffusion を Windows 10 で動かしてみましたのでご紹介します。 Stable Diffusion はルートヴィヒ・マクシミリアン大学ミュンヘンと Stable.AI の発表した、一般的なPCで動かせるほど軽量でかつ高品質な画像を生成できる画像生成モデルです。 …

こんにちは。GunosyTechLab MediaML 所属の suchida です。普段の業務では、記事配信アルゴリズムの開発を行っています。ここ最近は A/B テストの荒波が収まり、穏やかに開発を進めています。本ブログでは社内勉強会の一つである、"学んだことLT会"についての紹介とそこで取り上げられた本・記事の紹介を行いたいと思います。 学んだことLT会とは？ 概要 "学んだことLT会"とは、新卒を中心とした若手メンバーが集まって開催している「業務内外で学んだことをフランクに共有しよう」という会です（通称:20〜22卒LT、雑LT）。 隔週に一度のペースでオンライン開催しており、10名程度…

こんにちは GunosyTechLab AdsML チームで広告周りの開発をしている濱下（@m-hamashita） です。なかなか IDE に移行できずに Neovim で開発をし続けているのが最近の悩みのひとつです。 今回の記事は、6/14〜6/17 にかけて開催された人工知能学会の参加レポートになります。 現地会場の看板 今年の人工知能学会は、現地とオンラインのハイブリッド開催でした。 現地会場は国立京都国際会館で、京都駅から電車で 20 分ほどの位置にありました。 Gunosy からは濱下（m-hamashita） 、飯塚（koiizuka）が現地で参加し、大竹（totake）がオンラ…

こんにちは。Gunosy TechLab R&D チーム リサーチインターン の北田 (shunk031) です。今回はようやく皆様にお見せできる、可愛い我が子（もちろん研究のことです）について書きます。 今回採録された論文の全体像：広告クリエイティブを最適なタイミングで停止するよう支援する深層学習を元にした枠組みを提案しました。 この度、私と研究開発チームの 関さん で取り組んでいた研究が MDPI 社が発行する Applied Science 誌 という論文誌 （査読付き journal article) に掲載されました。 www.mdpi.com 今回の論文は "Ad Creative…

こんにちは！GunosyTechLab MediaMLチームの大竹です。普段の業務ではグノシーアプリにおけるニュース記事配信ロジックの開発や記事推薦モデルの開発を行っています。今回の記事は、3月14日〜18日にかけて開催された言語処理学会第28回年次大会 (NLP2022)の参加レポートになります。今年はGunosyからの発表はありませんでしたが、スポンサーとして全5日の日程に参加しました。 NLP2022について 言語処理学会は人工知能の一分野である（自然）言語処理を専門とする学会です。今年は昨年、一昨年に引き続き、チュートリアル等一部のプログラムを除いてオンラインでの開催となりました。今年…

こんにちは、Gunosy Tech Labリサーチアルバイトの大畑です。 Gunosyデータ分析ブログへの投稿は初めてになります。 私は2021年9月よりリサーチアルバイトとして研究を行なっており、今回が初の外部発表になります。 2月27日~3月2日に開催された第20回日本データベース学会年次大会 (DEIM2022)に大畑、飯塚が参加し、発表を行いました。今回は私がGunosyで研究を始めた背景や問題意識を含めた学会の参加記録を書いてゆきます。 DEIMとは DEIMは第14回データ工学と情報マネジメントに関するフォーラム という名で毎年3月上旬に開催される学会です。検索や推薦、データベース…

はじめに アンケートにおける注意点 「何のためにこの質問をするのか」を明確にする できる限りバイアスを排除する 質問文はわかりやすく、誤解のないように よく使う統計手法 母比率に関する検定 適合度の検定 独立性の検定 マン・ホイットニーのU検定（ウィルコクソンの順位和検定） おわりに はじめに おはようございます。BIチームの齊藤です。 サンタさんには善玉コレステロールと来年1月末の某ライブのチケットをお願いしようと思います。マジで頼む。 こちらの記事は Gunosy Advent Calendar 2021 の18日目の記事です。 昨日の記事は同じくBIチームの田辺さんの「オンラインホワイト…

こんにちは！BI チーム新卒の田辺です。本日は、週次振り返りの数値確認にオンラインホワイトボードツールのMiroを導入した話をご紹介します！