生成AIのSlackbot導入から1年半。社内での活用が広がり、次のステップが見えてきた話

ChatGPT 生成AI

はじめに

こんにちは、新卒3年目の佐藤です。

ちょうど1年半ほど前に生成AIのSlackbotを社内向けに導入したブログを書き、ありがたいことに多くの反響をいただきました。

tech-blog.monotaro.com

このブログにあるようにMonotaROでは、2023年5月にGPT-3.5のSlackbot「MonoChat (β)」を全社員向けに開発・導入しました。
本ブログでは導入の"その後"の話として、実際にMonotaRO社内でどれだけSlackbotが活用されているかという話とその要因、そして社内での更なる生成AI活用に向けた直近の取り組みを紹介したいと思います！

1. 全社員の"相棒"として定着したSlackbot

実装したSlackbot「MonoChat (β)」はGPT-4を経てGPT-4oへとアップグレードされ「MonoChat-4o」として生まれ変わっています。そして、社内のエンジニア・非エンジニア問わず多くの方に活用されています。
昨年の5月ごろに生成AIの活用について全社員向けにアンケートを取りました。165件の回答（エンジニアの方々 60% 非エンジニアの方々 40%）があり、92.7%の方がこの1年以内に生成AIを利用し、そのうち90.2%が月1回以上利用すると回答がありました。

またSlackbotの利用量は、以前ブログを書いた時点では1日に400件ほどの利用量でしたが、今では1日に900~1000件利用されるようになっています。

特に嬉しかったのは非エンジニアの方々にも生成AIの活用が浸透していることです。アンケートによると以下のような使い方をしてくださっているようです。

  • 社外向けメールの添削
  • キャッチコピーの案など、一度に複数出力してくれて、文字数指定など融通も利かせられる
  • 週報や企画書の下書きをサクッと作成できる
  • 英文の翻訳がわかりやすい。フォーマル・カジュアルの使い分けなども簡単にできる
  • Excelの関数やGASについて尋ねる

回答をそのまま使用するというより、アイデアの出発点や叩き台として利用されており、使い方としても良い形で広まっているのかなと思います。

振り返ってみて、普及した要因として以下の点がよかったかなと思っています。

  • 普段利用するコミュニケーションツール（Slack）上で利用されるので、他の方の投稿を見て興味が沸きやすい ＆ 良い使い方を真似てもらいやすい
  • アップデートの内容や出来るようになったこと を分かりやすく伝え、興味を持ってもらえる工夫をしたこと
  • Slackbotについてテックブログを書いたことで、このSlackbotが何者かを伝えやすくなったこと

2つ目は特に心がけました。
例えばGPT-4とGPT-4oの違いは生成AIに詳しい人でないとよくわからないと思っています。なので一目でなんとなく理解でき、身近な利用例を交えたスライドを作成し共有しました。

2. Slackbotのその先へ：より自由度の高い「LibreChat」の導入

Slackbotは使いやすさという点で優れていますが、あくまでSlackのアプリなので課題もあります。

  • 文字数制限がSlackの制限に依存する
  • Markdownの表示やコードブロックの表示が崩れがち
  • モデルの切替機能やプロンプトの付与などの新規機能追加が、使いやすさとのトレードオフになってしまう

またアンケートでは以下のような声がありました

  • pdfやcsvやdocxといった資料の要約・分析に生成AIを利用したい
  • ファイルを前提知識として与えるRAGのようなことがしたい

社内で生成AIを手軽に使える環境はSlackbotしかなく、より自由に、色々なことを試せるような環境がないことに気が付きました。
そこで、Slackbotよりも自由度が高いプラットフォームを構築し、さらなる生成AI活用の可能性と選択肢を提供したいと思いたちました。スローガンは「MonoChatの向こう側」です！

そこで、LibreChatというOSSを社内サーバーにホスティングし、社内ChatGPTを構築することにしました。

github.com

LibreChatを選んだ理由はいくつかあります。

  • ChatGPTそっくりなUIとUXで直感的な利用ができる
  • OSSで社内サーバーにホスティングでき安心して業務利用できる
  • リポジトリの更新頻度が高く機能追加が活発（アーティファクト機能まであり驚きました！）
  • 一緒に導入を進めた方がプライベートで使っており推された（熱量がすごかった🔥）

裏側はAzure OpenAI Serviceと、Anthropic APIを利用しています。

3. SlackbotとLibreChatの使い分け

LibreChatを導入すると、出来ることがグッと広がります。

Slackbot（MonoChat-4o）は ：

  • チャット感覚でサクッと質問
  • Slack内での素早い情報共有

LibreChatでは：

  • 長い文章もバッチリ（Slackの文字数制限を気にしなくてOK！）
  • RAGを実装しており、docx、csv、pdfなどの資料の要約・分析もできる
  • GPT-4o, Claude-3.5-Sonnetなど、目的に合わせてモデル選択可能
  • コードのプレビュー表示（アーティファクト機能）などの便利機能つき

4. LibreChatの導入効果と現場の声

LibreChatの導入はPoC的にスタートさせました。生成AIはコスト面の見積もりが難しく、特に今回はRAGでファイルを扱うこともありトークン数の予測が全く立てられなかったためです。

結果は上々で、アンケートでは92.8%の方が「継続して使いたい！」と回答しました。

APIの利用コストに関しては日次でチェックをしコストの感覚を掴みながら、徐々に利用部署を拡大していきました。
APIコストは展開中の10月分が100ドル弱、利用者が増えてきた11月分が200ドル弱程度でした。生成AIの価格はどんどん下がっていることもあり、大規模に利用しても思ったよりも安く済むというのが率直な感想です。

導入から利用ユーザーは徐々に増え、直近では日次で80~100人ほどの方に使っていただいています。まだエンジニア系の部門（+希望者）への展開に留まっていますがそれでも日次で600~700件ほどの利用がされています。

ただ大量のトークンを扱うと途中でストリーミングが止まってしまうことがあり、その使いづらさや対応方法が分からないといった意見がある一方で、やはり動作や体験の良さ・スムーズさであったり、生成された回答やプロンプトのログが管理しやすい形で残ることがかなり好評でした。

僕自身も元々はSlackbotのヘビーユーザーだったのですが、今ではすっかりLibreChatばかり使うようになってしまいました（笑）

5. より便利な生成AI環境を目指して

現在はエンジニア系部門中心（+希望者）での展開ですが今後は全社展開をしていきます。
LibreChatは自由度が高い分、生成AIに慣れていないとハードルが高くなってしまいがちですが、初手でSlackbotを全社展開したことで比較的ハードルも少なく受け入れてもらえるのかなと考えています。

新しい機能や使い方を取り入れながら、より便利に、より多くの方に使っていただけるよう進化させていきたいと思います。

おわりに

思い返すと「とにかく使いやすく！」という一点に集中したことが今の広がりにつながった気がします。完璧を目指すより、まずは使ってもらえる形にする。そこから少しずつ改善を重ねる。そんなアプローチが意外と大事だったかもしれません。

この「使いやすさ」というのは、全体的な流れでいうと、Slackbotという利用ハードルの低いツールから始められたこと。LibreChatについても、マニュアルの整備や、普段使っているGoogleアカウントでログインできるSSO認証の採用、RAGの導入による実用性の向上、Anthropicのclaude導入による日本語対応の強化など、常にユーザー目線で改善を重ねてきました。

また、導入のタイミングとスピード感も重要でした。社内で「生成AIをどんどん使っていこう」という機運が高まっていたことや、新卒2年目の方が構築してくれた社内のアプリ開発基盤のおかげで、インフラ準備の負担が大幅に削減できたことも追い風となりました（この素晴らしい基盤については、いつか別のテックブログで紹介されるかもしれません...！ |ω・)ﾁﾗ ）。

みなさんの組織でも生成AI導入を考えている方がいらっしゃれば、ぜひこの事例を参考にしていただければ幸いです！

ソフトウェア開発における生成AIの活用も別途進められていて、見えてきていることもあるので、折をみてブログで公開する予定です。

そして最後に...
本ブログの筋とはズレますが、新卒3年目で社員全体の働き方に影響させられるような取り組みをリードすることができとても良い経験になりました。上長やサポートくださった周りの方々に感謝します。

実はこの取り組みは私の所属している部署の業務というわけではないのですが、業務時間を利用して有志的にやらせていただいています。MonotaROはこのようなチャレンジを歓迎してくれる会社だと思っています。当記事を通じて興味を持っていただいた方は、カジュアル面談もやっていますのでぜひご連絡ください。