Difyの社内勉強会を開催したらすごい人で嬉しかったけど、ちょっと考えさせられた
はじめに
こんにちは、最近ピタパンづくりにハマっているSHIFT 森川です。
話題のDifyの社内勉強会を開催したのでレポートを綴ります。
週末にふと気になったので、セルフホスティングでおうちPCにDifyを立てて遊んでみました。
Dify.AI · 先進的なAIアプリケーションのためのイノベーションエンジン
下記のブログのチャットボットと同じものを作ってみました。
Pinecone + OpenAIでオリジナル物語のQAボットを作ったら意外とお利口だった
当時は結構な開発時間を要した記憶なのですが、Difyだと環境構築から、チャットボットのデプロイまで正味1時間かからずできてしまいました。（脚色なし）
あまりの簡単さに驚いて、是非ともみんなで触ってみたいと思い、AWSに環境立てて、社内のAIコミュニティの人たちに相談したら非常に好感触。
調子に乗った私は1週間後に勉強会を開催することに。(スピード感大事）
エントリーは240人、参加は160人という結果に
エントリー期間が短くてさすがに厳しいかなと思いきや...
ふたを開けてみると約240人エントリーの160人以上参加という大盛況の結果になりました。
当社のエンジニアの感度の高さも嬉しいですし、サクッと効果的なイベント告知ができる社内メディアがステキです。
コンテンツはいたってスタンダードで、こんな感じ。
Difyとは？
RAGって何？
アプリ開発デモ
まとめ
サクっと50分でお釣りがくるクイックな構成。
業務後の開催なので、時間の有効活用は超重要事項なんです。
みなさん家事の手を止めたり、家族に時間をもらって参加してくれていますから。
RAG(Retrieved Argumental Generation)の説明に至ってはわずか3分程度。
「雑にRAGを説明する選手権」があったら入賞するレベルだと思う。
肝心のデモは事前に用意したRAG用のコーパスを使ってチャットボットを開発してもらいました。
コーパス（辞書）は当社の独自用語集。ググっても載っていない言葉ばかりをチャットボットに預けてみました。
ものの5分ぐらいでアプリは完成。
即デプロイして、イベント参加者に触ってもらいました。
想定よりも参加者がはるかに多くて接続エラーが発生したりしましたが、とにかく無事終了。
どうしてここまで集まったのか？
参加後アンケートは回答率60％と高め。たくさん返ってくると嬉しいですよね。
「イベントで得たいもの」ではDifyに次いで「AI活用、RAGなどの基礎知識」が高く、RAGというキーワードの底力を感じます。
「Difyはすぐに使えそうだと感じましたか？」では「使えそう」など70%越えのポジティブ回答。
Difyが人気なのはわかるが、どうしてここまで集まったのだろうか？
プロンプト疲れ（かもしれない）
生成AIとノーコードツールというパワーコンボが注目を集めているのは言わずもがなですが、社内イベントを長年重ねてきた自分としては、それだけではない感もあり。
なぜなんだろう？
私はこれを「プロンプト疲れ」ではないかと考えました。
みんなChat-GPTに、プロンプトをあれこれ工夫することに、疲れてしまったんじゃないだろうか。
「もう無理。プロンプト抜き、生成AIありで、お願いします」状態なのでは？
あくまで私見であり仮説なのですが、ググってみたら「プロンプト疲れ」について触れているガートナー発信に関する記事を見つけました。
生成AIには長期的な期待がありますが、現時点では、2桁の生産性の向上よりも、実装による『プロンプト疲れ』を引き起こす可能性のほうが高いでしょう。特に社内のセキュリティ以外のチームには、取り組みを促進し、期待値を調整することが肝要です
サイバーセキュリティに関する内容ですが、言っていることは遠からず。
生成AIの過度な期待が招く疲れの話だと思います。
プロンプト症候群とでも言いましょうか。
LLMチャットは、Google以上、友達未満
ここからはさらに仮説です。
私たちはChat-GPT（または同様のチャットサービス）をGoogleより便利だと言ってせっせとプロンプトを打ち続けました。
少し深い意味の回答を得るにはコンテキストを入力してあげないといけない、ことを知りました。
いっそう頑張って長いプロンプトを入力します。
だけど毎回プレーンなLLMに対してコンテキストを入力するのは不毛です。
毎回同じ説明をしないといけないなんて、そんなのもう友達じゃない！まるで人工知能だ！（そうですが何か？）
このギャップを埋めるのが、プロンプト無しで動かせるDifyのようなプラットフォームであり次の段階はパーソナライズしたり、共有知をプリセットしたAIアシスタントの登場なのかもしれません。
そんな未来が早く来るといいですね。
次回は、DifyでアプリをつくってみたLTを開催する予定です。
気が向いたらレポート書きます。
そんじゃーね☆彡
弊社ではAI関連サービスのメニューを揃えています
AIシステムの品質に不安を感じていませんか？弊社のAI特化型品質保証サービスは、独自のフレームワークでAIの機能性や性能、安全性を徹底的に検証します。 学習結果の妥当性評価やリスク分析、テスト支援を通じて、信頼性の高いAIシステムを実現します。AIの導入や運用における課題を解決し、ビジネスの成功をサポートします。詳細はこちら をご覧ください。
執筆者プロフィール：森川 知雄
中堅SIerでテスト管理と業務ツール、テスト自動化ツール開発を10数年経験。
SHIFTでは、GUIテストの自動化ツールRacine(ラシーヌ)の開発を担当。
GUIテストに限らず、なんでも自動化することを好む。趣味は音楽とオルタナティブと、同社社員の「ろくろをまわす」写真を収集すること。 さまざま案件で自動化、効率化によるお客様への価値創出を日々模索している。2021年からは技術イベントSHIFT EVOLVEを始動。
お問合せはお気軽に
SHIFTについて（コーポレートサイト）
https://www.shiftinc.jp/
SHIFTのサービスについて（サービスサイト）
https://service.shiftinc.jp/
SHIFTの導入事例
https://service.shiftinc.jp/case/
お役立ち資料はこちら
https://service.shiftinc.jp/resources/
SHIFTの採用情報はこちら
PHOTO: Unsplashのfreddie marriage