RAG– tag –

DifyのワークフローをDifyのエージェントから呼んでみる、ということをやってみました。「え、なんのために・・・？」と思われるかもしれませんが、やってみたら結構便利そうだったので紹介します！

Llama 3.2は、テキスト生成、質問応答、翻訳、要約など、従来の言語モデルが得意としていたタスクに加え、画像の内容説明、画像からの情報抽出、画像に基づいた推論といった、視覚情報を扱うタスクにも対応できるようになりました。また、軽量モデルの提供により、従来はクラウド環境での実行が必須であったLLMを、より身近なデバイスで利用することが可能になり、AI技術の民主化を大きく前進させる可能性を秘めています。

Contextual Retrievalは、従来のキーワードマッチングや意味検索に加えて、ユーザーのクエリやタスクの文脈を深く理解することで、より正確で適切な情報を提供します。特に、プログラミングや技術的な質問など、文脈理解が重要なタスクにおいて効果を発揮します。この記事では、Contextual Retrievalの概要をご紹介します。

SELF-ROUTEという手法が注目されています。RAGの精度を上げる有効な手法のようです。SELF-ROUTEは仕組みとしてはシンプルなので、Difyのワークフローで再現し、出力を検証してみました！

米国時間で2024年7月23日、Meta社の最新のLLMであるLlama 3.1が発表され、多くの注目を集めています。Llama 3からLlama 3.1へのマイナーバージョンアップではありますが、大幅に進化したLlama 3.1は、その驚異的な性能とオープンソース化という決断により、生成AIの世界に新たな波を起こしています。 ​本記事では、Llama 3.1の魅力を余すところなく解説し、その可能性に迫ります。

以前もDifyでSEO記事作成を試していました。その模様は「DifyでSEO記事作成を試してみる」に記載しています。ただ、このときはワークフローでの作成はあきらめ、エージェントを使用しています。理由は、当時ワークフローにIteration（ループ処理）がなかったためです。 しかし、2024年5月31日にDifyのv0.6.9がリリースされ、Iterationが実装されました！早速、Iterationを使用してSEO記事作成をやってみたいと思います。

DifyはノーコードのLLMプラットフォームのように言われることが多いですが、様々な言語モデルや、何なら外部サービスなどを組み合わせていろんなことができます。アイデア次第でいろんなことができてしまうので、知的好奇心がくすぐられます。今回はDifyでRAG（文書検索）をサクッと作ってみました。

Difyが話題になっています。DifyとはオープンソースのLLMアプリ開発プラットフォームで、様々なLLMを使用してChatGPTのGPTsのようなものがノーコードで簡単に作れます。Difyには機能がかなりたくさん実装されているため、まだまだ検証し尽くせてはいませんが、とりあえずローカル環境に構築し、一通りの動作を確認し、デモとしてSEO記事を作成させてみる、ということをやってみました。

​​​Meta社が最新のLLM「Llama 3」をオープンソースとして公開したことが話題になっています。早速、GroqというLLMの推論を超高速に動作することができるサービスを経由してLlama 3を試してみましたので、実際に動作を確認できるまでの過程も含めてお伝えしようと思います。Llama 3もすごかったですが、Groqの圧倒的高速レスポンスに衝撃を受けました・・・！

​​さて、生成AIの分野で注目を集めているRAG（Retrieval Augmented Generation）をご存知でしょうか？RAGは、LLM（Large Language Model）の回答精度を向上させる技術として、AWSやAzureなどの大手クラウドベンダーも導入を進めています。RAGの仕組みを理解することで、ChatGPTを超える高品質な回答の生成が可能になるのです。 この記事では、RAGの基本的な仕組み、具体的な活用方法や事例などを詳しく解説します。

RAGは外部データを参照することでLLMの弱点を補い、より信頼性の高い回答を生成することができます。AWSやMicrosoft、Oracleといった大手クラウドベンダーもRAGのサービス提供を始めており、導入のハードルは下がりつつあります。 ​この記事では、RAGの概要や具体的な活用方法、LLMとの違いなどを分かりやすく解説していきます。