CAG– tag –

Cache-Augmented Generation (CAG)は、事前に計算したKey-Valueキャッシュを利用することで、LLMの推論時間を最大約92.3%削減する革新的技術です。リアルタイムな情報検索を不要とし、高速かつ高精度な応答生成を実現します。従来のRAGと比べ、特に知識ベースが小さい場合に顕著な効果を発揮し、多様な応用が期待されます。