WordLlama: 超軽量の単語埋め込みモデル

WordLlamaとは？ WordLlamaは、大規模言語モデル（LLM）の部品を再利用して作られた、効率的でコンパクトな単語表現モデルです。LLMから抽出した単語の埋め込み情報を基に、様々な自然言語処理タスクで活用でき […]

Ollama: ローカルPCでLLMを動かしてみる！

Ollamaは、ローカルPCでオープンソースの大規模言語モデル（LLM）を簡単に利用できる、非常に魅力的なツールです。今回は、Windows環境にOllamaを導入し、LLMを利用する方法について紹介します。 Ollam […]

人工知能（AI）は、現代の組織、特に中小企業（SME）の発展と競争力向上において重要な要素として認識されている。しかし、AIの導入には、コスト、技術的スキルの不足、従業員の受容性といった重要な障壁が存在する。本稿では、こ […]

今回は、自然言語処理の各タスクについて、有効なプロンプト設計についてまとめていく。まず、代表的なプロンプトテクニックをまとめ、その後タスクごとにどのようなプロンプト戦略が有効か見ていくことにする。代表的なプロンプトテク […]

エッジAIとは？近年、人工知能（AI）の進歩、IoTデバイスの普及、そしてエッジコンピューティング技術の発展により、新たな技術革新が生まれています。その中で注目を集めているのが「エッジAI」です。エッジAIの定義エ […]

ディープラーニングモデルの多くは、多層パーセプトロン（MLP）に大きく依存していますが、MLPには、解釈が難しさや、Transformerなどのモデルでは埋め込みパラメータ以外のほぼすべてのパラメータを消費してしまうとい […]

Retrieval-Augmented Generation for Large Language Models: A Survey より引用近年、Retrieval-Augmented Generation（RAG） […]