LLMの浅い理解と深い理解: AIは本当に言葉を理解しているのか?
生成AIは驚くほど流暢な文章を作成します。しかし一方で、事実とは異なる内容をもっともらしく語る「ハルシネーション」や、論理的に破綻した回答を生成することも少なくありません。なぜAIは、「言葉」の操り方は完璧なのに「意味」 […]
QueryGym: LLMベースの Query Reformulation フレームワーク
検索システムの改善において、ユーザーの曖昧な入力意図を補完する「クエリ拡張(Query Reformulation)」は、LLMの登場により劇的な進化を遂げています。しかし、論文で提案される有望な手法も、実装コードが散逸 […]
大規模言語モデルは知性か?現代AIの能力と限界
近年、大規模言語モデル(LLM)が示す驚異的なテキスト生成能力は、我々に「これは真の知性なのか?」という根源的な問いを投げかけています。その流暢さの裏で、LLMが膨大なテキストの統計的パターンを模倣しているだけの「確率的 […]
Socratic Self-Refine: 問答的自己改善によるLLMの推論能力向上
大規模言語モデル(LLM)は、Chain-of-Thought(CoT)プロンプティングを用いることで、数学的な問題解決から複雑な論理推論に至るまで、目覚ましい推論能力を発揮しています。しかし、推論過程を明示するCoTは […]
コンテキスト・エンジニアリング 2.0: 究極の知性へのロードマップと設計原則
近年、大規模言語モデル(LLM)とAIエージェントの急速な台頭により、システムにおける「コンテキスト」(文脈情報)の役割に大きな注目が集まっています。コンテキストウィンドウに配置された情報が、モデルの性能に著しく影響する […]
宇宙物理学における深層学習
現代の宇宙物理学は、GaiaやDESI、LSSTといった大規模な天文サーベイによって、ビッグデータの時代へと突入しました。数十年前の観測が数千のソースを扱っていたのに対し、現在では数十億もの天体の観測データが日常的に生成 […]
大規模言語モデルによる知識グラフ構築の最前線
知識グラフ(Knowledge Graphs, KG)は、構造化された知識を表現し、統合し、そして推論するための基盤となるインフラストラクチャとして機能します。意味検索や質問応答など、様々なアプリケーションの土台を支える […]
LLMの腐敗: 訓練データと推論能力の関係
大規模言語モデル(LLM)は、人間と同様の認知機能を獲得するため、インターネット上の膨大なデータから学習します。しかし、その訓練プロセスにおいて、人間社会で問題視されている「Brain Rot(脳の腐敗)」と類似の現象が […]
LLMLingua: LLMのためのプロンプト圧縮技術
昨今、大規模言語モデル(LLM)は、様々なアプリケーションで活用されています。LLMの能力を最大限に引き出すため、Chain-of-Thought (CoT) や In-Context Learning (ICL)、Re […]
LangCodeではじめるAIコードアシスタント入門
AIコードアシスタントは、コードの自動生成だけでなく、既存の複雑なコードベースの理解やタスクの自動実行を通じて、開発者の作業を大きく変えつつあります。今回は、最近リリースされた「LangCode」と呼ばれるツールを紹介し […]