自前LLMを“ちゃんと使える”ようにするPythonフレームワーク「forge」とは？
forge は、self-hosted（自前運用）LLM に対して tool-calling を安定して使わせるための Python framework ただのラッパーではなく、retry / rescue parsing / step enforcement などの guardrails（安全な補助線） を持つ WorkflowRunner、Guardrails middleware、Proxy server の3つの使い方がある Ollama、llama-server、Llamafile、Anthropic に対応 著者は、小さめのローカルモデルでも multi-step agentic workflow をかなり実用に近づけたい、というかなり実戦的な思想で作っている 評価では、トップの self-hosted 構成が 86.5%、難しいケースでも 76% を達成しているとされる 最近のLLM開発では、「ただ文章を返す」よりも、ツールを呼び出しながら段階的に仕事を進める使い方が主流になってきまし
papoo.work