开源AI工具 智能体开发工具 桌面客户端 命令行工具 本地模型 多模型对话 文档处理 知识库 终端编程 自托管 音视频制作 可视化工作流 语音识别 AI应用开发 数据提取 智能体工作台 智能体框架 检索增强生成 模型推理 模型调用
界智通
  • 首页
  • AI资讯
  • AI提示词
  • AI生图
  • 开发编程
    • 代码示例
    • 工具部署
  • AI商城
    • 文章归档
    • API文档
    • AI工具箱
登录
界智通
首页 AI资讯 AI提示词 AI生图 开发编程 代码示例工具部署 AI商城 文章归档 API文档 AI工具箱 登录
首页 资讯 提示词 生图 更多
首页 /标签:模型推理
#

话题标签

模型推理2 篇

AI工具箱 #开源AI工具#本地模型#模型推理

llama.cpp - 在 CPU 或 GPU 上运行 GGUF 模型

用 C/C++ 实现语言模型推理,常用于需要控制量化、上下文长度和硬件分配的本地应用。适合逐项评估速度与资源占用。

2026-11-18 11 阅读
AI工具箱 #开源AI工具#模型部署#模型推理

vLLM - 面向并发请求的模型推理服务

用于把已支持的语言模型部署成服务,重点在服务吞吐和显存利用。适合把单人原型迁移到多人调用的后端。

2026-11-18 8 阅读
🔥 近期热门
1Codex手机号验证怎么过?新账号、新设备登录卡在这一步的真实原因和解决思路1.3k 2Claude Opus 4.8 全面解析:核心能力、成本优化与 获取API Key 开发实战1.2k 3ChatGPT Plus 怎么充值?2026 最新教程与避坑指南1.2k 4Reasonix 模型接入完整教程:自定义配置 uiuiAPI、模型发现与 Planner 设置1.1k 5Google Playground 完整使用教程:零代码 AI 生成游戏、修改玩法与分享作品757 6Claude Fable 5 全面解析:模型下架风波后,开发者该怎么获取APIKey调用?638
🏷️ 热门标签
#开源AI工具#gpt-image-2.6-flare#AI编程#GitHub Copilot#开发者工具#AI Agent#openai#claude#Midjourney提示词#Anthropic#在线AI工具#GitHub更新#Codex#个人AI助手#超现实摄影#梦境气象#系列·失重维修站:漂浮城市的十种日常工作#系列·回声裁缝社:城市声音的十件可穿戴作品
🎨 AI 在线生图 提示词库里的提示词一键带入,填入 API Key 即可生成同款。 打开生图工具 → 💡 AI 提示词库 193 组精选提示词,附效果图,一键复制。 浏览提示词 →
界智通

专注 AI 前沿资讯与深度解读:模型发布、实用教程、提示词与生图工具,帮你更快用好 AI。

OpenAIClaudeGeminiDeepSeekGrokMidjourneyGPT Image

栏目

  • AI 资讯
  • AI 提示词
  • 开发编程
  • AI 工具箱
  • 文章归档

工具

  • AI 生图
  • 投稿提示词
  • API 文档
  • AI 商城

订阅

  • RSS 订阅
  • 站点地图
© 2026 界智通 · jieagi.com · All rights reserved. 内容仅供学习交流 · 转载请注明出处