跳到正文
原文
Ubuntu Blog· Rob Gibbon (Rob Gibbon)·· 3 天前精选AI 评分61

使用 Canonical MLOps 栈和 LLM 构建实时交易欺诈检测系统

Realtime transaction fraud detection – with an LLM?

AI 导读

Ubuntu 演示使用 open weight 模型“system-one-qwen3.5-4b-scorer”,结合 KServe、vLLM 与 AWQ 量化,在本地构建交易风险分类实验。合并 LoRA 权重并采用 4-bit AWQ 后,模型内存需求据称可由约 18GB 降至约 5GB;教程还提供 MicroK8s、Charmed Kubeflow 部署及 curl 请求验证步骤。

推荐理由

提供从模型量化、KServe 部署到请求验证的完整实验路径,并明确环境、内存和耗时要求,适合评估本地实时分类方案。

来源:Ubuntu Blog · ubuntu.com