zealotlab
本站致力于IT相关技术的分享
使用Ansible自动化部署基于ScyllaDB实时特征存储的Keras生成式AI推理服务 使用Ansible自动化部署基于ScyllaDB实时特征存储的Keras生成式AI推理服务
我们的新一代个性化内容生成服务在原型阶段表现惊人，但部署到准生产环境后，推理延迟的P99指标直接飙升到了无法接受的3秒。问题根源很快被定位：模型需要实时获取用户最新的行为特征作为Prompt的一部分，而我们现有的特征平台是基于Hadoop/
2023-10-27 MLOps
Ansible ScyllaDB 生成式AI Keras Feature Store
利用 Kafka 事件流构建解耦读写模型：ASP.NET Core 与 Google Cloud Functions 的协同架构 利用 Kafka 事件流构建解耦读写模型：ASP.NET Core 与 Google Cloud Functions 的协同架构
一个日益复杂的 ASP.NET Core 单体应用，其核心数据库正同时承受着事务性写入和高并发分析性读取的双重压力。写入操作要求强一致性，而读取操作则需要聚合、变形后的数据，并且流量峰值是写入流量的数十倍。这种读写模式的根本性冲突导致数据库
2023-10-27 架构与设计
Kafka GraphQL Client Google Cloud Functions ASP.NET Core Webpack
基于BentoML、Iceberg与SSG构建不可变机器学习模型评估报告流水线 基于BentoML、Iceberg与SSG构建不可变机器学习模型评估报告流水线
团队的模型性能追踪一度陷入混乱。评估指标散落在不同的Jupyter Notebook输出、CSV文件和临时的监控图表中。当需要回溯三个月前某个特定模型版本（比如 v0.7.1）为何在特定数据切片上表现优于当前版本（v1.2.0）时，整个过程
2023-10-27 MLOps
Data Lake SSG BentoML Apache Iceberg MLOps
构建由 Nacos 动态驱动并结合 Firestore 状态持久化的 Qwik 微前端架构 构建由 Nacos 动态驱动并结合 Firestore 状态持久化的 Qwik 微前端架构
我们团队的微前端体系正变得臃肿。最初作为解耦利器的微前端，其主应用（或称“基座”）的配置文件却成了新的瓶颈。每当需要上线一个新的子应用，或者调整某个应用的路由，甚至只是开启一个A/B测试的灰度入口，我们都必须修改基座应用的源码、构建、然后重
2023-10-27 前端架构
Qwik Turbopack Firestore Nacos 微前端
构建基于 Git Webhook 驱动的 Axum 增量静态再生自动化流水线 构建基于 Git Webhook 驱动的 Axum 增量静态再生自动化流水线
我们的一个核心内容平台遇到了性能与更新频率的典型矛盾。它最初是一个完全由 Axum 实现的动态服务，通过服务端渲染（SSR）直接从数据库中拉取 Markdown 内容并转换为 HTML。随着流量增长，即便有缓存，数据库的压力和渲染开销也变得
2023-10-27 后端架构
Axum Jenkins ISR Git
构建连接无服务器与传统基础设施的反应式控制平面：Vercel Functions、NATS与Puppet的异构集成 构建连接无服务器与传统基础设施的反应式控制平面：Vercel Functions、NATS与Puppet的异构集成
在管理一个横跨公有云 Serverless 应用和私有数据中心虚拟机的混合环境时，一个核心挑战是如何实现状态的快速、可靠同步。传统的 Puppet agent pull 模式（默认每30分钟一次）在稳定性与可预测性上表现出色，但无法满足某些
2023-10-27 架构设计
NATS Serverless Puppet Vercel Functions IaC Control Plane
3 / 5