归档: 2023/10 | winmaxfit

2023

10

27

我们的特征工程管道遇到了一个无法回避的物理瓶颈。最初为GB级数据集设计的、基于SciPy和Pandas的信号处理脚本，在面对数据湖中TB级的时序数据时，单机执行时间从几小时飙升到数天。简单地垂直扩展实例（使用内存和CPU更大的机器）很快就触

2023-10-27 MLOps

Kubernetes Kubeflow MLOps SciPy Data Lake

27

一个棘手的问题摆在面前：如何构建一个多人协作的操作平台，既要保证操作的绝对安全，又要让所有在线用户的界面实时、精准地同步状态，同时还需保留一份不可篡改的完整操作审计日志。传统的 CRUD + WebSocket 方案能勉强应付，但在真实项目

2023-10-27 后端架构

API Gateway Chakra UI Event Sourcing Server-Sent Events (SSE) WebAuthn

27

技术痛点：静态凭证的脆弱性在维护一个混合技术栈的微服务环境时，凭证管理总是一个绕不开的难题。系统里既有基于JVM的Scala服务，负责处理复杂的业务逻辑和数据聚合；又有用Go新写的轻量级网关服务，追求极致的并发性能。这些服务都需要访问共享的

2023-10-27 分布式架构

HashiCorp Vault Scala Go-Fiber Zookeeper

27

当团队的机器学习模型从个位数增长到几十个时，特征管理混乱是必然会引爆的第一个问题。最初，特征逻辑散落在各个数据处理脚本和模型训练代码中，不仅重复计算，更严重的是线上线下特征不一致导致的灾难性后果。我们决定构建一个内部的Feature Sto

2023-10-27 MLOps

Go Feature Store MySQL OpenID Connect (OIDC) Storybook Emotion React

27

团队最近接手的一个项目中，一个经典的线上故障再次上演：后端一位同事为了优化，将一个API响应中的userId字段类型从string改为了number。这个变更在后端的所有单元测试中都顺利通过，Swagger文档也更新了。然而，依赖这个字段的

2023-10-27 后端架构

gRPC 测试 Scala Next.js Testcontainers

27

在真实项目中，安全扫描报告往往成为一个信息孤岛。它们通常以静态 HTML 或 JSON 文件的形式存在于 CI/CD 的构建产物中，需要开发人员主动查阅，并且缺乏与现有工作流（如错误追踪、任务分配）的有效联动。这种断裂导致了漏洞响应的延迟，

2023-10-27 DevSecOps

依赖扫描 Redux 基础设施即代码 (IaC) Sentry API 设计