运维咖啡吧

追求技术的道路上,我从不曾停下脚步

运维咖啡吧

Alodi:环境创建从未如此简单

一个满足你各种想象的快速方便生成临时环境的系统

『Alodi:为了保密我开发了一个系统』文章中有讲到我们开发了一个系统用来快速生成临时测试环境,短短三个月已有数百个环境被创建,简化了工作,节省了时间,同时也受到了小伙伴们的肯定,本篇文章介绍一下Alodi的实现原理,以及更新的功能

实现目的

Alodi主要的目的是以最简单快速的方式来创建一个测试环境,同时生成一个随机的临时访问地址提供访问

创建一个环境究竟有多简单呢?就像下边这样:选择项目-->点击“创建环境”-->输入Tag-->点击“Build&Deploy”-->等待创建完成

创建完成之后,可以在部署列表里找到创建环境的任务,在这里可以直接通过域名访问新创建的环境,或进行一些管理,例如创建过程中的日志查看,容器Log查看,进入容器终端排错,绑定新域名,或是销毁环境

创建过程

创建临时环境通过Django的Celery来异步完成,同时通过Django的Channels来建立WebSocket通道实时获取任务日志输出

相同部署发布流程的项目会编写统一的模板,例如JavaWeb项目会编写一个适合所有JavaWeb项目的模板,NodeJS项目会编写一个适合所有NodeJS项目的模板,创建临时环境实际上就是通过Celery执行了一个任务模板

任务模板内定义了这个任务要做的事情,大体上包含以下内容:创建临时目录-->拉代码-->编译-->生成DOCKERFILE-->打包Docker镜像-->上传镜像到私有仓库-->创建Kubernetes资源-->检查Pod状态-->完成

每一次任务都会生成一个全新的环境,一个全新的域名,所以无论有多少个版本多少个用户在并行测试都不会相互影响

临时域名

每一次都生成一个临时的域名提供访问,这样做的初衷是希望自己生成的环境只有自己知道,避免公共域名的传播,在一定程度上实现保密

域名绑定Kubernetes的ingress,可以实现通过域名访问到对应的容器,这里需要思考的一个问题是:需要给每个临时域名创建DNS解析吗?

员工的电脑上都配置了内部DNS,而这个DNS不支持API操作,所以在开始的时候考虑的两种方案

  1. 用户自己绑定hosts
  2. 新建DNS,支持API

这两种方案都不是很好,新建DNS还需要用户都修改自己的DNS指向到新DNS,而绑定hosts无疑会增加使用成本,那该如何处理呢?

DNS泛域名解析,利用通配符*来做次级域名以实现所有的次级域名均指向同一IP地址

在内部DNS上创建一条匹配所有的次级域名的记录,指向到Kubernetes的Ingress服务器,例如

*.ops-coffee.cn -> 192.168.107.143

这样无论生成任何xxx.ops-coffee.cn的域名都可以请求到Kubernetes的Ingress,然后Ingress转发请求到对应的service,最终到pod,完美的解决了这个问题

域名绑定

解决了域名访问的问题,还面临另外一个问题就是用户有需求绑定生产域名进行测试,因为有一些第三方平台,例如微信分享等是有域名白名单的,只有白名单内的域名可以进行操作,这种情况下生成的临时域名就无法使用了,需要支持绑定生产域名进行测试

Alodi系统内绑定新域名也非常简单,只需要点击“绑定新域名”按钮,填写对应的域名提交就好

绑定新域名实现原理是多添加一个Ingress,与已存在的service相关联,同时会维护一个新绑定域名与Service的关系表,主要目的是在绑定新域名时判断域名是否已经被绑定,因为Ingress绑定的域名不能重复,如果发现有用户绑定已经被绑定过的域名则会提示其与先绑定的用户协商使用

由于可以绑定任意域名,所以没办法添加DNS解析,故这里需要用户自己绑定hosts了

容器操作

毕竟是测试环境,出现问题是难免的,一旦有问题用户就需要拉日志,甚至是登陆系统debug排查

应用内的日志有接入ELK系统,容器的启动日志Alodi系统也提供查看功能,点击“Log”按钮即可查看

Log查看通过调用Kubernetes API的read_namespaced_pod_log方法来实现,Kubernetes的API比较多,鉴于篇幅不在文章中细说,有整理一份文档:Kubernetes Python API中文使用说明

SSH进入Pod容器也给集成到了Alodi系统中,之前有一篇文章专门介绍:Django实现WebSSH操作Kubernetes Pod,有很多小伙伴按照文章内容实现了集成

销毁环境

Alodi系统希望用户能够快速创建环境,用完销毁环境,不长时间占用资源,所以设计了定期销毁和用户主动销毁策略,定期销毁是会销毁超过n天没有使用的环境,而主动销毁只需要点击“点击销毁”按钮即可

销毁环境会删除创建的临时目录,拉取的代码,生成的文件,以及Kubernetes上的各种资源

扫码关注公众号查看更多实用文章

这便是Alodi,一个快速创建临时环境的系统


相关文章推荐阅读: