Python-FastAPI 异步框架开发博客系统(四)部分使用Golang重构~

title: [Frodo-V2.0] 拥抱Golang, go~!
layout: post
date: 2020-06-15
tag: note
author: BY Zhi-kai Yang

Frodo-v2.0 没有添加新功能,而是将后端最重要的部分,后台API使用golang重构,python现在只负责前台模板的渲染。这样原本的单服务应用就成了多服务。本文将简介v2.0的调整思路和golang异步的特性,新版本的部署文档请参看项目地址

项目地址

博客地址

主要重构的模块为:

  • 博文、用户、标签等的后台CRUD接口
  • 缓存清理模块
  • JWT认证模块

why golang?

golang是年轻的语言,新世纪的静态语言。设计理念很好地平衡了C++javascript/python等动态语言的优劣,独具特色的goroutine设计范式旨在告别多线程式的并发。而web后台和微服务是go语言用的的最多的领域,故我将后台纯api部分拿go来重写。

我是2019年开始使用kubernetes时开始接触的go语言,当时项目有需求想要扩展一个k8s的api, 官方给的意见是如果想真正的contributor,最好使用golang开发。go语言的代表一定是dockerkubernetes这一最主流的容器与容器编排工具。

其次,使用go语言对我并不痛苦,他的风格介于静态和动态语言,因此你要使用指针来避免冗余的对象复制,同时你也能使用便捷的如python里的动态数据结构。比类C的好处在于他不是那么地接近底层,只需考虑必要的指针操作和类型问题。

而python也越来越多地提倡使用显示类型,在v1.0中就已经使用了类型检查,在python中虽然不能带来性能的提升,但有利于调试和对接静态语言。因此golang的语并不会带来困难。

带类型的python与golang风格十分相似:

async def get_user_by_id(id: int) -> User:
    user: User = await User.async_first(id)
    return user
复制代码

在golang中类型是强制的:

func GetUsers(page int) (users []User) {
    DB.Where(...).First(&user)
    return
}
复制代码

再来看C++, 明显的不同时类型的位置不一样:

User* getUserById(int id) {
    user = User{id}
    User::first(&user)
    return user
}
复制代码

最后,最重要的是golang的圈子如何,跟python-web比,golang可选择的余地并不是很多,但也足够用。这次选择的框架是gingorm都是轻量且简单的框架。

Challenge

golang的轮子

写习惯动态原因的人(尤其是python/js)会感觉golang数据结构的麻烦:

  • map/struct不能动态添加新属性
  • 没有in这一经常使用的特性
  • 任意类型interface{}到其他类型的转换并没有那么简单
  • structmap, json之间的转换并不是很自然
  • 值传递和地址传递时刻要注意
  • 没有方便的集合运算,如交并差,如排序,如格式化生成等。

庆幸的是,go语言的开源社区做的很不错,可以直接饮用github的他人完成的包,很多轮子都有现成的实现,首先可以去 https://godoc.org/ 去搜索官方支持的轮子,这些一般是稳定的,受官方认可的,同时可以方便地查看他们的文档。如集合运算我就使用了goset这个库。如果没有在官方找到,可以直接寻求github,直接引用仓库地址即可。(感觉golang包模块很方便吗?目前看来是的,但其实坑也不少…

多服务网络结构部署

没想到V2.0版本麻烦最多是在部署上…

这样我们的博客系统就有两个服务了,golang和uvicorn分别占两个端口,静态文件中做相应的调整,但因为我的部署只能暴露一个端口(因为域名问题,见下图),这样只能借助nginx来转发了。

上图结构有几个配置上的难点:

  • 静态资源寻址、路由配置。v1.0但语言版本时比较好配置直接都映射本地地址即可。现在需要明确地分服务在nginx配置转发。同时静态资源上,也要将原先的本地地址更换为域名地址。

  • golang部分功能还要调用python的服务,如「动态」的api的还是保留在python里,post的 api在golang, 而创建「文章」后需要创建动态,这时golang需要调用python的服务。(这其实很正常,很大的项目也避免不了互相通信的需要。)好在在一台机器上此问题容易解决的多。

  • 等等,缓存会冲突吗? 在「数据篇」中讲到Frodo是有缓存机制的,现在发现python的前台和golang的后台都依赖缓存,这点需要严格的key的统一来保证两个缓存数据的一致性。

Golang的异步与并发

既然将原来python的服务换为golang, 前面提到的异步特性golang能满足吗?其实思想是一致的,只是从asycio和可等待对象变为了goroutine, 拿「博文」创建接口举例:

func CreatePost(data map[string]interface{}) {
	post := new(Post)
	post.Title = data["title"].(string)
	post.Summary = data["summary"].(string)
	post.Type = data["type"].(int)
	post.CanComment = data["can_comment"].(int)
	post.AuthorID = data["author_id"].(int)
	post.Status = data["status"].(int)

	tags := data["tags"].([]string)
	content := data["content"]
	DB.Create(&post)

	fmt.Println(post)

	go post.SetProps("content", content) // go设置内容
	go post.UpdateTags(tags) // go 更新标签
	go post.Flush() // go 清除缓存
	go CreateActivity(post) // go 创建动态
}
复制代码

可以看到连续使用了4个go分发不能阻塞的任务,这些都是goroutine, 配套的有对他们管理的通信工具和同步原语,每个goroutine也可以继续分发协程,如其中的更新标签:

func (post *Post) UpdateTags(tagNames []string) {
	var originTags []Posttag
	var originTagNames []string

	DB.Where("post_id = ?", post.ID).Find(&originTags)
	for _, item := range originTags {
		var tag Tag
		DB.Select("name").Where("id = ?", item.TagID).First(&tag)
		originTagNames = append(originTagNames, tag.Name)
	}
	_, _, deleteTagNames, addTagNames := goset.Difference(originTagNames, tagNames)
	for _, tag := range addTagNames.([]string) {
		go CreateTags(tag)
		go CreatePostTags(post.ID, tag)
	}
	for _, tag := range deleteTagNames.([]string) {
		go DeletePostTags(post.ID, tag)
	}
}
复制代码

golang没有类似asyncio.gather(*coros)式的分发,采用for循环是一样的实现。

目前我已经把简单的系统拆成了两个不同技术类型的服务,可以见到部署难题渐显,接下来的更新就是虚拟化解决环境依赖难题和自动化部署了~


发表评论

电子邮件地址不会被公开。 必填项已用*标注