Golang 简洁架构实战 - luozhiyun

原文:https://www.luozhiyun.com/archives/640

由于golang不像java一样有一个统一的编码模式,所以我们和其他团队一样,采用了 Go 面向包的设计和架构分层这篇文章介绍的一些理论,然后再结合以往的项目经验来进行分包:

├── cmd/
│   └── main.go //启动函数
├── etc
│   └── dev_conf.yaml              // 配置文件 
├── global
│   └── global.go //全局变量引用,如数据库、kafka等
├── internal/
│       └── service/
│           └── xxx_service.go //业务逻辑处理类
│           └── xxx_service_test.go 
│       └── model/
│           └── xxx_info.go//结构体
│       └── api/
│           └── xxx_api.go//路由对应的接口实现
│       └── router/
│           └── router.go//路由
│       └── pkg/
│           └── datetool//时间工具类
│           └── jsontool//json 工具类

其实上面的这个划分只是简单的将功能分了一下包,在项目实践的过程中还是有很多问题。比如:

对于功能实现我是通过 function 的参数传递还是通过结构体的变量传递?

使用一个数据库的全局变量引用传递是否安全?是否存在过度耦合?

在代码实现过程中几乎全部都是依赖于实现,而不是依赖于接口,那么将MySQL切换为 MongDB 是不是要修改所有的实现?

所以现在在我们工作中随着代码越来越多,代码中各种 init,function,struct,全局变量感觉也越来越乱。

每个模块不独立,看似按逻辑分了模块,但没有明确的上下层关系,每个模块里可能都存在配置读取,外部服务调用,协议转换等。

久而久之服务不同包函数之间的调用慢慢演变成网状结构,数据流的流向和逻辑的梳理变得越来越复杂,很难不看代码调用的情况下搞清楚数据流向。

image-20211226215524784

不过就像《重构》中所说:先让代码工作起来-如果代码不能工作,就不能产生价值;然后再试图将它变好-通过对代码进行重构,让我们自己和其他人更好地理解代码,并能按照需求不断地修改代码。

所以我觉得是时候自我改变一下。

The Clean Architecture

在简洁架构里面对我们的项目提出了几点要求:

  1. 独立于框架。该架构不依赖于某些功能丰富的软件库的存在。这允许你把这些框架作为工具来使用,而不是把你的系统塞进它们有限的约束中。
  2. 可测试。业务规则可以在没有UI、数据库、Web服务器或任何其他外部元素的情况下被测试。
  3. 独立于用户界面。UI可以很容易地改变,而不用改变系统的其他部分。例如,一个Web UI可以被替换成一个控制台UI,而不改变业务规则。
  4. 独立于数据库。你可以把Oracle或SQL Server换成Mongo、BigTable、CouchDB或其他东西。你的业务规则不受数据库的约束。
  5. 独立于任何外部机构。事实上,你的业务规则根本不知道外部世界的任何情况。

img

上图中同心圆代表各种不同领域的软件。一般来说,越深入代表你的软件层次越高。外圆是战术实现机制,内圆的是战略核心策略。

对于我们的项目来说,代码依赖应该由外向内,单向单层依赖,这种依赖包含代码名称,或类的函数,变量或任何其他命名软件实体。

对于简洁架构来说分为了四层:

  • Entities:实体
  • Usecase:表达应用业务规则,对应的是应用层,它封装和实现系统的所有用例;
  • Interface Adapters:这一层的软件基本都是一些适配器,主要用于将用例和实体中的数据转换为外部系统如数据库或Web使用的数据;
  • Framework & Driver:最外面一圈通常是由一些框架和工具组成,如数据库Database, Web框架等;

那么对于我的项目来说,也分为了四层:

  • models
  • repo
  • service
  • api

代码分层

models

封装了各种实体类对象,与数据库交互的、与UI交互的等等,任何的实体类都应该放在这里。如:

import "time"

type Article struct {
    ID        int64     `json:"id"`
    Title     string    `json:"title"`
    Content   string    `json:"content"`
    UpdatedAt time.Time `json:"updated_at"`
    CreatedAt time.Time `json:"created_at"`
}

repo

这里存放的是数据库操作类,数据库CRUD都在这里。需要注意的是,这里不包含任何的业务逻辑代码,很多同学喜欢将业务逻辑也放到这里。

如果使用 ORM,那么这里放入的ORM操作相关的代码;如果使用微服务,那么这里放的是其他服务请求的代码;

service

这里是业务逻辑层,所有的业务过程处理代码都应该放在这里。这一层会决定是请求 repo 层的什么代码,是操作数据库还是调用其他服务;所有的业务数据计算也应该放在这里;这里接受的入参应该是controller传入的。

api

这里是接收外部请求的代码,如:gin对应的handler、gRPC、其他REST API 框架接入层等等。

面向接口编程

除了 models 层,层与层之间应该通过接口交互,而不是实现。如果要用 service 调用 repo 层,那么应该调用 repo 的接口。那么修改底层实现的时候我们上层的基类不需要变更,只需要更换一下底层实现即可。

例如我们想要将所有文章查询出来,那么可以在 repo 提供这样的接口:

package repo

import (
    "context"
    "my-clean-rchitecture/models"
    "time"
)

// IArticleRepo represent the article's repository contract
type IArticleRepo interface {
    Fetch(ctx context.Context, createdDate time.Time, num int) (res []models.Article, err error)
}

这个接口的实现类就可以根据需求变更,比如说当我们想要 mysql 来作为存储查询,那么只需要提供一个这样的基类:

type mysqlArticleRepository struct {
    DB *gorm.DB
}

// NewMysqlArticleRepository will create an object that represent the article.Repository interface
func NewMysqlArticleRepository(DB *gorm.DB) IArticleRepo {
    return &mysqlArticleRepository{DB}
}

func (m *mysqlArticleRepository) Fetch(ctx context.Context, createdDate time.Time,
    num int) (res []models.Article, err error) {

    err = m.DB.WithContext(ctx).Model(&models.Article{}).
        Select("id,title,content, updated_at, created_at").
        Where("created_at > ?", createdDate).Limit(num).Find(&res).Error
    return
}

如果改天想要换成 MongoDB 来实现我们的存储,那么只需要定义一个结构体实现 IArticleRepo 接口即可。

那么在 service 层实现的时候就可以按照我们的需求来将对应的 repo 实现注入即可,从而不需要改动 service 层的实现:

type articleService struct {
    articleRepo repo.IArticleRepo
}

// NewArticleService will create new an articleUsecase object representation of domain.ArticleUsecase interface
func NewArticleService(a repo.IArticleRepo) IArticleService {
    return &articleService{
        articleRepo: a,
    }
}

// Fetch
func (a *articleService) Fetch(ctx context.Context, createdDate time.Time, num int) (res []models.Article, err error) {
    if num == 0 {
        num = 10
    }
    res, err = a.articleRepo.Fetch(ctx, createdDate, num)
    if err != nil {
        return nil, err
    }
    return
}

依赖注入 DI

依赖注入,英文名dependency injection,简称 DI 。DI 以前在java工程里面经常遇到,但是在 go 里面很多人都说不需要,但是我觉得在大型软件开发过程中还是有必要的,否则只能通过全局变量或者方法参数来进行传递。

至于具体什么是 DI,简单来说就是被依赖的模块,在创建模块时,被注入到(即当作参数传入)模块的里面。想要更加深入的了解什么是 DI 这里再推荐一下 Dependency injection Inversion of Control Containers and the Dependency Injection pattern 这两篇文章。

如果不用 DI 主要有两大不方便的地方,一个是底层类的修改需要修改上层类,在大型软件开发过程中基类是很多的,一条链路改下来动辄要修改几十个文件;另一方面就是就是层与层之间单元测试不太方便。

因为采用了依赖注入,在初始化的过程中就不可避免的会写大量的new,比如我们的项目中需要这样:

package main

import (
    "my-clean-rchitecture/api"
    "my-clean-rchitecture/api/handlers"
    "my-clean-rchitecture/app"
    "my-clean-rchitecture/repo"
    "my-clean-rchitecture/service"
)

func main() { 
    // 初始化db
    db := app.InitDB() 
    //初始化 repo
    repository := repo.NewMysqlArticleRepository(db)
    //初始化service
    articleService := service.NewArticleService(repository)
    //初始化api
    handler := handlers.NewArticleHandler(articleService)
    //初始化router
    router := api.NewRouter(handler)
    //初始化gin
    engine := app.NewGinEngine()
    //初始化server
    server := app.NewServer(engine, router)
    //启动
    server.Start()
}

那么对于这么一段代码,我们有没有办法不用自己写呢?这里我们就可以借助框架的力量来生成我们的注入代码。

在 go 里面 DI 的工具相对来说没有 java 这么方便,技术框架一般主要有:wire、dig、fx 等。由于wire是使用代码生成来进行注入,性能会比较高,并且它是 google 推出的 DI 框架,所以我们这里使用 wire 进行注入。

wire的要求很简单,新建一个wire.go文件(文件名可以随意),创建我们的初始化函数。比如,我们要创建并初始化一个server对象,我们就可以这样:

//+build wireinject

package main

import (
    "github.com/google/wire"
    "my-clean-rchitecture/api"
    "my-clean-rchitecture/api/handlers"
    "my-clean-rchitecture/app"
    "my-clean-rchitecture/repo"
    "my-clean-rchitecture/service"
)

func InitServer() *app.Server {
    wire.Build(
        app.InitDB,
        repo.NewMysqlArticleRepository,
        service.NewArticleService,
        handlers.NewArticleHandler,
        api.NewRouter,
        app.NewServer,
        app.NewGinEngine)
    return &app.Server{}
}

需要注意的是,第一行的注解:+build wireinject,表示这是一个注入器。

在函数中,我们调用wire.Build()将创建 Server 所依赖的类型的构造器传进去。写完wire.go文件之后执行wire命令,就会自动生成一个wire_gen.go文件。

// Code generated by Wire. DO NOT EDIT.

//go:generate go run github.com/google/wire/cmd/wire
//+build !wireinject

package main

import (
    "my-clean-rchitecture/api"
    "my-clean-rchitecture/api/handlers"
    "my-clean-rchitecture/app"
    "my-clean-rchitecture/repo"
    "my-clean-rchitecture/service"
)

// Injectors from wire.go:

func InitServer() *app.Server {
    engine := app.NewGinEngine()
    db := app.InitDB()
    iArticleRepo := repo.NewMysqlArticleRepository(db)
    iArticleService := service.NewArticleService(iArticleRepo)
    articleHandler := handlers.NewArticleHandler(iArticleService)
    router := api.NewRouter(articleHandler)
    server := app.NewServer(engine, router)
    return server
}

可以看到wire自动帮我们生成了InitServer方法,此方法中依次初始化了所有要初始化的基类。之后在我们的main函数中就只需调用这个InitServer即可。

func main() {
    server := InitServer()
    server.Start()
}

测试

在上面我们定义好了每一层应该做什么,那么对于每一层我们应该都是可单独测试的,即使另外一层不存在。

  • models 层:这一层就很简单了,由于没有依赖任何其他代码,所以可以直接用go 的单测框架直接测试即可;
  • repo 层:对于这一层来说,由于我们使用了 mysql 数据库,那么我们需要 mock mysql,这样即使不用连mysql 也可以正常测试,我这里使用 github.com/DATA-DOG/go-sqlmock 这个库来 mock 我们的数据库;
  • service 层:因为 service 层依赖了 repo 层,因为它们之间是通过接口来关联,所以我这里使用 github.com/golang/mock/gomock 来 mock repo 层;
  • api 层:这一层依赖 service 层,并且它们之间是通过接口来关联,所以这里也可以使用 gomock 来 mock service 层。不过这里稍微麻烦了一点,因为我们接入层用的是 gin,所以还需要在单测的时候模拟发送请求;

由于我们是通过 github.com/golang/mock/gomock 来进行 mock ,所以需要执行一下代码生成,生成的mock 代码我们放入到 mock 包中:

mockgen -destination .\mock\repo_mock.go -source .\repo\repo.go -package mock

mockgen -destination .\mock\service_mock.go -source .\service\service.go -package mock

上面这两个命令会通过接口帮我自动生成 mock 函数。

repo 层测试

在项目中,由于我们用了 gorm 来作为我们的 orm库,所以我们需要使用 github.com/DATA-DOG/go-sqlmock 结合 gorm 来进行 mock:

func getSqlMock() (mock sqlmock.Sqlmock, gormDB *gorm.DB) {
    //创建sqlmock
    var err error
    var db *sql.DB
    db, mock, err = sqlmock.New(sqlmock.QueryMatcherOption(sqlmock.QueryMatcherEqual))
    if err != nil {
        panic(err)
    }
    //结合gorm、sqlmock
    gormDB, err = gorm.Open(mysql.New(mysql.Config{
        SkipInitializeWithVersion: true,
        Conn:                      db,
    }), &gorm.Config{})
    if nil != err {
        log.Fatalf("Init DB with sqlmock failed, err %v", err)
    }
    return
}

func Test_mysqlArticleRepository_Fetch(t *testing.T) {
    createAt := time.Now()
    updateAt := time.Now()
    //id,title,content, updated_at, created_at
    var articles = []models.Article{
        {1, "test1", "content", updateAt, createAt},
        {2, "test2", "content2", updateAt, createAt},
    }

    limit := 2
    mock, db := getSqlMock()

    mock.ExpectQuery("SELECT id,title,content, updated_at, created_at FROM `articles` WHERE created_at > ? LIMIT 2").
        WithArgs(createAt).
        WillReturnRows(sqlmock.NewRows([]string{"id", "title", "content", "updated_at", "created_at"}).
            AddRow(articles[0].ID, articles[0].Title, articles[0].Content, articles[0].UpdatedAt, articles[0].CreatedAt).
            AddRow(articles[1].ID, articles[1].Title, articles[1].Content, articles[1].UpdatedAt, articles[1].CreatedAt))

    repository := NewMysqlArticleRepository(db)
    result, err := repository.Fetch(context.TODO(), createAt, limit)

    assert.Nil(t, err)
    assert.Equal(t, articles, result)
}

service 层测试

这里主要就是用我们 gomock 生成的代码来 mock repo 层:

func Test_articleService_Fetch(t *testing.T) {
    ctl := gomock.NewController(t)
    defer ctl.Finish()
    now := time.Now()
    mockRepo := mock.NewMockIArticleRepo(ctl)

    gomock.InOrder(
        mockRepo.EXPECT().Fetch(context.TODO(), now, 10).Return(nil, nil),
    )

    service := NewArticleService(mockRepo)

    fetch, _ := service.Fetch(context.TODO(), now, 10)
    fmt.Println(fetch)
}

api 层测试

对于这一层,我们不仅要 mock service 层,还需要发送 httptest 来模拟请求发送:

func TestArticleHandler_FetchArticle(t *testing.T) {

    ctl := gomock.NewController(t)
    defer ctl.Finish()
    createAt, _ := time.Parse("2006-01-02", "2021-12-26")
    mockService := mock.NewMockIArticleService(ctl)

    gomock.InOrder(
        mockService.EXPECT().Fetch(gomock.Any(), createAt, 10).Return(nil, nil),
    )

    article := NewArticleHandler(mockService)

    gin.SetMode(gin.TestMode)

    // Setup your router, just like you did in your main function, and
    // register your routes
    r := gin.Default()
    r.GET("/articles", article.FetchArticle)

    req, err := http.NewRequest(http.MethodGet, "/articles?num=10&create_date=2021-12-26", nil)
    if err != nil {
        t.Fatalf("Couldn't create request: %v\n", err)
    }

    w := httptest.NewRecorder()
    // Perform the request
    r.ServeHTTP(w, req)

    // Check to see if the response was what you expected
    if w.Code != http.StatusOK {
        t.Fatalf("Expected to get status %d but instead got %d\n", http.StatusOK, w.Code)
    }
}

总结

以上就是我对 golang 的项目中发现问题的一点点总结与思考,思考的先不管对不对,总归是解决了我们当下的一些问题。不过,项目总归是需要不断重构完善的,所以下次有问题的时候下次再改呗。

对于我上面的总结和描述感觉有不对的地方,请随时指出来一起讨论。

项目代码位置:https://github.com/devYun/go-clean-architecture

Reference


脚本化 tmux

这是很久前想整理的文档,太久了已经遗忘了,这里就只记录我的脚本吧。一些命令可以直接参考手册。

自动化tmux主要场景是快速启动工作台,有些命令已经记不清了,也一股脑放上来,以后如果有需要再修正好了。

可以查看 man 手册对照:https://man7.org/linux/man-pages/man1/tmux.1.html

比如最常用的和 panes 相关的操作,可以查看 https://man7.org/linux/man-pages/man1/tmux.1.html#WINDOWS_AND_PANES

# kelu.sh

#!/bin/bash

name="kelu"
time=$(date +%Y-%m-%d)
cmd1="tail -f ~/Workspace/xxs.log"
cmd2="iftop"
cmd3="docker ps -a | grep -E 'openresty|nginx'"

create_w (){
  client=$1
  tmux_name="$name:$client"
  tmux neww -a -n "$client" -t $name
  tmux send -t $tmux_name "ssh sh4" Enter
  tmux send -t $tmux_name "$cmd1" Enter
  tmux split-window -h -t $tmux_name                         # 纵向
  tmux send -t $tmux_name "ssh sh2" Enter
  tmux send -t $tmux_name "$cmd2" Enter
  tmux send -t $tmux_name "LTttt3BD"
  tmux split-window -v -t $tmux_name                         # 横向
#  tmux send -t $tmux_name "ssh sh1" Enter
  tmux send -t $tmux_name "$cmd2" Enter
  tmux send -t $tmux_name "LTttt3BD"

  tmux select-pane -t 0                                      # 切换第一个
  tmux split-window -v -t $tmux_name                         # 横向
  
  # 开启新的 windows
  tmux neww -a -n "blog" -t $name
  tmux send -t "$name:blog" "cd Workspace/blog" Enter
  tmux send -t "$name:blog" "nvim" Enter
  tmux send -t "$name:blog" ":NvimTreeToggle" Enter
  
  # 选择第一个 pannel
  tmux selectw -t $tmux_name
}

tmux new -s $name -d # 新tmux session
create_w main # 新windows,多个panel
# 实际上可以创建多个windows,在这里我起了一个统一的名叫 kelu 的session, main是第一个windows,例如我创建main2这个windows如下:
# create_w main2

tmux attach -t $name
exit

在命令行中运行

kelu.sh

即可自动运行预设的窗口和命令行。

如果我启动了多个windows,我希望他们能每隔一段时间自动切换,相应脚本如下:

# switch.sh

#!/bin/bash

init=1
num=$1
tm=$2

w=$init
if [ ! $num ]; then
  num=6
fi

if [ ! $tm ]; then
  tm=10
fi

while true; do
  w=$(( $w + 1 ))
  tmux select-window -t $name:$w
  if [ $w -gt $num ]; then
    w=$init
  fi
  sleep $tm;
done

参考资料


vscode code server 配置 golang 和 php 开发环境(2)

去年更新了两篇blog,记录了怎么搭建 vscode code server,以及配置golang和php环境的。 一年过去了,我对它们又做了一些更新,完善了golang debug、k8s源码开发、配置同步、ide增量build、docker等方面的支持。

一、为什么不用本地ide

Q:为什么不用本地ide,毕竟本地ide功能要强大很多。

A:客观原因是设备太多了。我有1台办公Win,4台开发机Linux,1台个人Mac,1台家庭Win,1个iPad。如此多的设备和平台,我不希望只给1-2台配置开发环境,太受束缚了。

以前的我在所有设备上都配置了开发环境,用的是IntelliJ IDEA。公司的主要用go,个人主要用php和vue,有时也做一些Android的。配环境总是让人苦恼的一件事,如果遇上重装系统,那就更痛苦了。

当然还有一个问题,就是运行ide其实是个挺费系统性能的事情,我目前还在使用 2012版的 Macbook Air,这样的配置跑个ide就烫手了。

image-20220128104827591

Q:为什么不用JetBrains的Fleet?

A:因为Fleet出来太晚了,目前用vscode还是很好的。

二、dockerfile

另外特别要注意的是我是在x86_64的机器上使用的,所有的镜像均为intel的cpu。

镜像编译主要的难点还是区分在国内还是国外。先假定我们的环境到大部分地区都是可达的,我直接在dockerfile中下载go、php和docker_cli,所以有如下的dockerfile。

FROM kelvinblood/code-server:base-20210903

LABEL org.kelu.image.version.go=1.16.7
LABEL org.kelu.image.version.php=7.1.5
LABEL org.kelu.image.version.code-server=3.11.1
LABEL org.kelu.image.version.vscode=1.57.1
LABEL org.kelu.image.version.dockercli=19.03.14

ARG DOCKER_CLI_VERSION=19.03.14
ARG GOLANG_VERSION=1.16.7
ARG PHP_VERSION=7.1.5
ENV GOROOT /usr/local/go
ENV GOPATH /var/local/go
ENV PATH $PATH:$GOROOT/bin:$GOPATH/bin
ENV GO111MODULE on
ENV GOPROXY https://goproxy.cn

RUN \
  GO_TGZ=go$(echo "$GOLANG_VERSION").linux-amd64.tar.gz && \
  PHP_TGZ=php-${PHP_VERSION}.tar.gz && \
  DOCKER_TGZ=docker-ce-cli_${DOCKER_CLI_VERSION}~3-0~debian-stretch_amd64.deb && \
  echo "**** install tools ****" && \
  apt-get update && \
  apt-get install -y \
    wget \
    iputils-ping \
    build-essential \
    xinetd \
    telnetd \ 
    rsync \
    jq \
    python-pip && \
  pip install pyyaml && \
  cd /tmp && wget https://download.docker.com/linux/debian/dists/stretch/pool/stable/amd64/${DOCKER_TGZ} && \
  dpkg -i *.deb && \
  echo "**** install golang ****" && \
  cd /tmp && wget https://golang.org/dl/${GO_TGZ} && \
  tar zxvf ${GO_TGZ} >/dev/null 2>&1 && \
  mv go ${GOROOT} && \
  echo "**** go get for vscode ****" && \
  go get golang.org/x/tools/gopls && \
  go get golang.org/x/lint/golint && \
  go get github.com/rogpeppe/godef && \
  go get github.com/ramya-rao-a/go-outline && \
  go get github.com/uudashr/gopkgs/v2/cmd/gopkgs && \
  go get github.com/cweill/gotests/gotests && \
  go get github.com/fatih/gomodifytags && \
  go get github.com/josharian/impl && \
  go get github.com/haya14busa/goplay/cmd/goplay && \
  go get github.com/go-delve/delve/cmd/dlv && \
  go get honnef.co/go/tools/cmd/staticcheck && \
  go get github.com/spf13/cobra/cobra && \
  cp /var/local/go/bin/dlv /var/local/go/bin/dlv-dap && \
  echo "**** install php ****" && \
  apt-get -y install libssl-dev libcurl4-openssl-dev libbz2-dev libjpeg-dev libpng-dev libgmp-dev libicu-dev libmcrypt-dev freetds-dev libxslt-dev libcurl3-dev autoconf dpkg-dev file g++ gcc libc-dev make pkg-config re2c && \
  ln -s /usr/lib/x86_64-linux-gnu/libsybdb.a /usr/lib/libsybdb.a && \
  ln -s /usr/lib/x86_64-linux-gnu/libsybdb.so /usr/lib/libsybdb.so && \
  ln -s /usr/lib/x86_64-linux-gnu/libct.a /usr/lib/libct.a && \
  ln -s /usr/lib/x86_64-linux-gnu/libct.so /usr/lib/libct.so && \
  ln -s /usr/include/x86_64-linux-gnu/gmp.h /usr/include/gmp.h && \
  ln -s /usr/include/x86_64-linux-gnu/curl /usr/include/curl && \
  cd /tmp && wget http://am1.php.net/distributions/${PHP_TGZ} && \
  tar -xzvf ${PHP_TGZ} && \
  cd php-${PHP_VERSION} && \
  ./configure --prefix /usr/share/php7 --enable-fpm --enable-mbstring --enable-zip --enable-calendar --enable-bcmath --enable-exif --enable-intl --enable-opcache --enable-shmop --enable-soap --enable-sockets --with-fpm-user=www-data --with-fpm-group=www-data --with-pcre-regex --with-kerberos --with-openssl --with-mcrypt --with-zlib --with-bz2 --with-curl --with-gd --with-jpeg-dir=/usr/include/jpeg8 --with-png-dir=/usr/include/libpng12 --with-gettext --with-gmp --with-mhash --with-xsl && \
  make clean && make && make install && make test && make clean && \
  ln -s /usr/share/php7/sbin/php-fpm /usr/local/bin/php-fpm && \
  ln -s /usr/share/php7/bin/php /usr/local/bin/php && \
  cd .. && \
  curl -sS https://getcomposer.org/installer | sudo php -- --install-dir=/usr/local/bin --filename=composer && \
  echo "**** vscdoe tools ****" && \
  /usr/local/bin/code-server --install-extension ms-ceintl.vscode-language-pack-zh-hans && \
  /usr/local/bin/code-server --install-extension vscodevim.vim && \
  /usr/local/bin/code-server --install-extension golang.Go && \
  mkdir -p /config/extensions && \
  mv /config/.local/share/code-server/extensions/* /config/extensions && \
  echo "**** clean up ****" && \
  apt-get clean && \
  rm -rf \
    /tmp/* \
    /var/lib/apt/lists/* \
    /var/tmp/*

主要做了几件工作:

  1. 配置常用的软件。有些是k8s编译必须的一些软件。
  2. go和相关go库的安装。有些是vscode支持和k8s编译必须的或者优化的库。
  3. php编译安装。
  4. vscode的插件安装。

如果你不想安装php或者go,或是想编译其他语言的,可以根据这份dockerfile做调整。

三、dockerfile(国内)

按以上的dockerfile,在国外的机器上是可以编译通过的。在国内build遇到了这几个问题,非常影响编译时候的心情💢:

  1. go/php/docker下载慢
  2. apt源update慢
  3. pip install pyyaml直接timeout了,(吐血

于是针对这几个问题,都做了相应的工作:

  1. 先在国外下好传到本地
  2. 换成国内163源
  3. 配置一个http proxy提供给pip使用

1. 下好go/php/docker文件

2个文件:一个负责下载,一个负责启动本地http服务器,方便dockerfile下载。

# download.sh
#!/bin/bash

DOCKER_CLI_VERSION=19.03.14
GOLANG_VERSION=1.16.7
PHP_VERSION=7.1.5

GO_TGZ=go$(echo "$GOLANG_VERSION").linux-amd64.tar.gz
PHP_TGZ=php-${PHP_VERSION}.tar.gz
DOCKER_TGZ=docker-ce-cli_${DOCKER_CLI_VERSION}~3-0~debian-stretch_amd64.deb

wget https://golang.org/dl/${GO_TGZ}
wget http://am1.php.net/distributions/${PHP_TGZ}
wget https://download.docker.com/linux/debian/dists/stretch/pool/stable/amd64/${DOCKER_TGZ}
# web.sh

#!/bin/bash
python -m SimpleHTTPServer 31415

image-20220128102636735

2. 更换apt源

大致如下,详情我贴在文后

image-20220128102831433

3. 创建一个http proxy 提供给pip使用

使用privoxy创建的,具体内容就不展示了,可以参考我这篇文章《linux 配置 privoxy 实现系统全局/自动代理》.

完成这三个步骤后的dockerfile如下,主要区别的地方就是增加了本地服务器地址和代理地址两个变量。

FROM kelvinblood/code-server:base-20210903

LABEL org.kelu.image.version.go=1.16.7
LABEL org.kelu.image.version.php=7.1.5
LABEL org.kelu.image.version.code-server=3.11.1
LABEL org.kelu.image.version.vscode=1.57.1
LABEL org.kelu.image.version.dockercli=19.03.14

ARG DOCKER_CLI_VERSION=19.03.14
ARG GOLANG_VERSION=1.16.7
ARG PHP_VERSION=7.1.5
ENV GOROOT /usr/local/go
ENV GOPATH /var/local/go
ENV PATH $PATH:$GOROOT/bin:$GOPATH/bin
ENV GO111MODULE on
ENV GOPROXY https://goproxy.cn

RUN \
  LOCAL_WEB_SERVER=172.16.0.2:31415 && \
  PROXY=172.16.0.2:8118 && \
  GO_TGZ=go$(echo "$GOLANG_VERSION").linux-amd64.tar.gz && \
  PHP_TGZ=php-${PHP_VERSION}.tar.gz && \
  DOCKER_TGZ=docker-ce-cli_${DOCKER_CLI_VERSION}~3-0~debian-stretch_amd64.deb && \
  echo "**** download from china ****" && \
  echo "deb http://mirrors.163.com/ubuntu/ bionic main restricted universe multiverse" >/etc/apt/sources.list && \
  echo "deb http://mirrors.163.com/ubuntu/ bionic-security main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb http://mirrors.163.com/ubuntu/ bionic-updates main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb http://mirrors.163.com/ubuntu/ bionic-proposed main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb http://mirrors.163.com/ubuntu/ bionic-backports main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb-src http://mirrors.163.com/ubuntu/ bionic main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb-src http://mirrors.163.com/ubuntu/ bionic-security main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb-src http://mirrors.163.com/ubuntu/ bionic-updates main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb-src http://mirrors.163.com/ubuntu/ bionic-proposed main restricted universe multiverse" >>/etc/apt/sources.list && \
  echo "deb-src http://mirrors.163.com/ubuntu/ bionic-backports main restricted universe multiverse"  >>/etc/apt/sources.list && \
  echo "**** install tools ****" && \
  apt-get update && \
  apt-get install -y \
    wget \
    iputils-ping \
    build-essential \
    xinetd \
    telnetd \ 
    rsync \
    jq \
    python-pip && \
#  pip install pyyaml && \
  pip install --proxy http://${PROXY} pyyaml && \
  cd /tmp && wget http://${LOCAL_WEB_SERVER}/${DOCKER_TGZ} && \
  dpkg -i *.deb && \
  echo "**** install golang ****" && \
  cd /tmp && wget http://${LOCAL_WEB_SERVER}/${GO_TGZ} && \
  tar zxvf ${GO_TGZ} >/dev/null 2>&1 && \
  mv go ${GOROOT} && \
  echo "**** go get for vscode ****" && \
  go get golang.org/x/tools/gopls && \
  go get golang.org/x/lint/golint && \
  go get github.com/rogpeppe/godef && \
  go get github.com/ramya-rao-a/go-outline && \
  go get github.com/uudashr/gopkgs/v2/cmd/gopkgs && \
  go get github.com/cweill/gotests/gotests && \
  go get github.com/fatih/gomodifytags && \
  go get github.com/josharian/impl && \
  go get github.com/haya14busa/goplay/cmd/goplay && \
  go get github.com/go-delve/delve/cmd/dlv && \
  go get honnef.co/go/tools/cmd/staticcheck && \
  go get github.com/spf13/cobra/cobra && \
  cp /var/local/go/bin/dlv /var/local/go/bin/dlv-dap && \
  echo "**** install php ****" && \
  apt-get -y install libssl-dev libcurl4-openssl-dev libbz2-dev libjpeg-dev libpng-dev libgmp-dev libicu-dev libmcrypt-dev freetds-dev libxslt-dev libcurl3-dev autoconf dpkg-dev file g++ gcc libc-dev make pkg-config re2c && \
  ln -s /usr/lib/x86_64-linux-gnu/libsybdb.a /usr/lib/libsybdb.a && \
  ln -s /usr/lib/x86_64-linux-gnu/libsybdb.so /usr/lib/libsybdb.so && \
  ln -s /usr/lib/x86_64-linux-gnu/libct.a /usr/lib/libct.a && \
  ln -s /usr/lib/x86_64-linux-gnu/libct.so /usr/lib/libct.so && \
  ln -s /usr/include/x86_64-linux-gnu/gmp.h /usr/include/gmp.h && \
  ln -s /usr/include/x86_64-linux-gnu/curl /usr/include/curl && \
  cd /tmp && wget http://${LOCAL_WEB_SERVER}/${PHP_TGZ} && \
  tar -xzvf ${PHP_TGZ} && \
  cd php-${PHP_VERSION} && \
  ./configure --prefix /usr/share/php7 --enable-fpm --enable-mbstring --enable-zip --enable-calendar --enable-bcmath --enable-exif --enable-intl --enable-opcache --enable-shmop --enable-soap --enable-sockets --with-fpm-user=www-data --with-fpm-group=www-data --with-pcre-regex --with-kerberos --with-openssl --with-mcrypt --with-zlib --with-bz2 --with-curl --with-gd --with-jpeg-dir=/usr/include/jpeg8 --with-png-dir=/usr/include/libpng12 --with-gettext --with-gmp --with-mhash --with-xsl && \
  make clean && make && make install && make test && make clean && \
  ln -s /usr/share/php7/sbin/php-fpm /usr/local/bin/php-fpm && \
  ln -s /usr/share/php7/bin/php /usr/local/bin/php && \
  cd .. && \
  curl -sS https://getcomposer.org/installer | sudo php -- --install-dir=/usr/local/bin --filename=composer && \
  echo "**** vscdoe tools ****" && \
  /usr/local/bin/code-server --install-extension ms-ceintl.vscode-language-pack-zh-hans && \
  /usr/local/bin/code-server --install-extension vscodevim.vim && \
  /usr/local/bin/code-server --install-extension golang.Go && \
  mkdir -p /config/extensions && \
  mv /config/.local/share/code-server/extensions/* /config/extensions && \
  echo "**** clean up ****" && \
  apt-get clean && \
  rm -rf \
    /tmp/* \
    /var/lib/apt/lists/* \
    /var/tmp/*

四、运行

整个ide镜像弄好了,对于开发者来说还有一个需要解决的,我平时使用肯定是需要增加插件、一些自定义的配置,还有golang开发时go mod需要下载库之类的,不能镜像一挂就什么都没了吧。。。

所以这里需要将它们提取出来,我分成了两个步骤,一个是build images时提取,另一个是docker-compose拉起镜像。

1. build.sh

image-20220128103852344

#!/bin/bash

rm -rf  ./config ./go
tag=$(date +%Y%m%d)
docker build -t kelvinblood/code-server:release-$tag .

id=$(docker create kelvinblood/code-server:release-$tag)
docker cp $id:/config .
docker cp $id:/var/local/go .
docker rm -v $id

touch settings.json

另外,我个人使用的个人配置文件如下:

# settings.json

{
    "workbench.colorTheme": "Solarized Dark",
    "editor.fontSize": 18,
    "go.testTimeout": "60s",
    "go.toolsManagement.autoUpdate": true
}

2. docker-compose.yml

version: "2.1"
services:
  code-server:
    image: kelvinblood/code-server:release-20220127
    container_name: code-server
    hostname: vscode
    network_mode: bridge
    environment:
      - PUID=0
      - PGID=0
      - TZ=Asia/Shanghai
      - PASSWORD=  #optional
#      - HASHED_PASSWORD= #optional
#      - SUDO_PASSWORD= #optional
#      - SUDO_PASSWORD_HASH= #optional
      - PROXY_DOMAIN=kelu.org #optional
    volumes:
      - ./gophp/config:/config
      - ./gophp/go:/var/local/go
      - ./gophp/settings.json:/config/data/User/settings.json:rw
      - /var/run/docker.sock:/var/run/docker.sock:rw
      - /root/Workspace:/root/Workspace
    restart: unless-stopped

image-20220128104310205

运行后界面如下:

image-20220128104534765


linux chrome 无法同步密码

最近切到awesome wm 桌面之后,chrome的密码就一直没办法使用,非常不方便。使用命令行启动的时候发现了这样的错误:

password_sync_bridge.cc Passwords datatype error...

谷歌了一番,可能是配置文件的问题,把它配置文件清空后重新配置就好了

rm -rf ~/.config/google-chrome

启动后重新配置。

另外在国内本机首次使用谷歌还是比较麻烦的,在命令行强制使用代理即可:

google-chrome-stable --proxy="http://xxx"

502


nmcli 使用命令行连接wifi

nmcli 的具体命令可以参考redhat的相关文档。这篇文章简单记录如何使用命令行连接wifi。

简单来看如下:

nmcli dev wifi list/show
nmcli dev wifi connect <SSID>  password <password>
nmcli conn up <Name> 
  1. 查看可用 Wi-Fi 访问点

    nmcli dev wifi list
    

    image-20220104093644673

  2. 输入密码连接wifi

    nmcli dev wifi connect bakemonogatari password xxxxxx
    

    image-20220104101559167

    每次命令执行后,会在 /etc/NetworkManager/system-connections/ 目录下创建一个新文件来保存配置,重复执行则创建多个这样的文件。删除wifi连接,在 /etc/NetworkManager/system-connections/ 目录下的对应文件也会被删除。

    nmcli conn show # 查看
    nmcli con del bakemonogatari # 删除
    

    image-20220104102320594

  3. 主动连接某配置的wifi

    nmcli connection up bakemonogatari # 开启
    nmcli connection down  # 关闭
    
  4. 设置该wifi自动连接

    nmcli connection modify bakemonogatari connection.autoconnect yes
    
  5. 其他操作

    • 检查可用设备,查看设备链接状态

       nmcli dev status # 
      

      wlp3s0 是我们的wifi设备。

      image-20220104091538547

    • 以下命令更改 Wi-Fi 状态:

       nmcli radio wifi [on | off ]
      

      image-20220104091721278

参考资料