這個(gè)用Python編寫的大數(shù)據(jù)測(cè)試工具，我給100分

據(jù)對(duì)于任何一個(gè)企業(yè)來說都是非常重要的，為了保證數(shù)據(jù) ETL 流程的質(zhì)量及效率，很多公司都會(huì)引入 ETL 工具。目前 ETL 工具有很多，但是針對(duì) ETL 測(cè)試的測(cè)試工具在業(yè)界卻比較少見。這是為什么呢？

主要是因?yàn)樵谌粘?ETL 測(cè)試過程中會(huì)遇到很多問題，特別是 Hive SQL 類測(cè)試的問題：

（1）測(cè)試以手動(dòng)測(cè)試為主，缺少自動(dòng)化工具；

（2）缺少與數(shù)據(jù)質(zhì)量相關(guān)的分析工具；

（3）測(cè)試中需要重復(fù)編寫SQL語句，效率較低；

（4）運(yùn)行SQL語句耗時(shí)太長，嚴(yán)重拖慢測(cè)試進(jìn)度；

（5）Shell窗口中的查詢結(jié)果不易保存，HUE的查詢結(jié)果易過期且需要手動(dòng)操作保存；

（6）數(shù)據(jù)同步場(chǎng)景及ETL場(chǎng)景下，需要對(duì)比源表和目標(biāo)表一致性，缺少對(duì)比工具；

（7）實(shí)時(shí)數(shù)據(jù)處理場(chǎng)景對(duì)數(shù)據(jù)時(shí)效性要求高，測(cè)試時(shí)場(chǎng)景難以模擬，問題難以復(fù)現(xiàn)；

（8）常用測(cè)試場(chǎng)景下的用例重復(fù)，例如，對(duì)拉鏈表測(cè)試、MapReduce腳本的測(cè)試缺少通用的測(cè)試覆蓋用例；

（9）缺少Hive與HBase一致性對(duì)比工具。

總的來說，大數(shù)據(jù)測(cè)試存在門檻高、測(cè)試效率較低、測(cè)試覆蓋不全、測(cè)試場(chǎng)景不易復(fù)現(xiàn)、測(cè)試問題難以定位等問題，今天異步君就給大家介紹一款可以解決上述問題的超好用大數(shù)據(jù)測(cè)試工具——easy_data_test。

easy_data_test

easy_data_test 是用Python編寫的，目前它的主要功能有：

（1）支持單表數(shù)據(jù)量、列空值數(shù)據(jù)量、列非空值數(shù)據(jù)量、列最大值、列最小值、列不同值、不同值數(shù)據(jù)量查詢，支持對(duì)表結(jié)構(gòu)、任意 select 語句的查詢，支持表基本信息查詢、值域分析、異常值分析、手機(jī)號(hào)合規(guī)性分析、ID 合規(guī)性分析。

（2）支持雙表數(shù)據(jù)量對(duì)比、列空值數(shù)據(jù)量對(duì)比、列非空值數(shù)據(jù)量對(duì)比、表結(jié)構(gòu)對(duì)比、Hive 雙表一致性對(duì)比、Hive 與 HBase 一致性對(duì)比。

（3）支持查看主備集群及庫切換、庫表集群信息。

（4）支持實(shí)時(shí)查看歷史執(zhí)行命令及結(jié)果，以 HTML 頁面展示全表分析，以 HTML 頁面展示值域，以 HTML 頁面展示 Hive 雙表一致性分析結(jié)果。

（5）支持拉鏈表通用測(cè)試（判斷拉鏈表是否斷鏈，判斷拉鏈表日期正確性，對(duì)比拉鏈表與臨時(shí)表數(shù)據(jù)量、數(shù)值）

easy_data_test功能如此強(qiáng)大，是如何實(shí)現(xiàn)的呢？異步君拿到了獨(dú)家資料，從這個(gè)工具的模塊設(shè)計(jì)到技術(shù)選型、再到代碼實(shí)現(xiàn)通通都有，干貨滿滿！下面就讓我們來詳細(xì)看看吧。

模塊設(shè)計(jì)

話不多說，直接上圖：

easy_data_test 模塊設(shè)計(jì)

如圖所示，用戶運(yùn)行 easy_data_test 工具后，可以通過 ./easy_data_test --help 命令查看所有非交互式命令，使用 stdin.readline() 來獲取用戶輸入的語句。

如果沒有指定 -f 或者 -e 就會(huì)進(jìn)入交互式命令行模式。進(jìn)入交互式模式后，程序通過 raw_input 函數(shù)獲取用戶輸入的命令，并根據(jù)命令的首個(gè)關(guān)鍵字執(zhí)行對(duì)應(yīng)的函數(shù)。函數(shù)中封裝了一條或多條 SQL 語句，通過 Presto 讀取 Hive 元數(shù)據(jù)，或通過 pyHive 的 Hive 模塊連接 Hive。

部分執(zhí)行結(jié)果展示在終端頁面，并存儲(chǔ)在查詢歷史命令及結(jié)果文件中。部分命令執(zhí)行完畢后會(huì)生成 url，通過瀏覽器可以查看相應(yīng)命令的執(zhí)行結(jié)果。

不同的首個(gè)關(guān)鍵字對(duì)應(yīng)不同的功能模塊，通常每個(gè)功能模塊包含多個(gè)執(zhí)行函數(shù)。

技術(shù)選型

業(yè)內(nèi)常用的 Python 連接 Hive 的工具有 Presto、pyHive、impala 及 pyhs2 等。設(shè)計(jì)人員在經(jīng)過執(zhí)行效率及公司現(xiàn)有環(huán)境綜合比較后，最終選擇了 Presto 作為查詢主要工具。

Presto 是由 Facebook 公司開發(fā)的、一個(gè)運(yùn)行在多臺(tái)服務(wù)器上的分布式查詢引擎。本身雖然并不存儲(chǔ)數(shù)據(jù)，但是可以接入多種數(shù)據(jù)源（Hive、HBase、Oracle、MySQL、Kafka、Redis 等），并且支持跨數(shù)據(jù)源的級(jí)聯(lián)查詢。

Presto 所使用的執(zhí)行模式與 Hive 有根本的不同，大部分場(chǎng)景下 Presto 比 Hive 快一個(gè)數(shù)量級(jí)。Presto 接受請(qǐng)求后，立即執(zhí)行，全內(nèi)存并行計(jì)算；Hive 需要用 Yarn 做資源調(diào)度，為了接受查詢，需要先申請(qǐng)資源，啟動(dòng)進(jìn)程，并且采用 MapReduce 計(jì)算模型，中間結(jié)果會(huì)保存在磁盤上，所以速度就相對(duì)較慢。

使用 easy_data_test 過程中，有時(shí)會(huì)發(fā)現(xiàn) Presto 存在部分 HiveQL 不兼容問題，例如，show tables like a* 命令無法執(zhí)行，表結(jié)構(gòu)查詢與預(yù)期不符，執(zhí)行切換庫操作報(bào)錯(cuò)時(shí)不拋出異常等。

考慮到 Presto 部分功能缺失帶來的問題，于是設(shè)計(jì)人員選擇 pyHive 作為功能彌補(bǔ)工具，在執(zhí)行特定 SQL 語句時(shí)會(huì)切換到 pyHive 去連接 Hive 執(zhí)行。

區(qū)別于 Hive，需要格外注意的是，Presto 不支持隱式轉(zhuǎn)換。例如，Hive 會(huì)成功執(zhí)行以下語句：

select count(1) from sample_label where label <> ";

但是使用 Presto 執(zhí)行就會(huì)報(bào)告以下錯(cuò)誤；

PrestoUserError(type=USER_ERROR, name=SYNTAX_ERROR, message="line 1:83: '<>' cannot be applied to integer, varchar(0)", query_id=20191106_024551_ 01370_8ukjc)

報(bào)錯(cuò)原因是，label 列定義的類型為 integer，在使用 Presto 時(shí)直接將該列與空字符做比較，Presto 不支持隱式轉(zhuǎn)換。對(duì)于該類問題，使用時(shí)只需將 label 顯式轉(zhuǎn)換為 string 或者 varchar 類型即可解決。

select count(1) from sample_label where cast(label as string) <> ";

從以上內(nèi)容已經(jīng)不難看出研發(fā)人員的匠心，最后我們直接來看一看 easy_data_test 的模塊代碼。

模塊代碼

入口函數(shù)如下：

1 def main(options, hostname, port): 
2 setup_cqlruleset(options.cqlmodule) 
3 setup_cqldocs(options.cqlmodule) 
4 # 初始化歷史執(zhí)行命令及結(jié)果文件 
5 init_history() 
6 if options.file is None: 
7 stdin = None 
8 else: 
9 try:
10 encoding, bom_size = get_file_encoding_bomsize(options.file) 
11 stdin = codecs.open(options.file, 'r', encoding) 
12 stdin.seek(bom_size) 
13 except IOError, e: 
14 sys.exit("Can't open %r: %s" % (options.file, e)) 
15 
16 try: 
17 # 初始化Shell，該類繼承自cmd.Cmd 
18 shell = Shell(hostname,
19 port, 
20 database=options.database, 
21 username=options.username, 
22 password=options.password, 
23 stdin=stdin, 
24 tty=options.tty, 
25 completekey=options.completekey, 
26 single_statement=options.execute, 
27 connect_timeout=DEFAULT_CONNECT_TIMEOUT_SECONDS) 
28 except KeyboardInterrupt: 
29 sys.exit('Connection aborted.') 
30 except Exception, e: 
31 sys.exit('Connection error: %s' % (e,)) 
32 if options.debug: 
33 shell.debug = True 
34 
35 # 通過交互式命令循環(huán)處理 
36 shell.cmdloop() 
37 batch_mode = options.file or options.execute 
38 if batch_mode and shell.statement_error: 
39 sys.exit(2) 
40 
41 
42 if __name__ == '__main__': 
43 main(*read_options(sys.argv[1:], os.environ))

通過 Presto 連接 Hive 的代碼如下：

1 import prestodb 
2 conn=prestodb.dbapi.connect( 
3 host= ip, 
4 port=8443, 
5 user='username', 
6 catalog='hive', 
7 schema='default', 
8 http_scheme='https', 
9 auth=prestodb.auth.BasicAuthentication("username", "username的密碼"), 
10 ) 
11 conn._http_session.verify = './presto.pem' #身份認(rèn)證相關(guān)文件 
12 cur = conn.cursor() 
13 cur.execute('SELECT * FROM system.runtime.nodes') 
14 rows = cur.fetchall() 
15 print rows

為了使用 Hive 查詢?nèi)頂?shù)據(jù)量，需要執(zhí)行 SQL 語句 select count(*) from tablename。使用工具代碼封裝后，查詢表數(shù)據(jù)只需要使用 count tablename 即可實(shí)現(xiàn)，且查詢效率比使用原生 Hive 快一個(gè)數(shù)量級(jí)。查詢結(jié)果保存在歷史文件中，可以使用相關(guān)命令查看。

關(guān)于單表模塊的命令有多個(gè)，count 命令的代碼如下：

1 class SigleTableAnalysis(cmd.Cmd): 
2 # count table，查詢表數(shù)據(jù)量，支持傳入where條件 
3 @classmethod 
4 def do_count(self, parsed, print_command=True, print_res=True): 
5 try: 
6 table_name = parsed.split(' ')[1].strip(';') 
7 statement = 'select count(1) from %s' % table_name 
8 if len(parsed.split(' ')) >=3 and parsed.split(' ')[2].strip() == 'where': 9 wherecondition = ' '.join(parsed.split(' ')[3:]) 
10 statement = statement + ' where ' + wherecondition 
11 status, res = perform_simple_statement(statement, detail=False, print_ 
 command=print_command, print_res=print_res) 
12 if not print_res: 
13 return status, res 
14 except IndexError as e: 
15 print('please check whether your command is right') 
16 except Exception as e: 
17 import traceback
18 print('%s detail: %s' % (str(e), traceback.format_exc()))

其他模塊的代碼與 count 命令的代碼相似，雙表查詢模塊、拉鏈表測(cè)試模塊、數(shù)據(jù)質(zhì)量分析模塊會(huì)在單表模塊的基礎(chǔ)上進(jìn)行封裝，所以設(shè)計(jì)會(huì)更復(fù)雜一些，由于篇幅有限，異步君沒法在這里為大家更多地展示了。想要深入了解的小伙伴，推薦閱讀《機(jī)器學(xué)習(xí)測(cè)試入門與實(shí)踐》。

機(jī)器學(xué)習(xí)測(cè)試入門與實(shí)踐

作者：艾輝

機(jī)器學(xué)習(xí)測(cè)試入門與實(shí)踐（異步圖書出品）

￥83.2

購買

內(nèi)容簡(jiǎn)介：

本書全面且系統(tǒng)地介紹了機(jī)器學(xué)習(xí)測(cè)試技術(shù)與質(zhì)量體系建設(shè)，能夠幫助讀者了解機(jī)器學(xué)習(xí)是如何工作的，了解機(jī)器學(xué)習(xí)的質(zhì)量保障是如何進(jìn)行的。

工程開發(fā)人員和測(cè)試工程師通過閱讀本書，可以系統(tǒng)化地了解大數(shù)據(jù)測(cè)試、特征測(cè)試及模型評(píng)估等知識(shí)；算法工程師通過閱讀本書，可以學(xué)習(xí)模型評(píng)測(cè)的方法和拓寬模型工程實(shí)踐的思路；技術(shù)專家和技術(shù)管理者通過閱讀本書，可以了解機(jī)器學(xué)習(xí)質(zhì)量保障與工程效能的建設(shè)方案。

家好，我是DD，已經(jīng)是封閉在家的第51天了！

最近一直在更新Java新特性（https://www.didispace.com/java-features/）和IDEA Tips（https://www.didispace.com/idea-tips/）兩個(gè)原創(chuàng)專欄，其他方向內(nèi)容的動(dòng)態(tài)關(guān)注少了。昨天天晚上刷推的時(shí)候，瞄到了這個(gè)神奇的東西，覺得挺cool的，拿出來分享下：

相信你看到圖，不用我說，你也猜到是啥了吧？html里可以跑python代碼了！

看到好多Python公眾號(hào)已經(jīng)開始猛吹未來了，但乍看怎么覺得有點(diǎn)像JSP？或者一些模版引擎？是進(jìn)步還是倒退呢？與其瞎想，不如仔細(xì)看看這個(gè)東東的能力吧！

根據(jù)官方介紹，這個(gè)名為PyScript的框架，其核心目標(biāo)是為開發(fā)者提供在標(biāo)準(zhǔn)HTML中嵌入Python代碼的能力，使用 Python調(diào)用JavaScript函數(shù)庫，并以此實(shí)現(xiàn)利用Python創(chuàng)建Web應(yīng)用的功能。

看到介紹里提到了調(diào)用JavaScript函數(shù)庫的能力，看來跟JSP或者模版引擎還是有區(qū)別的。

PyScript 快速體驗(yàn)

官方給了一個(gè)例子，可以幫助我們觀的感受這個(gè)開發(fā)框架的能力，不妨跟著DD看看，它能做啥吧！

第一個(gè)案例，hello world

代碼很簡(jiǎn)單，就下面這幾行。你只需要?jiǎng)?chuàng)建一個(gè)html文件，然后復(fù)制進(jìn)去就可以了。

<html>
  <head>
    <link rel="stylesheet" href="https://pyscript.net/alpha/pyscript.css" />
    <script defer src="https://pyscript.net/alpha/pyscript.js"></script>
  </head>
  <body> 
    <py-script> 
        print('Hello, World!') 
    </py-script> 
  </body>
</html>

保存好之后，在瀏覽器里打開就能看到這樣的頁面了：

回頭再看看這個(gè)html里的內(nèi)容，三個(gè)核心內(nèi)容：

引入pyscript的樣式文件：<link rel="stylesheet" href="https://pyscript.net/alpha/pyscript.css" />
引入pyscript的腳本文件：<script defer src="https://pyscript.net/alpha/pyscript.js"></script>
<py-script>標(biāo)簽中寫具體的python代碼來輸出Hello World

如果你懶得自己敲代碼的話，本文的兩個(gè)案例代碼我打包放在公眾號(hào)了，需要的朋友可以關(guān)注公眾號(hào)“程序猿DD”，回復(fù)：pyscript 獲取。

第二個(gè)案例，數(shù)據(jù)定義 + 數(shù)據(jù)展示

先創(chuàng)建一個(gè)data.py文件，然后加入前面的代碼。功能很簡(jiǎn)單，就是隨機(jī)生成（x，y）的坐標(biāo)

import numpy as np

def make_x_and_y(n):
    x = np.random.randn(n)
    y = np.random.randn(n)
    return x, y

再創(chuàng)建一個(gè)html文件，加入下面的代碼

<html>
    <head>
      <link rel="stylesheet" href="https://pyscript.net/alpha/pyscript.css" />
      <script defer src="https://pyscript.net/alpha/pyscript.js"></script>
      <py-env>
        - numpy
        - matplotlib
        - paths:
          - /data.py
      </py-env>
    </head>

  <body>
    <h1>Let's plot random numbers</h1>
    <div id="plot"></div>
    <py-script output="plot">
    import matplotlib.pyplot as plt
    from data import make_x_and_y

    x, y = make_x_and_y(n=1000)

    fig, ax = plt.subplots()
    ax.scatter(x, y)
    fig
    </py-script>
  </body>
</html>

這里就稍微復(fù)雜一些了，除了hello world中的幾個(gè)要點(diǎn)外，這里還有這幾個(gè)要關(guān)注的地方：

<py-env>標(biāo)簽：這里聲明要引入的包和要引入的文件（上面創(chuàng)建的data.py）
<py-script output="plot">：這里定義了要在<div id="plot"></div>中輸出的內(nèi)容，可以看到這里的邏輯都是用python寫的

這個(gè)頁面的執(zhí)行效果是這樣的：

是不是很神奇呢？整個(gè)過程中都沒有大家熟悉的cs、js內(nèi)容，就完成了這樣一個(gè)圖的頁面實(shí)現(xiàn)。

小結(jié)

最后，談?wù)勗谡麄€(gè)嘗試過程中，給我的幾個(gè)感受：

開發(fā)體驗(yàn)上高度統(tǒng)一，對(duì)于python開發(fā)者來說，開發(fā)Web應(yīng)用的門檻可以更低了
感覺性能上似乎有所不足，幾個(gè)復(fù)雜的案例執(zhí)行有點(diǎn)慢，開始以為是部分國外cdn的緣故，后來移到本地后，還是慢。這部分可能還需要進(jìn)一步優(yōu)化。

這個(gè)開發(fā)框架目前還只是alpha版本，未來一定還會(huì)有更多特性與優(yōu)化出來，總體上我覺得這個(gè)框架還是非常cool的，尤其對(duì)于剛學(xué)會(huì)Python，或者只會(huì)Python，但又想快速開發(fā)Web應(yīng)用的小伙伴來說，可能將會(huì)是個(gè)不錯(cuò)的選擇，那你覺得這個(gè)框架如何？未來會(huì)不會(huì)火？留言區(qū)聊聊吧！

小新編譯自 Insight Data Blog

量子位出品 | 公眾號(hào) QbitAI

寫個(gè)網(wǎng)頁能有多麻煩？在大多數(shù)公司里，這項(xiàng)工作分為三步：

1. 產(chǎn)品經(jīng)理完成用戶調(diào)研任務(wù)后，列出一系列技術(shù)要求；

2. 設(shè)計(jì)師根據(jù)這些要求來設(shè)計(jì)低保真原型，逐漸修改得到高保真原型和UI設(shè)計(jì)圖；

3. 工程師將這些設(shè)計(jì)圖實(shí)現(xiàn)為代碼，最終變成用戶使用的產(chǎn)品。

這么多環(huán)節(jié)，任何地方出一點(diǎn)問題，都會(huì)拉長開發(fā)周期。因此，不少公司，比如Airbnb已經(jīng)開始用機(jī)器學(xué)習(xí)來提高這個(gè)過程的效率。

△ Airbnb內(nèi)部的AI工具，從圖紙到代碼一步到位

看起來很美好，但Airbnb還沒公開該模型中端到端訓(xùn)練的細(xì)節(jié)，以及手工設(shè)計(jì)的圖像特征對(duì)該模型的貢獻(xiàn)度。這是該公司特有的閉源解決方案專利，可能不會(huì)進(jìn)行公開。

好在，一個(gè)叫Ashwin Kumar的程序員創(chuàng)建了一個(gè)開源版本，讓開發(fā)者/設(shè)計(jì)師的工作變得更簡(jiǎn)單。

以下內(nèi)容翻譯自他的博客：

理想上，這個(gè)模型可以根據(jù)網(wǎng)站設(shè)計(jì)的簡(jiǎn)單手繪原型，很快地生成一個(gè)可用的HTML網(wǎng)站：

△ SketchCode模型利用手繪線框圖來生成HTML網(wǎng)站

事實(shí)上，上面例子就是利用訓(xùn)練好的模型在測(cè)試集上生成的一個(gè)實(shí)際網(wǎng)站，代碼請(qǐng)?jiān)L問：https://github.com/ashnkumar/sketch-code。

從圖像標(biāo)注中獲取靈感

目前要解決的問題屬于一種更廣泛的任務(wù)，叫做程序綜合（program synthesis），即自動(dòng)生成工作源代碼。盡管很多程序綜合研究通過自然語言規(guī)范或執(zhí)行追蹤法來生成代碼，但在當(dāng)前任務(wù)中，我會(huì)充分利用源圖像，即給出的手繪線框圖來展開工作。

在機(jī)器學(xué)習(xí)中有一個(gè)十分熱門的研究領(lǐng)域，稱為圖像標(biāo)注（image caption），目的是構(gòu)建一種把圖像和文本連接在一起的模型，特別是用于生成源圖像內(nèi)容的描述。

△ 圖像標(biāo)注模型生成源圖像的文本描述

我從一篇pix2code論文和另一個(gè)應(yīng)用這種方法的相關(guān)項(xiàng)目中獲得靈感，決定把我的任務(wù)按照?qǐng)D像標(biāo)注方式來實(shí)現(xiàn)，把繪制的網(wǎng)站線框圖作為輸入圖像，并將其相應(yīng)的HTML代碼作為其輸出內(nèi)容。

注：上段提到的兩個(gè)參考項(xiàng)目分別是

pix2code論文：https://arxiv.org/abs/1705.07962

floydhub教程：https://blog.floydhub.com/turning-design-mockups-into-code-with-deep-learning/?source=techstories.org

獲取合適的數(shù)據(jù)集

確定圖像標(biāo)注方法后，理想中使用的訓(xùn)練數(shù)據(jù)集會(huì)包含成千上萬對(duì)手繪線框圖和對(duì)應(yīng)的HTML輸出代碼。但是，目前還沒有我想要的相關(guān)數(shù)據(jù)集，我只好為這個(gè)任務(wù)來創(chuàng)建數(shù)據(jù)集。

最開始，我嘗試了pix2code論文給出的開源數(shù)據(jù)集，該數(shù)據(jù)集由1750張綜合生成網(wǎng)站的截圖及其相應(yīng)源代碼組成。

△ pix2code數(shù)據(jù)集中的生成網(wǎng)站圖片和源代碼

這是一個(gè)很好的數(shù)據(jù)集，有幾個(gè)有趣的地方：

該數(shù)據(jù)集中的每個(gè)生成網(wǎng)站都包含幾個(gè)簡(jiǎn)單的輔助程序元素，如按鈕、文本框和DIV對(duì)象。盡管這意味著這個(gè)模型受限于將這些少數(shù)元素作為它的輸出內(nèi)容，但是這些元素可通過選擇生成網(wǎng)絡(luò)來修改和擴(kuò)展。這種方法應(yīng)該很容易地推廣到更大的元素詞匯表。
每個(gè)樣本的源代碼都是由領(lǐng)域?qū)Ｓ谜Z言（DSL）的令牌組成，這是該論文作者為該任務(wù)所創(chuàng)建的。每個(gè)令牌對(duì)應(yīng)于HTML和CSS的一個(gè)片段，且加入編譯器把DSL轉(zhuǎn)換為運(yùn)行的HTML代碼。

彩色網(wǎng)站圖像變手繪圖

為了修改我的任務(wù)數(shù)據(jù)集，我要讓網(wǎng)站圖像看起來像手工繪制出的。我嘗試使用Python中的OpenCV庫和PIL庫等工具對(duì)每張圖像進(jìn)行修改，包括灰度轉(zhuǎn)換和輪廓檢測(cè)。

最終，我決定直接修改原始網(wǎng)站的CSS樣式表，通過執(zhí)行以下操作：

1. 更改頁面上元素的邊框半徑來平滑按鈕和DIV對(duì)象的邊緣；

2. 模仿繪制的草圖來調(diào)整邊框的粗細(xì)，并添加陰影；

3. 將原有字體更改為類似手寫的字體；

最終實(shí)現(xiàn)的流程中還增加了一個(gè)步驟，通過添加傾斜、移動(dòng)和旋轉(zhuǎn)來實(shí)現(xiàn)圖像增強(qiáng)，來模擬實(shí)際繪制草圖中的變化。

使用圖像標(biāo)注模型架構(gòu)

現(xiàn)在，我已經(jīng)處理好數(shù)據(jù)集，接下來是構(gòu)建模型。

我利用了圖像標(biāo)注中使用的模型架構(gòu)，該架構(gòu)由三個(gè)主要部分組成：

1. 一種使用卷積神經(jīng)網(wǎng)絡(luò)（CNN）的計(jì)算機(jī)視覺模型，從源圖像提取圖像特征；

2. 一種包含門控單元GRU的語言模型，對(duì)源代碼令牌序列進(jìn)行編碼；

3. 一個(gè)解碼器模型，也屬于GRU單元，把前兩個(gè)步驟的輸出作為輸入，并預(yù)測(cè)序列中的下一個(gè)令牌。

△ 以令牌序列為輸入來訓(xùn)練模型

為了訓(xùn)練模型，我將源代碼拆分為令牌序列。模型的輸入為單個(gè)部分序列及它的源圖像，其標(biāo)簽是文本中的下一個(gè)令牌。該模型使用交叉熵函數(shù)作為損失函數(shù)，將模型的下個(gè)預(yù)測(cè)令牌與實(shí)際的下個(gè)令牌進(jìn)行比較。

在模型從頭開始生成代碼的過程中，該推理方式稍有不同。圖像仍然通過CNN網(wǎng)絡(luò)進(jìn)行處理，但文本處理開始時(shí)僅采用一個(gè)啟動(dòng)序列。在每個(gè)步驟中，模型對(duì)序列中輸出的下個(gè)預(yù)測(cè)令牌將會(huì)添加到當(dāng)前輸入序列，并作為新的輸入序列送到模型中；重復(fù)此操作直到模型的預(yù)測(cè)令牌為，或該過程達(dá)到每個(gè)文本中令牌數(shù)目的預(yù)定義值。

當(dāng)模型生成一組預(yù)測(cè)令牌后，編譯器就會(huì)將DSL令牌轉(zhuǎn)換為HTML代碼，這些HTML代碼可以在任何瀏覽器中運(yùn)行。

用BLEU分?jǐn)?shù)評(píng)估模型

我決定使用BLEU分?jǐn)?shù)來評(píng)估模型。這是機(jī)器翻譯任務(wù)中常用的一種度量標(biāo)準(zhǔn)，通過在給定相同輸入的情況下，衡量機(jī)器生成的文本與人類可能產(chǎn)生內(nèi)容的近似程度。

實(shí)際上，BLEU通過比較生成文本和參考文本的N元序列，以創(chuàng)建修改后的準(zhǔn)確版本。它非常適用于這個(gè)項(xiàng)目，因?yàn)樗鼤?huì)影響生成HTML代碼中的實(shí)際元素，以及它們之間的相互關(guān)系。

最棒的是，我還可以通過檢查生成的網(wǎng)站來比較當(dāng)前的實(shí)際BLEU分?jǐn)?shù)。

△ 觀察BLEU分?jǐn)?shù)

當(dāng)BLEU分?jǐn)?shù)為1.0時(shí)，則說明給定源圖像后該模型能在正確位置設(shè)置合適的元素，而較低的BLEU分?jǐn)?shù)這說明模型預(yù)測(cè)了錯(cuò)誤元素或是把它們放在相對(duì)不合適的位置。我們最終模型在評(píng)估數(shù)據(jù)集上的BLEU分?jǐn)?shù)為0.76。

福利：定制網(wǎng)頁風(fēng)格

后來，我還想到，由于該模型只生成當(dāng)前頁面的框架，即文本的令牌，因此我可以在編譯過程中添加一個(gè)定制的CSS層，并立刻得到不同風(fēng)格的生成網(wǎng)站。

△ 一個(gè)手繪圖生成多種風(fēng)格的網(wǎng)頁

把風(fēng)格定制和模型生成兩個(gè)過程分開，在使用模型時(shí)帶來了很多好處：

1.如果想要將SketchCode模型應(yīng)用到自己公司的產(chǎn)品中，前端工程師可以直接使用該模型，只需更改一個(gè)CSS文件來匹配該公司的網(wǎng)頁設(shè)計(jì)風(fēng)格；

2. 該模型內(nèi)置的可擴(kuò)展性，即通過單一源圖像，模型可以迅速編譯出多種不同的預(yù)定義風(fēng)格，因此用戶可以設(shè)想出多種可能的網(wǎng)站風(fēng)格，并在瀏覽器中瀏覽這些生成網(wǎng)頁。

總結(jié)和展望

受到圖像標(biāo)注研究的啟發(fā)，SketchCode模型能夠在幾秒鐘內(nèi)將手繪網(wǎng)站線框圖轉(zhuǎn)換為可用的HTML網(wǎng)站。

但是，該模型還存在一些問題，這也是我接下來可能的工作方向：

1. 由于這個(gè)模型只使用了16個(gè)元素進(jìn)行訓(xùn)練，所以它不能預(yù)測(cè)這些數(shù)據(jù)以外的令牌。下一步方向可能是使用更多元素來生成更多的網(wǎng)站樣本，包括網(wǎng)站圖片，下拉菜單和窗體，可參考啟動(dòng)程序組件（https://getbootstrap.com/docs/4.0/components/buttons/）來獲得思路；

2. 在實(shí)際網(wǎng)站構(gòu)建中，存在很多變化。創(chuàng)建一個(gè)能更好反映這種變化的訓(xùn)練集，是提高生成效果的一種好方法，可以通過獲取更多網(wǎng)站的HTML/CSS代碼以及內(nèi)容截圖來提高；

3. 手繪圖紙也存在很多CSS修改技巧無法捕捉到的變化。解決這個(gè)問題的一種好方法是使用生成對(duì)抗網(wǎng)絡(luò)GAN來創(chuàng)建更逼真的繪制網(wǎng)站圖像。

整合營銷服務(wù)商