整合營(yíng)銷服務(wù)商
電腦端+手機(jī)端+微信端=數(shù)據(jù)同步管理
免費(fèi)咨詢熱線：
電腦端+手機(jī)端+微信端=數(shù)據(jù)同步管理
免費(fèi)咨詢熱線：
小新 編譯自 Insight Data Blog
量子位 出品 | 公眾號(hào) QbitAI
寫(xiě)個(gè)網(wǎng)頁(yè)能有多麻煩？在大多數(shù)公司里，這項(xiàng)工作分為三步：
1. 產(chǎn)品經(jīng)理完成用戶調(diào)研任務(wù)后，列出一系列技術(shù)要求；
2. 設(shè)計(jì)師根據(jù)這些要求來(lái)設(shè)計(jì)低保真原型，逐漸修改得到高保真原型和UI設(shè)計(jì)圖；
3. 工程師將這些設(shè)計(jì)圖實(shí)現(xiàn)為代碼，最終變成用戶使用的產(chǎn)品。
這么多環(huán)節(jié)，任何地方出一點(diǎn)問(wèn)題，都會(huì)拉長(zhǎng)開(kāi)發(fā)周期。因此，不少公司，比如Airbnb已經(jīng)開(kāi)始用機(jī)器學(xué)習(xí)來(lái)提高這個(gè)過(guò)程的效率。
△ Airbnb內(nèi)部的AI工具，從圖紙到代碼一步到位
看起來(lái)很美好，但Airbnb還沒(méi)公開(kāi)該模型中端到端訓(xùn)練的細(xì)節(jié)，以及手工設(shè)計(jì)的圖像特征對(duì)該模型的貢獻(xiàn)度。這是該公司特有的閉源解決方案專利，可能不會(huì)進(jìn)行公開(kāi)。
好在，一個(gè)叫Ashwin Kumar的程序員創(chuàng)建了一個(gè)開(kāi)源版本，讓開(kāi)發(fā)者/設(shè)計(jì)師的工作變得更簡(jiǎn)單。
以下內(nèi)容翻譯自他的博客：
理想上，這個(gè)模型可以根據(jù)網(wǎng)站設(shè)計(jì)的簡(jiǎn)單手繪原型，很快地生成一個(gè)可用的HTML網(wǎng)站：
△ SketchCode模型利用手繪線框圖來(lái)生成HTML網(wǎng)站
事實(shí)上，上面例子就是利用訓(xùn)練好的模型在測(cè)試集上生成的一個(gè)實(shí)際網(wǎng)站，代碼請(qǐng)?jiān)L問(wèn)：https://github.com/ashnkumar/sketch-code。
目前要解決的問(wèn)題屬于一種更廣泛的任務(wù)，叫做程序綜合（program synthesis），即自動(dòng)生成工作源代碼。盡管很多程序綜合研究通過(guò)自然語(yǔ)言規(guī)范或執(zhí)行追蹤法來(lái)生成代碼，但在當(dāng)前任務(wù)中，我會(huì)充分利用源圖像，即給出的手繪線框圖來(lái)展開(kāi)工作。
在機(jī)器學(xué)習(xí)中有一個(gè)十分熱門的研究領(lǐng)域，稱為圖像標(biāo)注（image caption），目的是構(gòu)建一種把圖像和文本連接在一起的模型，特別是用于生成源圖像內(nèi)容的描述。
△ 圖像標(biāo)注模型生成源圖像的文本描述
我從一篇pix2code論文和另一個(gè)應(yīng)用這種方法的相關(guān)項(xiàng)目中獲得靈感，決定把我的任務(wù)按照?qǐng)D像標(biāo)注方式來(lái)實(shí)現(xiàn)，把繪制的網(wǎng)站線框圖作為輸入圖像，并將其相應(yīng)的HTML代碼作為其輸出內(nèi)容。
注：上段提到的兩個(gè)參考項(xiàng)目分別是
pix2code論文：https://arxiv.org/abs/1705.07962
floydhub教程：https://blog.floydhub.com/turning-design-mockups-into-code-with-deep-learning/?source=techstories.org
確定圖像標(biāo)注方法后，理想中使用的訓(xùn)練數(shù)據(jù)集會(huì)包含成千上萬(wàn)對(duì)手繪線框圖和對(duì)應(yīng)的HTML輸出代碼。但是，目前還沒(méi)有我想要的相關(guān)數(shù)據(jù)集，我只好為這個(gè)任務(wù)來(lái)創(chuàng)建數(shù)據(jù)集。
最開(kāi)始，我嘗試了pix2code論文給出的開(kāi)源數(shù)據(jù)集，該數(shù)據(jù)集由1750張綜合生成網(wǎng)站的截圖及其相應(yīng)源代碼組成。
△ pix2code數(shù)據(jù)集中的生成網(wǎng)站圖片和源代碼
這是一個(gè)很好的數(shù)據(jù)集，有幾個(gè)有趣的地方：
該數(shù)據(jù)集中的每個(gè)生成網(wǎng)站都包含幾個(gè)簡(jiǎn)單的輔助程序元素，如按鈕、文本框和DIV對(duì)象。盡管這意味著這個(gè)模型受限于將這些少數(shù)元素作為它的輸出內(nèi)容，但是這些元素可通過(guò)選擇生成網(wǎng)絡(luò)來(lái)修改和擴(kuò)展。這種方法應(yīng)該很容易地推廣到更大的元素詞匯表。
每個(gè)樣本的源代碼都是由領(lǐng)域?qū)Ｓ谜Z(yǔ)言（DSL）的令牌組成，這是該論文作者為該任務(wù)所創(chuàng)建的。每個(gè)令牌對(duì)應(yīng)于HTML和CSS的一個(gè)片段，且加入編譯器把DSL轉(zhuǎn)換為運(yùn)行的HTML代碼。
為了修改我的任務(wù)數(shù)據(jù)集，我要讓網(wǎng)站圖像看起來(lái)像手工繪制出的。我嘗試使用Python中的OpenCV庫(kù)和PIL庫(kù)等工具對(duì)每張圖像進(jìn)行修改，包括灰度轉(zhuǎn)換和輪廓檢測(cè)。
最終，我決定直接修改原始網(wǎng)站的CSS樣式表，通過(guò)執(zhí)行以下操作：
1. 更改頁(yè)面上元素的邊框半徑來(lái)平滑按鈕和DIV對(duì)象的邊緣；
2. 模仿繪制的草圖來(lái)調(diào)整邊框的粗細(xì)，并添加陰影；
3. 將原有字體更改為類似手寫(xiě)的字體；
最終實(shí)現(xiàn)的流程中還增加了一個(gè)步驟，通過(guò)添加傾斜、移動(dòng)和旋轉(zhuǎn)來(lái)實(shí)現(xiàn)圖像增強(qiáng)，來(lái)模擬實(shí)際繪制草圖中的變化。
現(xiàn)在，我已經(jīng)處理好數(shù)據(jù)集，接下來(lái)是構(gòu)建模型。
我利用了圖像標(biāo)注中使用的模型架構(gòu)，該架構(gòu)由三個(gè)主要部分組成：
1. 一種使用卷積神經(jīng)網(wǎng)絡(luò)（CNN）的計(jì)算機(jī)視覺(jué)模型，從源圖像提取圖像特征；
2. 一種包含門控單元GRU的語(yǔ)言模型，對(duì)源代碼令牌序列進(jìn)行編碼；
3. 一個(gè)解碼器模型，也屬于GRU單元，把前兩個(gè)步驟的輸出作為輸入，并預(yù)測(cè)序列中的下一個(gè)令牌。
△ 以令牌序列為輸入來(lái)訓(xùn)練模型
為了訓(xùn)練模型，我將源代碼拆分為令牌序列。模型的輸入為單個(gè)部分序列及它的源圖像，其標(biāo)簽是文本中的下一個(gè)令牌。該模型使用交叉熵函數(shù)作為損失函數(shù)，將模型的下個(gè)預(yù)測(cè)令牌與實(shí)際的下個(gè)令牌進(jìn)行比較。
在模型從頭開(kāi)始生成代碼的過(guò)程中，該推理方式稍有不同。圖像仍然通過(guò)CNN網(wǎng)絡(luò)進(jìn)行處理，但文本處理開(kāi)始時(shí)僅采用一個(gè)啟動(dòng)序列。在每個(gè)步驟中，模型對(duì)序列中輸出的下個(gè)預(yù)測(cè)令牌將會(huì)添加到當(dāng)前輸入序列，并作為新的輸入序列送到模型中；重復(fù)此操作直到模型的預(yù)測(cè)令牌為，或該過(guò)程達(dá)到每個(gè)文本中令牌數(shù)目的預(yù)定義值。
當(dāng)模型生成一組預(yù)測(cè)令牌后，編譯器就會(huì)將DSL令牌轉(zhuǎn)換為HTML代碼，這些HTML代碼可以在任何瀏覽器中運(yùn)行。
我決定使用BLEU分?jǐn)?shù)來(lái)評(píng)估模型。這是機(jī)器翻譯任務(wù)中常用的一種度量標(biāo)準(zhǔn)，通過(guò)在給定相同輸入的情況下，衡量機(jī)器生成的文本與人類可能產(chǎn)生內(nèi)容的近似程度。
實(shí)際上，BLEU通過(guò)比較生成文本和參考文本的N元序列，以創(chuàng)建修改后的準(zhǔn)確版本。它非常適用于這個(gè)項(xiàng)目，因?yàn)樗鼤?huì)影響生成HTML代碼中的實(shí)際元素，以及它們之間的相互關(guān)系。
最棒的是，我還可以通過(guò)檢查生成的網(wǎng)站來(lái)比較當(dāng)前的實(shí)際BLEU分?jǐn)?shù)。
△ 觀察BLEU分?jǐn)?shù)
當(dāng)BLEU分?jǐn)?shù)為1.0時(shí)，則說(shuō)明給定源圖像后該模型能在正確位置設(shè)置合適的元素，而較低的BLEU分?jǐn)?shù)這說(shuō)明模型預(yù)測(cè)了錯(cuò)誤元素或是把它們放在相對(duì)不合適的位置。我們最終模型在評(píng)估數(shù)據(jù)集上的BLEU分?jǐn)?shù)為0.76。
后來(lái)，我還想到，由于該模型只生成當(dāng)前頁(yè)面的框架，即文本的令牌，因此我可以在編譯過(guò)程中添加一個(gè)定制的CSS層，并立刻得到不同風(fēng)格的生成網(wǎng)站。
△ 一個(gè)手繪圖生成多種風(fēng)格的網(wǎng)頁(yè)
把風(fēng)格定制和模型生成兩個(gè)過(guò)程分開(kāi)，在使用模型時(shí)帶來(lái)了很多好處：
1.如果想要將SketchCode模型應(yīng)用到自己公司的產(chǎn)品中，前端工程師可以直接使用該模型，只需更改一個(gè)CSS文件來(lái)匹配該公司的網(wǎng)頁(yè)設(shè)計(jì)風(fēng)格；
2. 該模型內(nèi)置的可擴(kuò)展性，即通過(guò)單一源圖像，模型可以迅速編譯出多種不同的預(yù)定義風(fēng)格，因此用戶可以設(shè)想出多種可能的網(wǎng)站風(fēng)格，并在瀏覽器中瀏覽這些生成網(wǎng)頁(yè)。
受到圖像標(biāo)注研究的啟發(fā)，SketchCode模型能夠在幾秒鐘內(nèi)將手繪網(wǎng)站線框圖轉(zhuǎn)換為可用的HTML網(wǎng)站。
但是，該模型還存在一些問(wèn)題，這也是我接下來(lái)可能的工作方向：
1. 由于這個(gè)模型只使用了16個(gè)元素進(jìn)行訓(xùn)練，所以它不能預(yù)測(cè)這些數(shù)據(jù)以外的令牌。下一步方向可能是使用更多元素來(lái)生成更多的網(wǎng)站樣本，包括網(wǎng)站圖片，下拉菜單和窗體，可參考啟動(dòng)程序組件（https://getbootstrap.com/docs/4.0/components/buttons/）來(lái)獲得思路；
2. 在實(shí)際網(wǎng)站構(gòu)建中，存在很多變化。創(chuàng)建一個(gè)能更好反映這種變化的訓(xùn)練集，是提高生成效果的一種好方法，可以通過(guò)獲取更多網(wǎng)站的HTML/CSS代碼以及內(nèi)容截圖來(lái)提高；
3. 手繪圖紙也存在很多CSS修改技巧無(wú)法捕捉到的變化。解決這個(gè)問(wèn)題的一種好方法是使用生成對(duì)抗網(wǎng)絡(luò)GAN來(lái)創(chuàng)建更逼真的繪制網(wǎng)站圖像。
代碼：https://github.com/ashnkumar/sketch-code
原文：https://blog.insightdatascience.com/automated-front-end-development-using-deep-learning-3169dd086e82
— 完 —
誠(chéng)摯招聘
量子位正在招募編輯/記者，工作地點(diǎn)在北京中關(guān)村。期待有才氣、有熱情的同學(xué)加入我們！相關(guān)細(xì)節(jié)，請(qǐng)?jiān)诹孔游还娞?hào)(QbitAI)對(duì)話界面，回復(fù)“招聘”兩個(gè)字。
量子位 QbitAI · 頭條號(hào)簽約作者
?'?' ? 追蹤AI技術(shù)和產(chǎn)品新動(dòng)態(tài)
前話
Hello，小伙伴們大家新年好，本篇是今年第一篇，也籌劃許久，本篇主題為美食，系html5網(wǎng)站模板，div加css布局，網(wǎng)頁(yè)資源分開(kāi)存儲(chǔ)以便管理，網(wǎng)頁(yè)結(jié)構(gòu)清晰簡(jiǎn)單，希望本篇能夠助力各位萌新
主題
《周末の食記》
美食能撫平一切的憂傷
簡(jiǎn)介
文件結(jié)構(gòu)包含了css、fonts、images、js和html，運(yùn)用html5技術(shù)，包括nav標(biāo)簽、header標(biāo)簽和footer標(biāo)簽等，采用bootstrap進(jìn)行布局
圖摘
目錄
編碼
<div class="ftco-46-row d-flex flex-column flex-lg-row">
<div class="ftco-46-text ftco-46-arrow-right">
<h4 class="ftco-46-subheading">Food</h4>
<h3 class="ftco-46-heading">揚(yáng)州炒飯</h3>
<p class="mb-5">一碗不一樣的炒飯，讓你難以拒絕.</p>
<p><a href="#" class="btn-link">更多 <span class="ion-android-arrow-forward"></span></a></p>
</div>
<div class="ftco-46-image" style="background-image: url(images/img_3.jpg);"></div>
<div class="ftco-46-text ftco-46-arrow-up">
<h4 class="ftco-46-subheading">Food</h4>
<h3 class="ftco-46-heading">藍(lán)莓酸奶冰激凌</h3>
<p class="mb-5">觸動(dòng)您的心靈，令人甜蜜至極，難以忘懷，心曠神怡的味覺(jué)享受，精選一級(jí)的夏威夷果仁，入口絲滑</p>
<p><a href="#" class="btn-link">更多 <span class="ion-android-arrow-forward"></span></a></p>
</div>
</div>結(jié)語(yǔ)
如果人的一生總的能量是固定的話，那就節(jié)省開(kāi)支，延長(zhǎng)時(shí)間，喜怒哀樂(lè)不溢于言表，不困于心智，保持樂(lè)觀心態(tài)
avaScript 程序不能獨(dú)立運(yùn)行，它需要被嵌入 HTML 中，然后瀏覽器才能執(zhí)行 JavaScript 代碼。通過(guò) <script> 標(biāo)簽將 JavaScript 代碼引入到 HTML 中，有兩種方式：
1.內(nèi)部方式
內(nèi)部方式是通過(guò)<script>標(biāo)簽包裹JavaScript代碼,從而引入HTML頁(yè)面中，示例代碼如下：
<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
<title>JavaScript 基礎(chǔ) - 引入方式</title>
</head>
<body>
<!-- 內(nèi)聯(lián)形式：通過(guò) script 標(biāo)簽包裹 JavaScript 代碼 -->
<script>
alert('嗨，歡迎來(lái)傳智播學(xué)習(xí)前端技術(shù)！')
</script>
</body>
</html>2.外部形式
一般將 JavaScript 代碼寫(xiě)在獨(dú)立的以 .js 結(jié)尾的文件中，然后通過(guò) <script>標(biāo)簽的 <src>屬性引入，示例代碼如下：
// demo.js
document.write('嗨，歡迎來(lái)傳智播學(xué)習(xí)前端技術(shù)！')<!DOCTYPE html>
<html>
<head>
<meta charset="UTF-8">
<title>JavaScript 基礎(chǔ) - 引入方式</title>
</head>
<body>
<!-- 外部形式：通過(guò) script 的 src 屬性引入獨(dú)立的 .js 文件 -->
<script src="demo.js"></script>
</body>
</html>注意：如果 script 標(biāo)簽使用 src 屬性引入了某 .js 文件，那么 標(biāo)簽的代碼會(huì)被忽略！！！如下代碼所示：
*請(qǐng)認(rèn)真填寫(xiě)需求信息，我們會(huì)在24小時(shí)內(nèi)與您取得聯(lián)系。
