整合營(yíng)銷服務(wù)商

          電腦端+手機(jī)端+微信端=數(shù)據(jù)同步管理

          免費(fèi)咨詢熱線:

          寫(xiě)個(gè)網(wǎng)頁(yè)更簡(jiǎn)單了!讓AI根據(jù)手繪原型生成HTML - 教程+代碼

          小新 編譯自 Insight Data Blog

          量子位 出品 | 公眾號(hào) QbitAI

          寫(xiě)個(gè)網(wǎng)頁(yè)能有多麻煩?在大多數(shù)公司里,這項(xiàng)工作分為三步:

          1. 產(chǎn)品經(jīng)理完成用戶調(diào)研任務(wù)后,列出一系列技術(shù)要求;

          2. 設(shè)計(jì)師根據(jù)這些要求來(lái)設(shè)計(jì)低保真原型,逐漸修改得到高保真原型和UI設(shè)計(jì)圖;

          3. 工程師將這些設(shè)計(jì)圖實(shí)現(xiàn)為代碼,最終變成用戶使用的產(chǎn)品。

          這么多環(huán)節(jié),任何地方出一點(diǎn)問(wèn)題,都會(huì)拉長(zhǎng)開(kāi)發(fā)周期。因此,不少公司,比如Airbnb已經(jīng)開(kāi)始用機(jī)器學(xué)習(xí)來(lái)提高這個(gè)過(guò)程的效率。

          Airbnb內(nèi)部的AI工具,從圖紙到代碼一步到位

          看起來(lái)很美好,但Airbnb還沒(méi)公開(kāi)該模型中端到端訓(xùn)練的細(xì)節(jié),以及手工設(shè)計(jì)的圖像特征對(duì)該模型的貢獻(xiàn)度。這是該公司特有的閉源解決方案專利,可能不會(huì)進(jìn)行公開(kāi)。

          好在,一個(gè)叫Ashwin Kumar的程序員創(chuàng)建了一個(gè)開(kāi)源版本,讓開(kāi)發(fā)者/設(shè)計(jì)師的工作變得更簡(jiǎn)單。

          以下內(nèi)容翻譯自他的博客:

          理想上,這個(gè)模型可以根據(jù)網(wǎng)站設(shè)計(jì)的簡(jiǎn)單手繪原型,很快地生成一個(gè)可用的HTML網(wǎng)站:

          SketchCode模型利用手繪線框圖來(lái)生成HTML網(wǎng)站

          事實(shí)上,上面例子就是利用訓(xùn)練好的模型在測(cè)試集上生成的一個(gè)實(shí)際網(wǎng)站,代碼請(qǐng)?jiān)L問(wèn):https://github.com/ashnkumar/sketch-code。

          從圖像標(biāo)注中獲取靈感

          目前要解決的問(wèn)題屬于一種更廣泛的任務(wù),叫做程序綜合(program synthesis),即自動(dòng)生成工作源代碼。盡管很多程序綜合研究通過(guò)自然語(yǔ)言規(guī)范或執(zhí)行追蹤法來(lái)生成代碼,但在當(dāng)前任務(wù)中,我會(huì)充分利用源圖像,即給出的手繪線框圖來(lái)展開(kāi)工作。

          在機(jī)器學(xué)習(xí)中有一個(gè)十分熱門的研究領(lǐng)域,稱為圖像標(biāo)注(image caption),目的是構(gòu)建一種把圖像和文本連接在一起的模型,特別是用于生成源圖像內(nèi)容的描述。

          圖像標(biāo)注模型生成源圖像的文本描述

          我從一篇pix2code論文和另一個(gè)應(yīng)用這種方法的相關(guān)項(xiàng)目中獲得靈感,決定把我的任務(wù)按照?qǐng)D像標(biāo)注方式來(lái)實(shí)現(xiàn),把繪制的網(wǎng)站線框圖作為輸入圖像,并將其相應(yīng)的HTML代碼作為其輸出內(nèi)容。

          注:上段提到的兩個(gè)參考項(xiàng)目分別是

          pix2code論文:https://arxiv.org/abs/1705.07962

          floydhub教程:https://blog.floydhub.com/turning-design-mockups-into-code-with-deep-learning/?source=techstories.org

          獲取合適的數(shù)據(jù)集

          確定圖像標(biāo)注方法后,理想中使用的訓(xùn)練數(shù)據(jù)集會(huì)包含成千上萬(wàn)對(duì)手繪線框圖和對(duì)應(yīng)的HTML輸出代碼。但是,目前還沒(méi)有我想要的相關(guān)數(shù)據(jù)集,我只好為這個(gè)任務(wù)來(lái)創(chuàng)建數(shù)據(jù)集。

          最開(kāi)始,我嘗試了pix2code論文給出的開(kāi)源數(shù)據(jù)集,該數(shù)據(jù)集由1750張綜合生成網(wǎng)站的截圖及其相應(yīng)源代碼組成。

          pix2code數(shù)據(jù)集中的生成網(wǎng)站圖片和源代碼

          這是一個(gè)很好的數(shù)據(jù)集,有幾個(gè)有趣的地方:

          • 該數(shù)據(jù)集中的每個(gè)生成網(wǎng)站都包含幾個(gè)簡(jiǎn)單的輔助程序元素,如按鈕、文本框和DIV對(duì)象。盡管這意味著這個(gè)模型受限于將這些少數(shù)元素作為它的輸出內(nèi)容,但是這些元素可通過(guò)選擇生成網(wǎng)絡(luò)來(lái)修改和擴(kuò)展。這種方法應(yīng)該很容易地推廣到更大的元素詞匯表。

          • 每個(gè)樣本的源代碼都是由領(lǐng)域?qū)S谜Z(yǔ)言(DSL)的令牌組成,這是該論文作者為該任務(wù)所創(chuàng)建的。每個(gè)令牌對(duì)應(yīng)于HTML和CSS的一個(gè)片段,且加入編譯器把DSL轉(zhuǎn)換為運(yùn)行的HTML代碼。

          彩色網(wǎng)站圖像變手繪圖

          為了修改我的任務(wù)數(shù)據(jù)集,我要讓網(wǎng)站圖像看起來(lái)像手工繪制出的。我嘗試使用Python中的OpenCV庫(kù)和PIL庫(kù)等工具對(duì)每張圖像進(jìn)行修改,包括灰度轉(zhuǎn)換和輪廓檢測(cè)。

          最終,我決定直接修改原始網(wǎng)站的CSS樣式表,通過(guò)執(zhí)行以下操作:

          1. 更改頁(yè)面上元素的邊框半徑來(lái)平滑按鈕和DIV對(duì)象的邊緣;

          2. 模仿繪制的草圖來(lái)調(diào)整邊框的粗細(xì),并添加陰影;

          3. 將原有字體更改為類似手寫(xiě)的字體;

          最終實(shí)現(xiàn)的流程中還增加了一個(gè)步驟,通過(guò)添加傾斜、移動(dòng)和旋轉(zhuǎn)來(lái)實(shí)現(xiàn)圖像增強(qiáng),來(lái)模擬實(shí)際繪制草圖中的變化。

          使用圖像標(biāo)注模型架構(gòu)

          現(xiàn)在,我已經(jīng)處理好數(shù)據(jù)集,接下來(lái)是構(gòu)建模型。

          我利用了圖像標(biāo)注中使用的模型架構(gòu),該架構(gòu)由三個(gè)主要部分組成:

          1. 一種使用卷積神經(jīng)網(wǎng)絡(luò)(CNN)的計(jì)算機(jī)視覺(jué)模型,從源圖像提取圖像特征;

          2. 一種包含門控單元GRU的語(yǔ)言模型,對(duì)源代碼令牌序列進(jìn)行編碼;

          3. 一個(gè)解碼器模型,也屬于GRU單元,把前兩個(gè)步驟的輸出作為輸入,并預(yù)測(cè)序列中的下一個(gè)令牌。

          以令牌序列為輸入來(lái)訓(xùn)練模型

          為了訓(xùn)練模型,我將源代碼拆分為令牌序列。模型的輸入為單個(gè)部分序列及它的源圖像,其標(biāo)簽是文本中的下一個(gè)令牌。該模型使用交叉熵函數(shù)作為損失函數(shù),將模型的下個(gè)預(yù)測(cè)令牌與實(shí)際的下個(gè)令牌進(jìn)行比較。

          在模型從頭開(kāi)始生成代碼的過(guò)程中,該推理方式稍有不同。圖像仍然通過(guò)CNN網(wǎng)絡(luò)進(jìn)行處理,但文本處理開(kāi)始時(shí)僅采用一個(gè)啟動(dòng)序列。在每個(gè)步驟中,模型對(duì)序列中輸出的下個(gè)預(yù)測(cè)令牌將會(huì)添加到當(dāng)前輸入序列,并作為新的輸入序列送到模型中;重復(fù)此操作直到模型的預(yù)測(cè)令牌為,或該過(guò)程達(dá)到每個(gè)文本中令牌數(shù)目的預(yù)定義值。

          當(dāng)模型生成一組預(yù)測(cè)令牌后,編譯器就會(huì)將DSL令牌轉(zhuǎn)換為HTML代碼,這些HTML代碼可以在任何瀏覽器中運(yùn)行。

          用BLEU分?jǐn)?shù)評(píng)估模型

          我決定使用BLEU分?jǐn)?shù)來(lái)評(píng)估模型。這是機(jī)器翻譯任務(wù)中常用的一種度量標(biāo)準(zhǔn),通過(guò)在給定相同輸入的情況下,衡量機(jī)器生成的文本與人類可能產(chǎn)生內(nèi)容的近似程度。

          實(shí)際上,BLEU通過(guò)比較生成文本和參考文本的N元序列,以創(chuàng)建修改后的準(zhǔn)確版本。它非常適用于這個(gè)項(xiàng)目,因?yàn)樗鼤?huì)影響生成HTML代碼中的實(shí)際元素,以及它們之間的相互關(guān)系。

          最棒的是,我還可以通過(guò)檢查生成的網(wǎng)站來(lái)比較當(dāng)前的實(shí)際BLEU分?jǐn)?shù)。

          觀察BLEU分?jǐn)?shù)

          當(dāng)BLEU分?jǐn)?shù)為1.0時(shí),則說(shuō)明給定源圖像后該模型能在正確位置設(shè)置合適的元素,而較低的BLEU分?jǐn)?shù)這說(shuō)明模型預(yù)測(cè)了錯(cuò)誤元素或是把它們放在相對(duì)不合適的位置。我們最終模型在評(píng)估數(shù)據(jù)集上的BLEU分?jǐn)?shù)為0.76。

          福利:定制網(wǎng)頁(yè)風(fēng)格

          后來(lái),我還想到,由于該模型只生成當(dāng)前頁(yè)面的框架,即文本的令牌,因此我可以在編譯過(guò)程中添加一個(gè)定制的CSS層,并立刻得到不同風(fēng)格的生成網(wǎng)站。

          一個(gè)手繪圖生成多種風(fēng)格的網(wǎng)頁(yè)

          把風(fēng)格定制和模型生成兩個(gè)過(guò)程分開(kāi),在使用模型時(shí)帶來(lái)了很多好處:

          1.如果想要將SketchCode模型應(yīng)用到自己公司的產(chǎn)品中,前端工程師可以直接使用該模型,只需更改一個(gè)CSS文件來(lái)匹配該公司的網(wǎng)頁(yè)設(shè)計(jì)風(fēng)格;

          2. 該模型內(nèi)置的可擴(kuò)展性,即通過(guò)單一源圖像,模型可以迅速編譯出多種不同的預(yù)定義風(fēng)格,因此用戶可以設(shè)想出多種可能的網(wǎng)站風(fēng)格,并在瀏覽器中瀏覽這些生成網(wǎng)頁(yè)。

          總結(jié)和展望

          受到圖像標(biāo)注研究的啟發(fā),SketchCode模型能夠在幾秒鐘內(nèi)將手繪網(wǎng)站線框圖轉(zhuǎn)換為可用的HTML網(wǎng)站。

          但是,該模型還存在一些問(wèn)題,這也是我接下來(lái)可能的工作方向:

          1. 由于這個(gè)模型只使用了16個(gè)元素進(jìn)行訓(xùn)練,所以它不能預(yù)測(cè)這些數(shù)據(jù)以外的令牌。下一步方向可能是使用更多元素來(lái)生成更多的網(wǎng)站樣本,包括網(wǎng)站圖片,下拉菜單和窗體,可參考啟動(dòng)程序組件(https://getbootstrap.com/docs/4.0/components/buttons/)來(lái)獲得思路;

          2. 在實(shí)際網(wǎng)站構(gòu)建中,存在很多變化。創(chuàng)建一個(gè)能更好反映這種變化的訓(xùn)練集,是提高生成效果的一種好方法,可以通過(guò)獲取更多網(wǎng)站的HTML/CSS代碼以及內(nèi)容截圖來(lái)提高;

          3. 手繪圖紙也存在很多CSS修改技巧無(wú)法捕捉到的變化。解決這個(gè)問(wèn)題的一種好方法是使用生成對(duì)抗網(wǎng)絡(luò)GAN來(lái)創(chuàng)建更逼真的繪制網(wǎng)站圖像。

          相關(guān)地址

          代碼:https://github.com/ashnkumar/sketch-code

          原文:https://blog.insightdatascience.com/automated-front-end-development-using-deep-learning-3169dd086e82

          — 完 —

          誠(chéng)摯招聘

          量子位正在招募編輯/記者,工作地點(diǎn)在北京中關(guān)村。期待有才氣、有熱情的同學(xué)加入我們!相關(guān)細(xì)節(jié),請(qǐng)?jiān)诹孔游还娞?hào)(QbitAI)對(duì)話界面,回復(fù)“招聘”兩個(gè)字。

          量子位 QbitAI · 頭條號(hào)簽約作者

          ?'?' ? 追蹤AI技術(shù)和產(chǎn)品新動(dòng)態(tài)

           用HTML怎么制作網(wǎng)頁(yè)呢?靜態(tài)網(wǎng)站的編寫(xiě)主要是用HTML DIV+CSS JS等來(lái)完成頁(yè)面的排版設(shè)計(jì) ? ,常用的網(wǎng)頁(yè)設(shè)計(jì)軟件有Dreamweaver、EditPlus、HBuilderX、VScode 、Webstorm、Animate等等,用的最多的還是DW,當(dāng)然不同軟件寫(xiě)出的前端Html5代碼都是一致的。

            一、網(wǎng)站布局方面:計(jì)劃采用目前主流的、能兼容各大主流瀏覽器、顯示效果穩(wěn)定的浮動(dòng)網(wǎng)頁(yè)布局結(jié)構(gòu)。

            二、網(wǎng)站程序方面:計(jì)劃采用最新的網(wǎng)頁(yè)編程語(yǔ)言HTML5+CSS3+JS程序語(yǔ)言完成網(wǎng)站的功能設(shè)計(jì)。并確保網(wǎng)站代碼兼容目前市面上所有的主流瀏覽器,已達(dá)到打開(kāi)后就能即時(shí)看到網(wǎng)站的效果。

            三、網(wǎng)站素材方面:計(jì)劃收集各大平臺(tái)好看的圖片素材,并精挑細(xì)選適合網(wǎng)頁(yè)風(fēng)格的圖片,然后使用PS做出適合網(wǎng)頁(yè)尺寸的圖片。

            四、網(wǎng)站文件方面:網(wǎng)站系統(tǒng)文件種類包含:html網(wǎng)頁(yè)結(jié)構(gòu)文件、css網(wǎng)頁(yè)樣式文件、js網(wǎng)頁(yè)特效文件、images網(wǎng)頁(yè)圖片文件;

            五、網(wǎng)頁(yè)編輯方面:網(wǎng)頁(yè)作品代碼簡(jiǎn)單,可使用任意HTML編輯軟件(如:Dreamweaver、HBuilder、Vscode 、Sublime 、Webstorm、Text 、Notepad++ 等任意html編輯軟件進(jìn)行運(yùn)行及修改編輯等操作)。 其中: (1) html文件包含:其中index.html是首頁(yè)、其他html為二級(jí)頁(yè)面; (2) css文件包含:css全部頁(yè)面樣式,文字滾動(dòng), 圖片放大等; (3) js文件包含:js實(shí)現(xiàn)動(dòng)態(tài)輪播特效, 表單提交, 點(diǎn)擊事件等等(個(gè)別網(wǎng)頁(yè)中運(yùn)用到j(luò)s代碼)。


          主站蜘蛛池模板: 亚洲精品国产suv一区88| 99国产精品一区二区| 久久久久女教师免费一区| 狠狠色婷婷久久一区二区| 久久免费区一区二区三波多野| 91无码人妻精品一区二区三区L| 精品一区二区三区在线成人| 精品成人乱色一区二区| 无码人妻精品一区二区蜜桃百度 | 在线观看国产一区亚洲bd| 插我一区二区在线观看| 波多野结衣AV一区二区三区中文 | 一区二区三区杨幂在线观看| 日韩人妻一区二区三区蜜桃视频| 精品国产一区二区三区www| 麻豆文化传媒精品一区二区 | 国模大尺度视频一区二区| 精品国产精品久久一区免费式| 久久国产精品最新一区| 国产一区二区四区在线观看 | 国产AV国片精品一区二区| 国产一国产一区秋霞在线观看| 亚洲日韩精品国产一区二区三区| 自慰无码一区二区三区| 国产精品福利区一区二区三区四区| 亚洲AV无码国产一区二区三区| 无码国产精品一区二区免费| 日韩精品一区二区三区中文| 日韩人妻精品一区二区三区视频| 国产一区二区女内射| 欧洲无码一区二区三区在线观看 | 国产福利电影一区二区三区久久老子无码午夜伦不 | 波多野结衣免费一区视频| 久久精品免费一区二区三区| 国模丽丽啪啪一区二区| 久久久国产精品亚洲一区| 精品一区二区视频在线观看| 国产精品视频免费一区二区| 亚洲美女高清一区二区三区| 无码人妻一区二区三区免费n鬼沢| 亚洲福利一区二区三区|