Warning: error_log(/data/www/wwwroot/hmttv.cn/caches/error_log.php): failed to open stream: Permission denied in /data/www/wwwroot/hmttv.cn/phpcms/libs/functions/global.func.php on line 537 Warning: error_log(/data/www/wwwroot/hmttv.cn/caches/error_log.php): failed to open stream: Permission denied in /data/www/wwwroot/hmttv.cn/phpcms/libs/functions/global.func.php on line 537
們通常用富文本框編輯內容存在數據庫中,在做列表顯示數據的時候不想顯示原來的樣式,用自定義函數格式化html標簽即可。
自定義函數
alter function [dbo].[dropHtmlTag](@cont varchar(max))
returns varchar(max)
as
begin
--去掉style標簽
declare @stylecount int;
set @stylecount = charindex('<style>',@cont);
while @stylecount>0
begin
select @cont=replace(@cont, SUBSTRING(@cont,CHARINDEX('<style>',@cont),CHARINDEX('</style>',@cont)-CHARINDEX('<style>',@cont)+8),'');
set @stylecount = charindex('<style>',@cont);
end
我們執行 alter table 語句后,經常面臨“跑又跑不完,殺又不敢殺”的窘境。
如果能評估 alter table 的進度就幸福多了。
MySQL官方已經給出了文檔:https://dev.mysql.com/doc/refman/5.7/en/monitor-alter-table-performance-schema.html,我們來實踐一下:
先建個數據庫:
我們設置了一些跟 performance_schema 相關的參數,開啟了查看進度必要的功能。
還是按照之前實驗 11的技巧,快速造一些數據:
重復執行 insert,讓表中有足夠數據:
我們來跑一個alter table:
在另一個 session 中,執行 SQL 查看進度:
看起來 SQL 比較復雜,我們先來看看效果:
這里列出了正在執行的 DDL SQL,進度評估,當前運行語句的時間,和估算的剩余時間。
不斷獲取進度:
可以看到,估算的剩余時間不是完全精確,在整個過程中,進度在不停被評估。不過這種精確度對于我們也足夠用了。
我們來看看評估的主要原理:
在這張表里,MySQL 提供了如下信息:
(注意:這里的時間是當前階段的時間,而工作量評估是整個語句的工作量)
這下我們使用的評估 SQL 就不難看懂了:
附上評估語句的文字版:
select stmt.SQL_TEXT as sql_text, concat(WORK_COMPLETED, '/' , WORK_ESTIMATED) as progress, (stage.TIMER_END - stmt.TIMER_START) / 1e12 as current_seconds, (stage.TIMER_END - stmt.TIMER_START) / 1e12 * (WORK_ESTIMATED-WORK_COMPLETED) / WORK_COMPLETED as remaining_seconds from events_stages_current stage, events_statements_current stmt where stage.THREAD_ID = stmt.THREAD_ID and stage.NESTING_EVENT_ID = stmt.EVENT_ID;
小貼士
肯定會有同學問:那開啟 performance_schema 會不會影響性能呢?
答:在美好的生活面前,不要因噎廢食,多用 1% 的 CPU,不會耗太多電的。
關于 MySQL 的技術內容,你們還有什么想知道的嗎?趕緊留言告訴小編吧!
作為DBA,我們也常常會碰到這樣的需求:需要在不影響線上業務的情況下給表添加一個字段或索引。如果是一張只有幾百或幾千條記錄的小表,這樣的需求是非常容易解決的。但如果所管理的表數據量已經上億、而且應用與數據庫交互非常頻繁,不允許停機窗口的出現,這樣的需求又該如何滿足?
大多數的alter table操作都會涉及lock-->copy to new table-->rename-->unlock的過程,鎖表時間會很長,而且alter table 的process不可被kill,一旦執行就不可回退。
在MySQL5.5和之前版本,在運行的生產環境對大表(超過數百萬紀錄)執行Alter操作是一件很困難的事情。因為將重建表和鎖表,影響用戶者的使用。
從MySQL5.6開始,Online DDL特性被引進。他增強了很多種類的Alter Table操作避免拷貝表和鎖表,在運行Alter操作的同時允許運行select,insert,update,delete語句。因此在最新版本,我們可以通過使用ALGORITHM和LOCK選項抑制文件拷貝和加鎖。
但是即使在MySQL5.6,仍然有一些Alter操作(增加/刪除列,增加/刪除主鍵,改變數據類型等)需要重建表。并不建議直接在線上使用alter table。如果線上有DDL的需求我們建議使用以下兩種方式:
1、主從架構輪詢修改
2、使用在線修改工具online-schema-change
對于第一種方式,使用的前提是,你的數據庫架構是一個集群,如果不是,也就無所謂的輪詢修改。修改的原理就是利用主從服務,在應用無感知的情況下,得到停機窗口,進行修改。今天我們著重講第二種方式,利用第三方工具實現在線大表的DDL操作。這種方式在alter操作更改表結構的時候不用鎖定表,也就是說執行alter的時候不會阻塞寫和讀取操作。
參考官網:https://www.percona.com/doc/percona-toolkit/LATEST/pt-online-schema-change.html
pt-online-schema-change [OPTIONS] DSN
pt-online-schema-change alters a table’s structure without blocking reads or writes. Specify the database and table in the DSN. Do not use this tool before reading its documentation and checking your backups carefully.
pt-online-schema-change --help 可以查看參數的使用,如果只是要修改個表結構,只需要知道幾個簡單的參數就可以了
截圖如下:
為避免每次都要輸入一堆參數,寫個腳本復用一下。
#!/bin/bash #copyright by hwb table=$1 alter_conment=$2 cnn_host='172.16.xx' cnn_user='root' cnn_pwd='xxxx' cnn_db='lcpdb' echo "$table" echo "$alter_conment" pt-online-schema-change --charset=utf8 --no-version-check --user=${cnn_user} --password=${cnn_pwd} --host=${cnn_host} P=3306,D=${cnn_db},t=$table --alter "${alter_conment}" --execute --no-check-alter
下面用例子來說明下。
如添加表字段SQL語句為:
ALTER TABLE tb_test ADD COLUMN column1 tinyint(4) DEFAULT NULL;
那么使用pt-online-schema-change則可以這樣寫
sh pt_epms.sh tb_test "ADD COLUMN column1 tinyint(4) DEFAULT NULL"
執行如下:
查看表結構已經修改完成:
SQL語句:
ALTER TABLE tb_test MODIFY COLUMN id int(11) unsigned NOT NULL DEFAULT '0';
pt-online-schema-change工具:
sh pt_epms.sh tb_test "MODIFY COLUMN id int(11) unsigned NOT NULL DEFAULT '0'"
執行如下:
查看表結構:
SQL語句:
ALTER TABLE tb_test CHANGE COLUMN name adress varchar(30);
pt-online-schema-change工具:
sh pt_epms.sh tb_test "CHANGE COLUMN name address varchar(30)"
SQL語句:
ALTER TABLE tb_test ADD INDEX idx_address(address);
pt-online-schema-change工具:
sh pt_epms.sh tb_test "ADD INDEX idx_address(address)"
pt-online-schema-change工具還有很多其他的參數,可以有很多限制,比如限制CPU、線程數量、從庫狀態等等,不過我做過一個超過1000W表的結構修改,發現幾乎不影響性能,很穩定很流暢的就修改了表結構,所以,對以上常規參數的使用基本能滿足業務。
注意一定要在業務低峰期做,這樣才能確保萬無一失。
后面會分享更多devops和DBA方面的內容,感興趣的朋友可以關注一下~
*請認真填寫需求信息,我們會在24小時內與您取得聯系。