MySQL的全文索引Fulltext Index | 包括ngram

InnoDB的全文索引使用反向索引的設計。反向索引存儲了一個單詞（word）列表，對于每個單詞，都有一個文檔的列表，來標識這個單詞出現的地方。為了支持臨近搜索（proximity search），每個單詞的位置信息也以字節偏移的方式存儲。

創新互聯建站長期為1000+客戶提供的網站建設服務，團隊從業經驗10年，關注不同地域、不同群體，并針對不同對象提供差異化的產品和服務；打造開放共贏平臺，與合作伙伴共同營造健康的互聯網生態環境。為永春企業提供專業的網站設計制作、成都網站制作，永春網站改版等技術服務。擁有十多年豐富建站經驗和眾多成功案例,為您定制開發。

當創建了InnoDB全文索引，一系列的索引表會一同被創建，見下面的例子：

最前面的六個表包含了反向索引，它們被稱作附屬索引表（auxiliary index table）。當輸入的表被索引（tokenized）后，每個獨立的單詞（亦稱作“tokens”）會被攜帶其DOC_ID和位置信息插入到索引表中。根據單詞第一個字符的字符集排序權重，在六個索引表中對單詞進行完全排序和分區。

反向索引分區到六個附屬索引表以支持并行的索引創建。默認有2個線程復制索引（Tokenize）、排序、插入單詞和關聯數據到索引表中。工作的線程的數量由 innodb_ft_sort_pll_degree 配置項控制的。對于大表的全文索引，可以考慮增加線程數量。

如果主表創建在 xx表空間，索引表存儲在它們自己的表空間中。反之，索引表存儲于其索引的表空間中。

前面例子展示的另外一種索引表被稱作通用索引表，它們被用于全文索引的“刪除處理（deletion handing）”和存儲內部狀態。不同于為每個全文索引都各自創建的反向索引表，這組表對特定表的所有全文索引都是共用的。

即使全文索引刪掉了，通用索引（Common Index）也會被保留，當全文索引刪除后，為這個索引而創建的FTS_DOC_ID列依然保留，因為移除FTS_DOC_ID列會導致重構之前被索引的表。管理FTS_DOC_ID列需要用到通用索引表。

為了防止大量并發讀寫附屬表，InnoDB使用全文索引緩存去臨時緩存最近的插入行。在存滿并刷入磁盤之前，緩存的內容一直存儲在內存之中，可以通過查詢 INFORMATION_SCHEMA.INNODB_FT_INDEX_CACHE 表去查看最近緩存的插入行。

緩存和批處理刷新行為避免了對輔助索引表的頻繁更新，頻繁更新可能會在繁忙的插入和更新期間導致并發訪問問題。批處理還避免了對同一個word的多次插入，最大化的減少了重復的條目。相同的word會先merge再刷入到磁盤中，而不是為每個word單獨插入，這樣提高了插入效率并且使得索引附屬表盡可能的小。

全文索引緩存只緩存最近插入的行，查詢時，已經刷入磁盤（附屬索引表）的數據不會再回到索引緩存中。附屬索引表中的內容是直接查詢的，最終返回的結果返回前需要將附屬索引表的結果和索引緩存中的結果合并。

InnoDB使用被稱作DOC_ID的唯一文件描述符，將全文索引中的單詞與該單詞在文檔中的記錄映射起來。映射關系需要索引表中的 FTS_DOC_ID 列。在創建全文索引時，如果沒有定義 FTS_DOC_ID 列，InnoDB會自動的加入一個隱藏的 FTS_DOC_ID 列。下面是一個例子，

CREATE FULLTEXT INDEX ft_index ON xxxxxxxx(CONTEXT)

[2021-11-12 18:14:04] [HY000][124] InnoDB rebuilding table to add column FTS_DOC_ID

重點看一下這一行： [HY000][124] InnoDB rebuilding table to add column FTS_DOC_ID ，InnoDB重新構建了這個表，并且添加了一個列 FTS_DOC_ID 。

在CREATE TABLE的過程中添加 FTS_DOC_ID 的時間成本要低于在已經有數據的表上建立全文索引。如果在表加載數據之前定義 FTS_DOC_ID 列，這個表和它的索引都不需要為了新增列而重新構建。如果你不需要考慮 CREATE FULLTEXT INDEX 的性能，可以讓InnoDB為你創建 FTS_DOC_ID 列。InnoDB會新增一個隱藏的 FTS_DOC_ID 列，并且在 FTS_DOC_ID 上建立唯一索引（FTS_DOC_ID_INDEX）。如果你想自行創建 FTS_DOC_ID 列，這個列必須定義為 BIGINT UNSIGNED NOT NULL 且命名為FTS_DOC_ID（全大寫），如下例子：

如果你自行定義 FTS_DOC_ID 列的話，你需要負責管理這個列，避免空值（empty）或者重復值。 FTS_DOC_ID 的值是不能被重復利用的，所以也就是說 FTS_DOC_ID 的值是需要一直增加的。

或者，你可以在 FTS_DOC_ID 列上創建所必須的唯一索引FTS_DOC_ID_INDEX（全大寫）。

mysql CREATE UNIQUE INDEX FTS_DOC_ID_INDEX on opening_lines(FTS_DOC_ID);

如果你沒有創建FTS_DOC_ID_INDEX，InnoDB會自動創建。

在MySQL 5.7.13前，允許最大FTS_DOC_ID與最新的FTS_DOC_ID之間的間隔為10000，在MySQL 5.7.13及之后的版本中，這個允許的間隔為65535。

為了避免重新構建表，FTS_DOC_ID列在刪除了全文索引之后依然被保留。

刪除被索引文件的一個記錄，可能會在附屬索引表中產生非常多的小的刪除項，在并發訪問時，會產生熱點問題。為了避免這個問題，每當被索引表中的記錄被刪除時，會將被刪文檔的DOC_ID記錄在一個特別的 FTS_*_DELETED 表中，同時全文索引中已經索引了的記錄依然被保存。在返回查詢結果前，使用 FTS_*_DELETED 中的信息去過濾掉已經刪除掉了的DOC_ID。這種設計的優勢在于刪除速度快且消耗低。不好的地方在于索引的大小不能隨著記錄的刪除而立即減少。為了刪除已刪除記錄在全文索引中的項，需要對被索引的表執行OPTIMIZE TABLE，配合[ innodb_optimize_fulltext_only=ON ]，去重構全文索引。

細節略，有例子：

全文搜索只能看到已經提交了的數據。

你可以通過查詢下面的INFORMATION_SCHEMA表，來監控或測試InnoDB的一些特殊文本處理。

默認的分詞器不支持中文，不能檢索到中文中的英文單詞。

InnoDB默認的Stopwords：

select * from information_schema.INNODB_FT_DEFAULT_STOPWORD;

SQL中的關鍵詞（保留關鍵字）：

Shell中的關鍵詞：for，while，echo

其他：###, ***, --,

被索引表數據量、索引表數據量

模糊匹配與嚴格匹配的性能差距

需要將 innodb_optimize_fulltext_only 配置為ON，這里是否需要DBA在MySQL鏡像中修改？

innodb_optimize_fulltext_only 設置為ON后，對系統有何影響需要評估。

innodb_optimize_fulltext_only

執行的時間、頻率。

MySQL內建的全文檢索解析器使用單詞之間的空白作為分隔符以標識單詞的頭尾，但是這里有個限制，對于表意文字，它是沒有單詞分隔符的。為了解決這個限制，MySQL提供了支持中文、日語、韓語的 ngram 解析器。ngram解析器支持InnoDB和MyISAM。

Ngram是內建在服務中的插件，像其他自建在服務中的插件一樣，服務啟動時會自動加載它。全文檢索的語法參考上面（ Section 12.10, “Full-Text Search Functions” ），這里只討論一些不同的地方。除了單詞的最小、最大長度配置項（[ innodb_ft_min_token_size ]innodb_ft_max_token_size,ft_min_word_len,ft_max_word_len，全文檢索依賴一些配置項都是可以使用的。

Ngram默認索引的單詞（token）的大小為2（ 2bigram ）。例如，索引的大小為2，Ngram解析器解析字符串“abc def”為四個單詞元素(tokens)：“ab”, “bc”, “de” and “ef”。

ngram token size is configurable using the ngram_token_size configuration option, which has a minimum value of 1 and maximum value of 10.

作為只讀變量, ngram_token_size 只能在啟動配置或者配置文件中指定

與默認的解析器相差不大，多了一句： xxx WITH PARSER ngram

Ngram在解析時去除空格，如

MySQL內建的默認全文檢索解析器將單詞與Stopword列表中的做對比，如果單詞與Stopword列表中的元素相同的話，這個單詞則不會被索引。對于Ngram解析器，Stopword的處理方式不同。Ngram解析器不排除與stopword列表中的條目相等的token，而是排除包含stopwords的token。例如，假設 ngram_token_size=2 ，包含“a,b”的文檔將被解析為 “a,” h和“,b”。如果將逗號（“,”）定義為停止字，則 “a,”和“,b”都將不會加入索引中，因為它們包含逗號。

例子：

默認Ngram解析器使用默認的Stopword列表，這里面含有英文的Stopword。如果需要中文的Stopword，需要你自己創建。

Stopword的長度超過 ngram_token_size則會被忽略。

有兩個文檔，一個包含“ab”，另一個包含“abc”。對于搜索文本“abc”將轉換成“ab”，“bc”。

略。

For example, The search phrase “abc” is converted to “ab bc”, which returns documents containing “abc” and “ab bc”.

The search phrase “abc def” is converted to “ab bc de ef”, which returns documents containing “abc def” and “ab bc de ef”. A document that contains “abcdef” is not returned.

使用Ngram解析器好處是支持了中文的檢索

mysql進行全文檢索并高亮顯示

軟件中的設置。MySQL是一個關系型數據庫管理系統，由瑞典MySQLAB公司開發，目前屬于Oracle旗下產品。mysql進行全文檢索的時候，并且高亮顯示，是這款軟件中的設置，是在設置中將開通了高亮顯示。

怎么MySql添加全文索引

使用索引是數據庫性能優化的必備技能之一。在MySQL數據庫中，有四種索引：聚集索引(主鍵索引)、普通索引、唯一索引以及我們這里將要介紹的全文索引(FULLTEXT INDEX)。

全文索引(也稱全文檢索)是目前搜索引擎使用的一種關鍵技術。它能夠利用「分詞技術「等多種算法智能分析出文本文字中關鍵字詞的頻率及重要性，然后按照一定的算法規則智能地篩選出我們想要的搜索結果。在這里，我們就不追根究底其底層實現原理了，現在我們來看看在MySQL中如何創建并使用全文索引。

在MySQL中，創建全文索引相對比較簡單。例如，我們有一個文章表(article)，其中有主鍵ID(id)、文章標題(title)、文章內容(content)三個字段。現在我們希望能夠在title和content兩個列上創建全文索引，article表及全文索引的創建SQL語句如下：

--創建article表

CREATE TABLE article (

id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,

title VARCHAR(200),

content TEXT,

FULLTEXT (title, content) --在title和content列上創建全文索引

);

上面就是在創建表的同時建立全文索引的SQL示例。此外，如果我們想要給已經存在的表的指定字段創建全文索引，同樣以article表為例，我們可以使用如下SQL語句進行創建：

--給現有的article表的title和content字段創建全文索引

--索引名稱為fulltext_article

ALTER TABLE article

ADD FULLTEXT INDEX fulltext_article (title, content)

在MySQL中創建全文索引之后，現在就該了解如何使用了。眾所周知，在數據庫中進行模糊查詢是使用LIKE關鍵字進行查詢，例如：

SELECT * FROM article WHERE content LIKE '%查詢字符串%'

那么，我們使用全文索引也是這樣用的嗎？當然不是，我們必須使用特有的語法才能使用全文索引進行查詢。例如，我們想要在article表的title和content列中全文檢索指定的查詢字符串，可以如下編寫SQL語句：

SELECT * FROM article WHERE MATCH(title, content) AGAINST('查詢字符串')

強烈注意：MySQL自帶的全文索引只能用于數據庫引擎為MyISAM的數據表，如果是其他數據引擎，則全文索引不會生效。此外，MySQL自帶的全文索引只能對英文進行全文檢索，目前無法對中文進行全文檢索。如果需要對包含中文在內的文本數據進行全文檢索，我們需要采用Sphinx(斯芬克斯)/Coreseek技術來處理中文。本站將會在后續文章中對Sphinx以及Coreseek進行介紹。

備注1：目前，使用MySQL自帶的全文索引時，如果查詢字符串的長度過短將無法得到期望的搜索結果。MySQL全文索引所能找到的詞的默認最小長度為4個字符。另外，如果查詢的字符串包含停止詞，那么該停止詞將會被忽略。

備注2：如果可能，請盡量先創建表并插入所有數據后再創建全文索引，而不要在創建表時就直接創建全文索引，因為前者比后者的全文索引效率要高。

如何使用mysql的全文索引搜索

你有沒有想過如何使用搜索功能在所有整站中實現！互聯網博客和網站，大多數都采用MySQL數據庫。MySQL提供了一個美妙的方式實施一個小的搜索引擎，在您的網站（全文檢索）。所有您需要做的是擁有的MySQL 4.x及以上。MySQL提供全文檢索功能，我們可以用它來 ??實現搜索功能。

首先，讓我們為我們的例子中設置一個示例表。我們將創建一個名為第一個表。

CREATE TABLE articles (

id INT UNSIGNED AUTO_INCREMENT NOT NULL PRIMARY KEY,

title VARCHAR(200),

body TEXT,

FULLTEXT (title,body)

);

在此表中還可以添加一些示例數據。執行后，插入查詢。

INSERT INTO articles (title,body) VALUES

('MySQL Tutorial','DBMS stands for DataBase ...'),

('How To Use MySQL Well','After you went through a ...'),

('Optimizing MySQL','In this tutorial we will show ...'),

('1001 MySQL Tricks','1. Never run mysqld as root. 2. ...'),

('MySQL vs. YourSQL','In the following database comparison ...'),

('MySQL Security','When configured properly, MySQL ...');

一旦樣本數據是準備好，我們可以開始我們的全文檢索功能。

自然語言全文搜索

嘗試我們的示例表上執行下面的SELECT查詢。

SELECT * FROM articles

WHERE MATCH (title,body) AGAINST ('database');

你就能看到結果如下：

在下面的數據庫比較5 MySQL與YourSQL的...

MySQL教程DBMS 1代表數據庫...

我們在上面的SQL查詢（標題，正文）反對（“數據庫”）的比賽，選擇所有的記錄，列標題和正文進行全文搜索。

您可以修改該查詢，并創建您自己的版本，以自己的數據庫中執行全文搜索。

布爾全文搜索

它可能發生，你要指定某些關鍵字在您的搜索條件。此外，您可能要忽略某些關鍵字。布爾全文搜索可以用來執行這些要求的全文檢索。

檢查下面的SELECT查詢。

SELECT * FROM articles WHERE MATCH (title,body)

AGAINST ('+MySQL -YourSQL' IN BOOLEAN MODE);

如果您發現上述選擇查詢，我們增加了布爾MODE反對（）。這個查詢將獲取MySQL的關鍵字，但不YourSQL關鍵字的所有記錄。請注意+和-我們以前指定的關鍵字！

在執行此功能，MySQL使用什么有時也被稱為布爾邏輯作為暗示，其中：+代表與-代表不是[無操作員]暗示或

以下是幾個例子布爾搜索條件。

“蘋果香蕉

查找行至少包含兩個詞之一。

“+蘋果+果汁”

尋找包含兩個單詞的行。

“+蘋果Macintosh

查找行包含“蘋果”，但排名的行，如果它們也包含“麥金塔”。

“+蘋果Macintosh的”

查找行包含“蘋果”這個詞，而不是“麥金塔”。

'+蘋果Macintosh的“

查找包含單詞“蘋果”的行，但如果該行也包含單詞“麥金塔”，速度比如果行不低。這是“軟”比“+蘋果Macintosh電腦”，為“麥金塔”的存在，導致該行不能在所有返回的搜索。

'+蘋果+（營業額餡餅）“

行包含“蘋果”和“營業額”，或“蘋果”和“餡餅”（任何順序）的話，但排名“蘋果的營業額”比“蘋果餡餅“。

限制

支持全文檢索的MyISAM表只。MySQL 4.1中，使用多個字符設置一個單一的表內的支持。然而，在一個FULLTEXT索引的所有列，必須使用相同的字符集和校對規則。MATCH（）列列表必須匹配完全在一些列清單表的FULLTEXT索引定義，除非這場比賽（）是在布爾模式。布爾模式搜索，可以做非索引列，雖然他們很可能是緩慢的。

網頁名稱：mysql怎么弄全文搜索 Mysql在全文搜索的函數中
標題來源：http://vcdvsql.cn/article2/hepgic.html

成都網站建設公司_創新互聯，為您提供建站公司、用戶體驗、網站內鏈、手機網站建設、微信小程序、外貿網站建設

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯