什么是NoSQL
噶爾網站制作公司哪家好,找創新互聯!從網頁設計、網站建設、微信開發、APP開發、自適應網站建設等網站項目制作,到程序開發,運營維護。創新互聯公司2013年成立到現在10年的時間,我們擁有了豐富的建站經驗和運維經驗,來保證我們的工作的順利進行。專注于網站建設就選創新互聯。
大家有沒有聽說過“NoSQL”呢?近年,這個詞極受關注。看到“NoSQL”這個詞,大家可能會誤以為是“No!SQL”的縮寫,并深感憤怒:“SQL怎么會沒有必要了呢?”但實際上,它是“Not Only SQL”的縮寫。它的意義是:適用關系型數據庫的時候就使用關系型數據庫,不適用的時候也沒有必要非使用關系型數據庫不可,可以考慮使用更加合適的數據存儲。
為彌補關系型數據庫的不足,各種各樣的NoSQL數據庫應運而生。
為了更好地了解本書所介紹的NoSQL數據庫,對關系型數據庫的理解是必不可少的。那么,就讓我們先來看一看關系型數據庫的歷史、分類和特征吧。
關系型數據庫簡史
1969年,埃德加?6?1弗蘭克?6?1科德(Edgar Frank Codd)發表了劃時代的論文,首次提出了關系數據模型的概念。但可惜的是,刊登論文的《IBM Research Report》只是IBM公司的內部刊物,因此論文反響平平。1970年,他再次在刊物《Communication of the ACM》上發表了題為“A Relational Model of Data for Large Shared Data banks”(大型共享數據庫的關系模型)的論文,終于引起了大家的關注。
科德所提出的關系數據模型的概念成為了現今關系型數據庫的基礎。當時的關系型數據庫由于硬件性能低劣、處理速度過慢而遲遲沒有得到實際應用。但之后隨著硬件性能的提升,加之使用簡單、性能優越等優點,關系型數據庫得到了廣泛的應用。
通用性及高性能
雖然本書是講解NoSQL數據庫的,但有一個重要的大前提,請大家一定不要誤解。這個大前提就是“關系型數據庫的性能絕對不低,它具有非常好的通用性和非常高的性能”。毫無疑問,對于絕大多數的應用來說它都是最有效的解決方案。
突出的優勢
關系型數據庫作為應用廣泛的通用型數據庫,它的突出優勢主要有以下幾點:
保持數據的一致性(事務處理)
由于以標準化為前提,數據更新的開銷很小(相同的字段基本上都只有一處)
可以進行JOIN等復雜查詢
存在很多實際成果和專業技術信息(成熟的技術)
這其中,能夠保持數據的一致性是關系型數據庫的最大優勢。在需要嚴格保證數據一致性和處理完整性的情況下,用關系型數據庫是肯定沒有錯的。但是有些情況不需要JOIN,對上述關系型數據庫的優點也沒有什么特別需要,這時似乎也就沒有必要拘泥于關系型數據庫了。
關系型數據庫的不足
不擅長的處理
就像之前提到的那樣,關系型數據庫的性能非常高。但是它畢竟是一個通用型的數據庫,并不能完全適應所有的用途。具體來說它并不擅長以下處理:
大量數據的寫入處理
為有數據更新的表做索引或表結構(schema)變更
字段不固定時應用
對簡單查詢需要快速返回結果的處理
。。。。。。
NoSQL數據庫
為了彌補關系型數據庫的不足(特別是最近幾年),NoSQL數據庫出現了。關系型數據庫應用廣泛,能進行事務處理和JOIN等復雜處理。相對地,NoSQL數據庫只應用在特定領域,基本上不進行復雜的處理,但它恰恰彌補了之前所列舉的關系型數據庫的不足之處。
易于數據的分散
如前所述,關系型數據庫并不擅長大量數據的寫入處理。原本關系型數據庫就是以JOIN為前提的,就是說,各個數據之間存在關聯是關系型數據庫得名的主要原因。為了進行JOIN處理,關系型數據庫不得不把數據存儲在同一個服務器內,這不利于數據的分散。相反,NoSQL數據庫原本就不支持JOIN處理,各個數據都是獨立設計的,很容易把數據分散到多個服務器上。由于數據被分散到了多個服務器上,減少了每個服務器上的數據量,即使要進行大量數據的寫入操作,處理起來也更加容易。同理,數據的讀入操作當然也同樣容易。
提升性能和增大規模
下面說一點題外話,如果想要使服務器能夠輕松地處理更大量的數據,那么只有兩個選擇:一是提升性能,二是增大規模。下面我們來整理一下這兩者的不同。
首先,提升性能指的就是通過提升現行服務器自身的性能來提高處理能力。這是非常簡單的方法,程序方面也不需要進行變更,但需要一些費用。若要購買性能翻倍的服務器,需要花費的資金往往不只是原來的2倍,可能需要多達5到10倍。這種方法雖然簡單,但是成本較高。
另一方面,增大規模指的是使用多臺廉價的服務器來提高處理能力。它需要對程序進行變更,但由于使用廉價的服務器,可以控制成本。另外,以后只要依葫蘆畫瓢增加廉價服務器的數量就可以了。
不對大量數據進行處理的話就沒有使用的必要嗎?
NoSQL數據庫基本上來說為了“使大量數據的寫入處理更加容易(讓增加服務器數量更容易)”而設計的。但如果不是對大量數據進行操作的話,NoSQL數據庫的應用就沒有意義嗎?
答案是否定的。的確,它在處理大量數據方面很有優勢。但實際上NoSQL數據庫還有各種各樣的特點,如果能夠恰當地利用這些特點將會是非常有幫助。具體的例子將會在第2章和第3章進行介紹,這些用途將會讓你感受到利用NoSQL的好處。
希望順暢地對數據進行緩存(Cache)處理
希望對數組類型的數據進行高速處理
希望進行全部保存
多樣的NoSQL數據庫
NoSQL數據庫存在著“key-value存儲”、“文檔型數據庫”、“列存儲數據庫”等各種各樣的種類,每種數據庫又包含各自的特點。下一節讓我們一起來了解一下NoSQL數據庫的種類和特點。
NoSQL數據庫是什么
NoSQL說起來簡單,但實際上到底有多少種呢?我在提筆的時候,到NoSQL的官方網站上確認了一下,竟然已經有122種了。另外官方網站上也介紹了本書沒有涉及到的圖形數據庫和對象數據庫等各個類別。不知不覺間,原來已經出現了這么多的NoSQL數據庫啊。
本節將為大家介紹具有代表性的NoSQL數據庫。
key-value存儲
這是最常見的NoSQL數據庫,它的數據是以key-value的形式存儲的。雖然它的處理速度非常快,但是基本上只能通過key的完全一致查詢獲取數據。根據數據的保存方式可以分為臨時性、永久性和兩者兼具三種。
臨時性
memcached屬于這種類型。所謂臨時性就是 “數據有可能丟失”的意思。memcached把所有數據都保存在內存中,這樣保存和讀取的速度非常快,但是當memcached停止的時候,數據就不存在了。由于數據保存在內存中,所以無法操作超出內存容量的數據(舊數據會丟失)。
在內存中保存數據
可以進行非常快速的保存和讀取處理
數據有可能丟失
永久性
Tokyo Tyrant、Flare、ROMA等屬于這種類型。和臨時性相反,所謂永久性就是“數據不會丟失”的意思。這里的key-value存儲不像memcached那樣在內存中保存數據,而是把數據保存在硬盤上。與memcached在內存中處理數據比起來,由于必然要發生對硬盤的IO操作,所以性能上還是有差距的。但數據不會丟失是它最大的優勢。
在硬盤上保存數據
可以進行非常快速的保存和讀取處理(但無法與memcached相比)
數據不會丟失
兩者兼具
Redis屬于這種類型。Redis有些特殊,臨時性和永久性兼具,且集合了臨時性key-value存儲和永久性key-value存儲的優點。Redis首先把數據保存到內存中,在滿足特定條件(默認是15分鐘一次以上,5分鐘內10個以上,1分鐘內10000個以上的key發生變更)的時候將數據寫入到硬盤中。這樣既確保了內存中數據的處理速度,又可以通過寫入硬盤來保證數據的永久性。這種類型的數據庫特別適合于處理數組類型的數據。
同時在內存和硬盤上保存數據
可以進行非常快速的保存和讀取處理
保存在硬盤上的數據不會消失(可以恢復)
適合于處理數組類型的數據
面向文檔的數據庫
MongoDB、CouchDB屬于這種類型。它們屬于NoSQL數據庫,但與key-value存儲相異。
不定義表結構
面向文檔的數據庫具有以下特征:即使不定義表結構,也可以像定義了表結構一樣使用。關系型數據庫在變更表結構時比較費事,而且為了保持一致性還需修改程序。然而NoSQL數據庫則可省去這些麻煩(通常程序都是正確的),確實是方便快捷。
可以使用復雜的查詢條件
跟key-value存儲不同的是,面向文檔的數據庫可以通過復雜的查詢條件來獲取數據。雖然不具備事務處理和JOIN這些關系型數據庫所具有的處理能力,但除此以外的其他處理基本上都能實現。這是非常容易使用的NoSQL數據庫。
不需要定義表結構
可以利用復雜的查詢條件
面向列的數據庫
Cassandra、Hbase、HyperTable屬于這種類型。由于近年來數據量出現爆發性增長,這種類型的NoSQL數據庫尤其引人注目。
面向行的數據庫和面向列的數據庫
普通的關系型數據庫都是以行為單位來存儲數據的,擅長進行以行為單位的讀入處理,比如特定條件數據的獲取。因此,關系型數據庫也被稱為面向行的數據庫。相反,面向列的數據庫是以列為單位來存儲數據的,擅長以列為單位讀入數據。
高擴展性
面向列的數據庫具有高擴展性,即使數據增加也不會降低相應的處理速度(特別是寫入速度),所以它主要應用于需要處理大量數據的情況。另外,利用面向列的數據庫的優勢,把它作為批處理程序的存儲器來對大量數據進行更新也是非常有用的。但由于面向列的數據庫跟現行數據庫存儲的思維方式有很大不同,應用起來十分困難。
高擴展性(特別是寫入處理)
應用十分困難
最近,像Twitter和Facebook這樣需要對大量數據進行更新和查詢的網絡服務不斷增加,面向列的數據庫的優勢對其中一些服務是非常有用的,但是由于這與本書所要介紹的內容關系不大,就不進行詳細介紹了。
總結:
NoSQL并不是No-SQL,而是指Not Only SQL。
NoSQL的出現是為了彌補SQL數據庫因為事務等機制帶來的對海量數據、高并發請求的處理的性能上的欠缺。
NoSQL不是為了替代SQL而出現的,它是一種替補方案,而不是解決方案的首選。
絕大多數的NoSQL產品都是基于大內存和高性能隨機讀寫的(比如具有更高性能的固態硬盤陣列),一般的小型企業在選擇NoSQL時一定要慎重!不要為了NoSQL而NoSQL,可能會導致花了冤枉錢又耽擱了項目進程。
NoSQL不是萬能的,但在大型項目中,你往往需要它!
nosql四大分類:1、KV鍵值對。
2、文檔型數據庫。
3、列存儲數據庫。
4、圖關系數據庫。nosql是非關系型數據庫,NoSQL(NotOnlySQL),意思是"不僅僅是SQL",指的是非關系型數據庫,是對不同于傳統的關系型數據庫的數據庫管理系統的統稱。
今天真是一個美好的時代,有無數的開源系統可以為我們提供服務,現在有許多開發軟件可以用到工業大數據中,當然很多系統還不成熟,應用到工業中還需要小心,并且需要開發人員對其進行一定的優化和調整。下面就簡單介紹一些開源的大數據工具軟件,看看有哪些能夠應用到工業大數據領域。
下面這張圖是我根據網上流傳的一張開源大數據軟件分類圖整理的:
我們可以把開源大數據軟件分成幾類,有一些可以逐步應用到工業大數據領域,下面就一一介紹一下這些軟件。(以下系統介紹大都來源于網絡)
1、數據存儲類
(1)關系數據庫MySQL
這個就不用太多介紹了吧,關系型數據庫領域應用最廣泛的開源軟件,目前屬于 Oracle 旗下產品。
(2)文件數據庫Hadoop
Hadoop是大數據時代的明星產品,它最大的成就在于實現了一個分布式文件系統(Hadoop Distributed FileSystem),簡稱HDFS。HDFS有高容錯性的特點,并且設計用來部署在低廉的硬件上,而且它提供高吞吐量來訪問應用程序的數據,適合那些有著超大數據集的應用程序。
Hadoop可以在工業大數據應用中用來作為底層的基礎數據庫,由于它采用了分布式部署的方式,如果是私有云部署,適用于大型企業集團。如果是公有云的話,可以用來存儲文檔、視頻、圖像等資料。
(3)列數據庫Hbase
HBase是一個分布式的、面向列的開源數據庫,HBase是Apache的Hadoop項目的子項目。HBase不同于一般的關系數據庫,它是一個適合于非結構化數據存儲的數據庫。另一個不同的是HBase基于列的而不是基于行的模式。
基于Hbase開發的OpenTSDB,可以存儲所有的時序(無須采樣)來構建一個分布式、可伸縮的時間序列數據庫。它支持秒級數據采集所有metrics,支持永久存儲,可以做容量規劃,并很容易的接入到現有的報警系統里。
這樣的話,它就可以替代在工業領域用得最多的實時數據庫。
(4)文檔數據庫MongoDB
MongoDB是一個介于關系數據庫和非關系數據庫之間的產品,是非關系數據庫當中功能最豐富,最像關系數據庫的。他支持的數據結構非常松散,是類似json的bson格式,因此可以存儲比較復雜的數據類型。Mongo最大的特點是他支持的查詢語言非常強大,其語法有點類似于面向對象的查詢語言,幾乎可以實現類似關系數據庫單表查詢的絕大部分功能,而且還支持對數據建立索引。
MongoDB適合于存儲工業大數據中的各類文檔,包括各類圖紙、文檔等。
(5)圖數據庫Neo4j/OrientDB
圖數據庫不是存放圖片的,是基于圖的形式構建的數據系統。
Neo4j是一個高性能的,NOSQL圖形數據庫,它將結構化數據存儲在網絡上而不是表中。它是一個嵌入式的、基于磁盤的、具備完全的事務特性的Java持久化引擎,但是它將結構化數據存儲在網絡(從數學角度叫做圖)上而不是表中。Neo4j也可以被看作是一個高性能的圖引擎,該引擎具有成熟數據庫的所有特性。程序員工作在一個面向對象的、靈活的網絡結構下而不是嚴格、靜態的表中——但是他們可以享受到具備完全的事務特性、 企業級 的數據庫的所有好處。
OrientDB是兼具文檔數據庫的靈活性和圖形數據庫管理 鏈接 能力的可深層次擴展的文檔-圖形數據庫管理系統。可選無模式、全模式或混合模式下。支持許多高級特性,諸如ACID事務、快速索引,原生和SQL查詢功能。可以JSON格式導入、導出文檔。若不執行昂貴的JOIN操作的話,如同關系數據庫可在幾毫秒內可檢索數以百記的鏈接文檔圖。
這些數據庫都可以用來存儲非結構化數據。
2、數據分析類
(1)批處理MapReduce/Spark
MapReduce是一種編程模型,用于大規模數據集(大于1TB)的并行運算。概念"Map(映射)"和"Reduce(歸約)",是它們的主要思想,都是從函數式編程語言里借來的,還有從矢量編程語言里借來的特性。它極大地方便了編程人員在不會分布式并行編程的情況下,將自己的程序運行在分布式系統上。 當前的軟件實現是指定一個Map(映射)函數,用來把一組鍵值對映射成一組新的鍵值對,指定并發的Reduce(歸約)函數,用來保證所有映射的鍵值對中的每一個共享相同的鍵組。
Apache Spark 是專為大規模數據處理而設計的快速通用的計算引擎。Spark 是一種與 Hadoop 相似的開源集群計算環境,但是兩者之間還存在一些不同之處,這些有用的不同之處使 Spark 在某些工作負載方面表現得更加優越,換句話說,Spark 啟用了內存分布數據集,除了能夠提供交互式查詢外,它還可以優化迭代工作負載。盡管創建 Spark 是為了支持分布式數據集上的迭代作業,但是實際上它是對 Hadoop 的補充,可以在 Hadoop 文件系統中并行運行。
這些大數據的明星產品可以用來做工業大數據的處理。
(2)流處理Storm
Storm是一個開源的分布式實時計算系統,可以簡單、可靠的處理大量的數據流。Storm有很多使用場景:如實時分析,在線機器學習,持續計算,分布式RPC,ETL等等。Storm支持水平擴展,具有高容錯性,保證每個消息都會得到處理,而且處理速度很快(在一個小集群中,每個結點每秒可以處理數以百萬計的消息)。Storm的部署和運維都很便捷,而且更為重要的是可以使用任意編程語言來開發應用。
(3)圖處理Giraph
Giraph是什么?Giraph是Apache基金會開源項目之一,被定義為迭代式圖處理系統。他架構在Hadoop之上,提供了圖處理接口,專門處理大數據的圖問題。
Giraph的存在很有必要,現在的大數據的圖問題又很多,例如表達人與人之間的關系的有社交網絡,搜索引擎需要經常計算網頁與網頁之間的關系,而map-reduce接口不太適合實現圖算法。
Giraph主要用于分析用戶或者內容之間的聯系或重要性。
(4)并行計算MPI/OpenCL
OpenCL(全稱Open Computing Language,開放運算語言)是第一個面向 異構系統 通用目的并行編程的開放式、免費標準,也是一個統一的編程環境,便于軟件開發人員為高性能計算 服務器 、桌面計算系統、手持設備編寫高效輕便的代碼,而且廣泛適用于多核心處理器(CPU)、圖形處理器(GPU)、Cell類型架構以及數字信號處理器(DSP)等其他并行處理器,在 游戲 、 娛樂 、科研、醫療等各種領域都有廣闊的發展前景。
(5)分析框架Hive
Hive是基于Hadoop的一個數據倉庫工具,可以將結構化的數據文件映射為一張數據庫表,并提供簡單的sql查詢功能,可以將sql語句轉換為MapReduce任務進行運行。 其優點是學習成本低,可以通過類SQL語句快速實現簡單的MapReduce統計,不必開發專門的MapReduce應用,十分適合數據倉庫的統計分析。
(6)分析框架Pig
Apache Pig 是apache平臺下的一個免費開源項目,Pig為大型數據集的處理提供了更高層次的抽象,很多時候數據的處理需要多個MapReduce過程才能實現,使得數據處理過程與該模式匹配可能很困難。有了Pig就能夠使用更豐富的數據結構。[2]
Pig LatinPig Latin 是一個相對簡單的語言,一條語句 就是一個操作,與數據庫的表類似,可以在關系數據庫中找到它(其中,元組代表行,并且每個元組都由字段組成)。
Pig 擁有大量的數據類型,不僅支持包、元組和映射等高級概念,還支持簡單的數據類型,如 int、long、float、double、chararray 和 bytearray。并且,還有一套完整的比較運算符,包括使用正則表達式的豐富匹配模式。
nosql分類太多了,下面列舉幾個比較常見的:
Redis:非常適合需要表達時間線的web服務,例如微博
Cassandra:只有順序寫,沒有隨機寫的設計,滿足高負荷情形的性能需求
MongoDB:面向文檔,擅長處理非結構化數據
Neo4J:可以快速實現基于圖的計算(如果用SQL計算可能花更長的時間)
希望對你所有幫助。
基本含義NoSQL(NoSQL = Not Only SQL ),意即“不僅僅是SQL”,是一項全新的數據庫革命性運動,早期就有人提出,發展至2009年趨勢越發高漲。NoSQL的擁護者們提倡運用非關系型的數據存儲,相對于鋪天蓋地的關系型數據庫運用,這一概念無疑是一種全新的思維的注入。NoSQLNoSQL數據庫的四大分類鍵值(Key-Value)存儲數據庫這一類數據庫主要會使用到一個哈希表,這個表中有一個特定的鍵和一個指針指向特定的數據。Key/value模型對于IT系統來說的優勢在于簡單、易部署。但是如果DBA只對部分值進行查詢或更新的時候,Key/value就顯得效率低下了。[3] 舉例如:Tokyo Cabinet/Tyrant, Redis, Voldemort, Oracle BDB.列存儲數據庫。這部分數據庫通常是用來應對分布式存儲的海量數據。鍵仍然存在,但是它們的特點是指向了多個列。這些列是由列家族來安排的。如:Cassandra, HBase, Riak.文檔型數據庫文檔型數據庫的靈感是來自于Lotus Notes辦公軟件的,而且它同第一種鍵值存儲相類似。該類型的數據模型是版本化的文檔,半結構化的文檔以特定的格式存儲,比如JSON。文檔型數據庫可 以看作是鍵值數據庫的升級版,允許之間嵌套鍵值。而且文檔型數據庫比鍵值數據庫的查詢效率更高。如:CouchDB, MongoDb. 國內也有文檔型數據庫SequoiaDB,已經開源。圖形(Graph)數據庫圖形結構的數據庫同其他行列以及剛性結構的SQL數據庫不同,它是使用靈活的圖形模型,并且能夠擴展到多個服務器上。NoSQL數據庫沒有標準的查詢語言(SQL),因此進行數據庫查詢需要制定數據模型。許多NoSQL數據庫都有REST式的數據接口或者查詢API。[2] 如:Neo4J, InfoGrid, Infinite Graph.因此,我們總結NoSQL數據庫在以下的這幾種情況下比較適用:1、數據模型比較簡單;2、需要靈活性更強的IT系統;3、對數據庫性能要求較高;4、不需要高度的數據一致性;5、對于給定key,比較容易映射復雜值的環境。
MPP是一種進行系統擴展的方式,它由多個SMP服務器通過一定的節點互聯網絡進行連接,協同工作,完成相同的任務,從用戶的角度來看是一個服務器系統。每一個節點只能訪問自己本地資源(內存,存儲等),是一種完全無共享結構(Share Nothing)結構。
而NoSql=Not Only Sql。泛指的是非關系型數據庫。大概分為四類。Key-Value存儲的數據庫,列式存儲數據庫(Hbase),文檔型數據庫和圖形數據庫。
新聞標題:nosql分類圖,nosql介紹
鏈接URL:http://vcdvsql.cn/article8/dsijoip.html
成都網站建設公司_創新互聯,為您提供軟件開發、小程序開發、網站策劃、關鍵詞優化、電子商務、網站營銷
聲明:本網站發布的內容(圖片、視頻和文字)以用戶投稿、用戶轉載內容為主,如果涉及侵權請盡快告知,我們將會在第一時間刪除。文章觀點不代表本網站立場,如需處理請聯系客服。電話:028-86922220;郵箱:631063699@qq.com。內容未經允許不得轉載,或轉載時需注明來源: 創新互聯