可以讓你快速用Python進行數據分析的10個小技巧

一些小提示和小技巧可能是非常有用的，特別是在編程領域。有時候使用一點點黑客技術，既可以節省時間，還可能挽救“生命”。

創新互聯是專業的昭陽網站建設公司，昭陽接單;提供成都網站建設、網站設計,網頁設計,網站設計,建網站,PHP網站建設等專業做網站服務;采用PHP框架,可快速的進行昭陽網站開發網頁制作和功能擴展;專業做搜索引擎喜愛的網站,專業的做網站團隊,希望更多企業前來合作!

一個小小的快捷方式或附加組件有時真是天賜之物，并且可以成為真正的生產力助推器。所以，這里有一些小提示和小技巧，有些可能是新的，但我相信在下一個數據分析項目中會讓你非常方便。

Pandas中數據框數據的Profiling過程

Profiling（分析器）是一個幫助我們理解數據的過程，而Pandas Profiling是一個Python包，它可以簡單快速地對Pandas 的數據框數據進行 探索 性數據分析。

Pandas中df.describe()和df.info()函數可以實現EDA過程第一步。但是，它們只提供了對數據非常基本的概述，對于大型數據集沒有太大幫助。 而Pandas中的Profiling功能簡單通過一行代碼就能顯示大量信息，且在交互式HTML報告中也是如此。

對于給定的數據集，Pandas中的profiling包計算了以下統計信息：

由Pandas Profiling包計算出的統計信息包括直方圖、眾數、相關系數、分位數、描述統計量、其他信息——類型、單一變量值、缺失值等。

安裝

用pip安裝或者用conda安裝

pip install pandas-profiling

conda install -c anaconda pandas-profiling

用法

下面代碼是用很久以前的泰坦尼克數據集來演示多功能Python分析器的結果。

#importing the necessary packages

import pandas as pd

import pandas_profiling

df = pd.read_csv('titanic/train.csv')

pandas_profiling.ProfileReport(df)

一行代碼就能實現在Jupyter Notebook中顯示完整的數據分析報告，該報告非常詳細，且包含了必要的圖表信息。

還可以使用以下代碼將報告導出到交互式HTML文件中。

profile = pandas_profiling.ProfileReport(df)

profile.to_file(outputfile="Titanic data profiling.html")

Pandas實現交互式作圖

Pandas有一個內置的.plot（）函數作為DataFrame類的一部分。但是，使用此功能呈現的可視化不是交互式的，這使得它沒那么吸引人。同樣，使用pandas.DataFrame.plot（）函數繪制圖表也不能實現交互。 如果我們需要在不對代碼進行重大修改的情況下用Pandas繪制交互式圖表怎么辦呢？這個時候就可以用Cufflinks庫來實現。

Cufflinks庫可以將有強大功能的plotly和擁有靈活性的pandas結合在一起，非常便于繪圖。下面就來看在pandas中如何安裝和使用Cufflinks庫。

安裝

pip install plotly

# Plotly is a pre-requisite before installing cufflinks

pip install cufflinks

用法

#importing Pandas

import pandas as pd

#importing plotly and cufflinks in offline mode

import cufflinks as cf

import plotly.offline

cf.go_offline()

cf.set_config_file(offline=False, world_readable=True)

是時候展示泰坦尼克號數據集的魔力了。

df.iplot()

df.iplot() vs df.plot()

右側的可視化顯示了靜態圖表，而左側圖表是交互式的，更詳細，并且所有這些在語法上都沒有任何重大更改。

Magic命令

Magic命令是Jupyter notebook中的一組便捷功能，旨在解決標準數據分析中的一些常見問題。使用命令％lsmagic可以看到所有的可用命令。

所有可用的Magic命令列表

Magic命令有兩種：行magic命令（line magics），以單個％字符為前綴，在單行輸入操作；單元magic命令（cell magics），以雙%%字符為前綴，可以在多行輸入操作。如果設置為1，則不用鍵入%即可調用Magic函數。

接下來看一些在常見數據分析任務中可能用到的命令：

% pastebin

％pastebin將代碼上傳到Pastebin并返回url。Pastebin是一個在線內容托管服務，可以存儲純文本，如源代碼片段，然后通過url可以與其他人共享。事實上，Github gist也類似于pastebin，只是有版本控制。

在file.py文件中寫一個包含以下內容的python腳本，并試著運行看看結果。

#file.py

def foo(x):

return x

在Jupyter Notebook中使用％pastebin生成一個pastebin url。

%matplotlib notebook

函數用于在Jupyter notebook中呈現靜態matplotlib圖。用notebook替換inline，可以輕松獲得可縮放和可調整大小的繪圖。但記得這個函數要在導入matplotlib庫之前調用。

%run

用％run函數在notebook中運行一個python腳本試試。

%run file.py

%%writefile

%% writefile是將單元格內容寫入文件中。以下代碼將腳本寫入名為foo.py的文件并保存在當前目錄中。

%%latex

%%latex函數將單元格內容以LaTeX形式呈現。此函數對于在單元格中編寫數學公式和方程很有用。

查找并解決錯誤

交互式調試器也是一個神奇的功能，我把它單獨定義了一類。如果在運行代碼單元時出現異常，請在新行中鍵入％debug并運行它。 這將打開一個交互式調試環境，它能直接定位到發生異常的位置。還可以檢查程序中分配的變量值，并在此處執行操作。退出調試器單擊q即可。

Printing也有小技巧

如果您想生成美觀的數據結構，pprint是首選。它在打印字典數據或JSON數據時特別有用。接下來看一個使用print和pprint來顯示輸出的示例。

讓你的筆記脫穎而出

我們可以在您的Jupyter notebook中使用警示框/注釋框來突出顯示重要內容或其他需要突出的內容。注釋的顏色取決于指定的警報類型。只需在需要突出顯示的單元格中添加以下任一代碼或所有代碼即可。

藍色警示框：信息提示

p class="alert alert-block alert-info"

bTip:/b Use blue boxes (alert-info) for tips and notes.

If it’s a note, you don’t have to include the word “Note”.

/p

黃色警示框：警告

p class="alert alert-block alert-warning"

bExample:/b Yellow Boxes are generally used to include additional examples or mathematical formulas.

/p

綠色警示框：成功

p class="alert alert-block alert-success"

Use green box only when necessary like to display links to related content.

/p

紅色警示框：高危

p class="alert alert-block alert-danger"

It is good to avoid red boxes but can be used to alert users to not delete some important part of code etc.

/p

打印單元格所有代碼的輸出結果

假如有一個Jupyter Notebook的單元格，其中包含以下代碼行：

In [1]: 10+5

11+6

Out [1]: 17

單元格的正常屬性是只打印最后一個輸出，而對于其他輸出，我們需要添加print()函數。然而通過在notebook頂部添加以下代碼段可以一次打印所有輸出。

添加代碼后所有的輸出結果就會一個接一個地打印出來。

In [1]: 10+5

11+6

12+7

Out [1]: 15

Out [1]: 17

Out [1]: 19

恢復原始設置：

InteractiveShell.ast_node_interactivity = "last_expr"

使用'i'選項運行python腳本

從命令行運行python腳本的典型方法是：python hello.py。但是，如果在運行相同的腳本時添加-i，例如python -i hello.py，就能提供更多優勢。接下來看看結果如何。

首先，即使程序結束，python也不會退出解釋器。因此，我們可以檢查變量的值和程序中定義的函數的正確性。

其次，我們可以輕松地調用python調試器，因為我們仍然在解釋器中：

import pdb

pdb.pm()

這能定位異常發生的位置，然后我們可以處理異常代碼。

自動評論代碼

Ctrl / Cmd + /自動注釋單元格中的選定行，再次命中組合將取消注釋相同的代碼行。

刪除容易恢復難

你有沒有意外刪除過Jupyter notebook中的單元格？如果答案是肯定的，那么可以掌握這個撤消刪除操作的快捷方式。

如果您刪除了單元格的內容，可以通過按CTRL / CMD + Z輕松恢復它。

如果需要恢復整個已刪除的單元格，請按ESC + Z或EDIT撤消刪除單元格。

結論

在本文中，我列出了使用Python和Jupyter notebook時收集的一些小提示。我相信它們會對你有用，能讓你有所收獲，從而實現輕松編碼！

利用Python進行數據分析(10)-移動窗口函數

Python-for-data-移動窗口函數

本文中介紹的是 ，主要的算子是：

統計和通過其他移動窗口或者指數衰減而運行的函數，稱之為 移動窗口函數

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

2292 rows × 3 columns

rolling算子，行為和resample和groupby類似

rolling可以在S或者DF上通過一個window進行調用

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

2292 rows × 3 columns

指定一個常數衰減因子為觀測值提供更多的權重。常用指定衰減因子的方法：使用span（跨度）

一些統計算子，例如相關度和協方差等需要同時操作兩個時間序列。

例如，金融分析中的股票和基準指數的關聯性問題：計算時間序列的百分比變化pct_change()

style scoped="".dataframe tbody tr th:only-of-type { vertical-align: middle; } precode.dataframe tbody tr th { vertical-align: top; } .dataframe thead th { text-align: right; } /code/pre/style

在rolling及其相關方法上使用apply方法提供了一種在移動窗口中應用自己設計的數組函數的方法。

唯一要求：該函數從每個數組中產生一個單值(縮聚)，例如使用rolling()...quantile(q)計算樣本的中位數

Python數據分析師主要做什么?Python基礎

伴隨著大數據時代的到來，Python的熱度居高不下，已成為職場人士必備的技能，它不僅可以從事網絡爬蟲、人工智能、Web開發、游戲開發等工作，還是數據分析的首選語言。那么問題來了，利用Python數據分析可以做什么呢?簡單來講，可以做的事情有很多，具體如下。

第一、檢查數據表

Python中使用shape函數來查看數據表的維度，也就是行數和列數。你可以使用info函數查看數據表的整體信息，使用dtypes函數來返回數據格式。Lsnull是Python中檢查空置的函數，你可以對整個數據進行檢查，也可以單獨對某一列進行空置檢查，返回的結果是邏輯值，包括空置返回True，不包含則返回False。使用unique函數查看唯一值，使用Values函數用來查看數據表中的數值。

第二，數據表清洗

Python中處理空值的方法比較靈活，可以使用Dropna函數用來刪除數據表中包括空值的數據，也可以使用fillna函數對空值進行填充。Python中dtype是查看數據格式的函數，與之對應的是asstype函數，用來更改數據格式，Rename是更改名稱的函數，drop_duplicate函數函數重復值，replace函數實現數據轉換。

第三，數據預處理

數據預處理是對清洗完的數據進行整理以便后期統計和分析工作，主要包括數據表的合并、排序、數值分列、數據分組以及標記等工作。在Python中可以使用merge函數對兩個數據表進行合并，合并的方式為inner，此外還有left、right和outer方式。使用ort_values函數和sort_index函數完成排序，使用where函數完成數據分組，使用split函數實現分列。

第四，數據提取

主要是使用三個函數：loc、iloc和ix，其中loc函數按標準值進行提取，iloc按位置進行提取，ix可以同時按標簽和位置進行提取。除了按標簽和位置提取數據意外，還可以按照具體的條件進行提取。

第五，數據篩選匯總

Python中使用loc函數配合篩選條件來完成篩選功能，配合sum和count函數還能實現Excel中sumif和countif函數的功能。Python中使用的主要函數是groupby和pivot_table。

本文名稱：數據分析python函數,PYTHON數據分析
標題網址：http://vcdvsql.cn/article16/hshpdg.html

成都網站建設公司_創新互聯，為您提供響應式網站、建站公司、網站營銷、網站設計、網站建設、微信公眾號

廣告

聲明：本網站發布的內容（圖片、視頻和文字）以用戶投稿、用戶轉載內容為主，如果涉及侵權請盡快告知，我們將會在第一時間刪除。文章觀點不代表本網站立場，如需處理請聯系客服。電話：028-86922220；郵箱：631063699@qq.com。內容未經允許不得轉載，或轉載時需注明來源： 創新互聯