摘要:科學計算與數據可視化程序設計模塊最重要的一個特點就是其維數組對象即該對象是一個快速而靈活的大數據集容器。兩行及以上為二維表示數組各維度大小的元組。
科學計算與數據可視化1
@(程序設計)
numpy模塊Numpy最重要的一個特點就是其N維數組對象(即ndarray)該對象是一個快速而靈活的大數據集容器。
使用Numpy,開發人員可以執行以下操作:
1、數組的算數和邏輯運算。
2、傅立葉變換和用于圖形操作的例程。
3、與線性代數有關的操作。
numpy.ndarray()ndarray是Numpy的數組類,其中的所有元素必須是相同的數據類型。ndarray類的重要對象屬性有:
利用array函數,可以將序列類型的對象(元組、列表和其他數組)轉換成數組類型ndarray。
ndarray.ndim:數組維度。兩行及以上為二維
ndarray.shape:表示數組各維度大小的元組。
ndarray.size:數組元素的總個數,等于shape屬性中元組元素的乘積。
ndarray.dtype:數組中元素的數據類型
numpy.ndarray()就是numpy的構造函數,我們可以使用這個函數創建一個ndarray對象。構造函數有如下幾個可選參數:
np.savetxt()將array保存到txt文件,并保持原格式
np.loadtxt()loadtxt(fname, dtype=
np.loadtxt()用于從文本加載數據。文本文件中的每一行必須含有相同的數據。
arange()numpy.arange([start, ]stop, [step, ]dtype=None)
arange函數是numpy內置的類似range的函數,其返回的是數組對象,而不是列表。
range()與arrange()的區別
1、range()和np.arange()的返回類型不同,range()返回的是range;
2、object,而np.arange()返回的是ndarray類型;
3、range()不支持步長為小數,而np.arange()支持步長(step)為小數;
4、range()和np.arange()都可用于迭代;
5、range()和np.arange()都有三個參數,以第一個參數為起點,第三個參數為步長,截止到第二個參數之前的不包括第二個參數的數據序列。
5、range()可用于迭代,而np.arange作用遠不止于此,它是一個序列,可被當做向量使用。
array(...)
array(object, dtype=None, copy=True, order="K", subok=False, ndmin=0)
數組的特點:
1、數組是相同數據類型的元素的集合。
2、數組中的各元素的存儲是有先后順序的,它們在內存中按照這個先后順序連續存放在一起。
3、數組元素用整個數組的名字和它自己在數組中的順序位置來表示。例如,a[0]表示名字為a的數組中的第一個元素,a[1]代表數組a的第二個元素,以此類推。
Array[0:] ——>切片從前面序號“0”開始到結尾,包括“0”位
[2, 3, 9, 1, 4, 7, 6, 8]
Array[:-1] ——>切片從后面序號“-1”到最前,不包括“-1”位
[2, 3, 9, 1, 4, 7, 6]
Array[3:-2] ——>切從前面序號“3”開始(包括)到從后面序號“-2”結束(不包括)
[1, 4, 7]
Array[3::2] ——>從前面序號“3”(包括)到最后,其中分隔為“2”
[1, 7, 8]
Array[::2] ——>從整列表中切出,分隔為“2”
[2, 9, 4, 6]
Array[3::] ——>從前面序號“3”開始到最后,沒有分隔
[1, 4, 7, 6, 8]
Array[3::-2] ——>從前面序號“3”開始,往回數第二個,因為分隔為“-2”
[1, 3]
Array[-1] ——>此為切出最后一個
8
Array[::-1] ——>此為倒序
[8, 6, 7, 4, 1, 9, 3, 2]
import numpy as np list1=[5,6.5,9,2,3,7.8,5.6,4.9] arr1=np.array(list1) print(arr1) print(arr1.dtype) #數組中元素的數據類型 print(arr1.ndim) #數組維度。兩行及以上為二維 print(arr1.shape) #表示數組各維度大小的元組。行*列 print(arr1.size) #數組元素的總個數,等于shape屬性中元組元素的乘積。 list2=[[1,2,3,4,5],[6,7,8,9,10]] arr2=np.array(list2) print(arr2) print(arr2.dtype) #數組中元素的數據類型 print(arr2.ndim) #數組維度。兩行及以上為二維 print(arr2.shape) #表示數組各維度大小的元組。行*列 print(arr2.size) #數組元素的總個數,等于shape屬性中元組元素的乘積。
[5. 6.5 9. 2. 3. 7.8 5.6 4.9]創建指定數據類型的數組對象
float64
1
(8,)
8
[[ 1 2 3 4 5]
[ 6 7 8 9 10]]
int32
2
(2, 5)
10
import numpy as np list2=[[1,2,3,4,5],[6,7,8,9,10]] arr2=np.array(list2) arr3=np.array([10,20,30,40],dtype=np.float64) print(arr3) arr4=arr2.astype(np.float64) #轉換數據類型 float->int print(arr4) print(arr4.dtype)
[10. 20. 30. 40.]練習eg13_array1.py()
[[ 1. 2. 3. 4. 5.]
[ 6. 7. 8. 9. 10.]]
float64
產生3個數組l1、l2、l3,分別為[0 1 2 3]、[0 2 4 6]、[0 3 6 9],輸出l1、l2、l3以及(l1,l2,l3),并將(l1,l2,l3)的內容通過np.savetxt方法存入aa.txt文件中,然后用np.loadtxt讀出數據并顯示。程序保存為eg13_array1.py
import numpy as np l1=np.arange(4) #易錯 l2,l3=l1*2,l1*3 print("l1:",l1) print("l2:",l1) print("l3:",l1) print((l1,l2,l3)) np.savetxt("aa.txt",(l1,l2,l3)) #易錯 aa=np.loadtxt("aa.txt") print(aa)
l1 [0 1 2 3]思考:繼續eg13_array1.py
l2 [0 2 4 6]
l3 [0 3 6 9]
(array([0, 1, 2, 3]), array([0, 2, 4, 6]), array([0, 3, 6, 9]))
aa: [[0. 1. 2. 3.]
[0. 2. 4. 6.]
[0. 3. 6. 9.]]
import numpy as np l1=np.arange(4) l2,l3=l1*2,l1*3 print(l1) print(l2) print(l3) aa=np.loadtxt("aa.txt") print("aa的類型:",aa.dtype) print("aa的維度:",aa.ndim) print("aa的總個數:",aa.size) print("aa的形狀:",aa.shape) #reshape()數組對象中的方法,用于改變數組的形狀 print("bb:",aa.reshape(4,3)) #reshape()改為一個四維數組
[0 1 2 3]定義數組的類型
[0 2 4 6]
[0 3 6 9]
aa的類型: float64
aa的維度: 2
aa的總個數: 12
aa的形狀: (3, 4)
bb: [[0. 1. 2.]
[3. 0. 2.]
[4. 6. 0.]
[3. 6. 9.]]
import numpy as np d1=np.loadtxt("bb.txt") print("d1:",d1,"sum=",sum(d1)) d2=np.loadtxt("bb.txt",dtype=int) print("d2:",d2,"sum=",sum(d2)) d3=np.loadtxt("bb.txt",dtype=str) print("d3:",d3,"sum=",sum([eval(i) for i in d3])) #這邊不是很明白
d1: [1. 2. 3. 4. 5.] sum= 15.0astype()顯示轉換類型
d2: [1 2 3 4 5] sum= 15
d3: ["1" "2" "3" "4" "5"] sum= 15
import numpy as np aa=np.array(["1.25","-9.6","42"],dtype=np.str) bb=aa.astype(float) print(bb)
[ 1.25 -9.6 42. ]數組和標量之間的運算
import numpy as np arr=np.array([[1,2,3],[4,5,6]]) print(arr) print(arr*2) print(1/arr) print(arr-arr*2)
[[1 2 3]數組的元素級運算與函數
[4 5 6]]
[[ 2 4 6]
[ 8 10 12]]
[[1. 0.5 0.33333333]
[0.25 0.2 0.16666667]]
[[-1 -2 -3]
[-4 -5 -6]]
大小相等的數組之間的任何算數運算都會應用到元素級
import numpy as np arr1=np.arange(1,16).reshape(3,5) print(arr1) arr2=np.arange(1,30,2).reshape(3,5) print(arr2) print(arr1*arr2) print(arr1/arr2) print(arr1+arr2) print(arr1-arr2)
[[ 1 2 3 4 5]二元函數及說明 一維數組的索引和切片(同列表)
[ 6 7 8 9 10]
[11 12 13 14 15]]
[[ 1 3 5 7 9]
[11 13 15 17 19]
[21 23 25 27 29]]
[[ 1 6 15 28 45]
[ 66 91 120 153 190]
[231 276 325 378 435]]
[[1. 0.66666667 0.6 0.57142857 0.55555556]
[0.54545455 0.53846154 0.53333333 0.52941176 0.52631579]
[0.52380952 0.52173913 0.52 0.51851852 0.51724138]]
[[ 2 5 8 11 14]
[17 20 23 26 29]
[32 35 38 41 44]]
[[ 0 -1 -2 -3 -4]
[ -5 -6 -7 -8 -9]
[-10 -11 -12 -13 -14]]
數組切片是原始數組的視圖,數據并不會被復制,即視圖上的任何修改都會直接反映到源數組上。
讀csv文件
c,v=np.loadtxt("data.csv", delimiter=",", usecols=(6,7), unpack=True,skiprows=1)
fname:讀取文件的文件名。例如C:/Dataset/iris.txt。
delimiter:數據之間的分隔符。如使用逗號","。
dtype:數據類型。如float,str等。
usecols:選取數據的列。
skiprows : list-like or integer, default None需要忽略的行數(從文件開始處算起),或需要跳過的行號列表(從0開始)。
平均值和加權平均值np.mean()
np.average()
對應的權值列表:weights=[]
將各數值乘以相應的權數,然后加總求和得到總體值,再除以總的單位數。
import numpy as np a=(70,80,60) print(np.mean(a)) #平均值 print(np.average(a,weights=[3,3,4])) #加權平均值 average()
70.0VWAP(Volume-Weighted Average Price):成交量加權平均價格
69.0
代表金融資產的“平均”價格,某個價格的成交量越高,該價格所占的權重就越大
VWAP就是以成交量為權重計算出來的加權平均值
TWAP(Time-Weighted Average Price):時間加權平均價格只是一個變種,基本的思想就是最近的價格重要性大一些,僅僅為了說明問題,并不一定非常正確
選用arange函數創建一個從0開始依次增長的自然數序列,自然數的個數即為收盤價的個數
例題:eg3_vwap_twap.py利用data.csv文件,讀出收盤價、成交量,計算成交量加權平均價格VWAP、算術平均值和時間加權平均價格TWAP,程序保存為eg13_vwap_twap3.py
import numpy as np c,v=np.loadtxt("data.csv", delimiter=",", usecols=(6,7), unpack=True,skiprows=1) #usecols列數是從0開始的 print("收盤價:",c) print("成交量:",v) vwap=np.average(c,weights=v) print("成交量加權平均價格VWAP=%f"%vwap) #這邊看不太懂?成交量加權平均價格 print("算術平均值mean1=",np.mean(c)) #算術平均值 print("算術平均值mean1=",c.mean()) #算術平均值 t=np.arange(len(c)) print("時間加權平均價格=",np.average(c,weights=t)) #時間加權平均價格
收盤價: [336.1 339.32 345.03 344.32 343.44 346.5 351.88 355.2 358.16 354.54
356.85 359.18 359.9 363.13 358.3 350.56 338.61 342.62 342.88 348.16
353.21 349.31 352.12 359.56 360. 355.36 355.76 352.47 346.67 351.99]
成交量: [21144800. 13473000. 15236800. 9242600. 14064100. 11494200. 17322100.
17184100.
14395400.
16192700.
16824200.]
成交量加權平均價格VWAP=350.589549
算術平均值mean1= 351.0376666666667
算術平均值mean1= 351.0376666666667
時間加權平均價格= 352.4283218390804
ptp函數可以計算數組的取值范圍,返回數組元素的最大值和最小值之間的差值,即返回值=max(array)-min(array)
示例4:eg13_max_min4.py利用data.csv,計算最高價中的最大值和最小值以及最高價和最低價中最大值和最小值之間的差值,程序保存為eg13_max_min4.py
import numpy as np hst,lst=np.loadtxt("data.csv",delimiter=",",usecols=(4,5), unpack=True,skiprows=1) hh=np.max(hst) ll=np.min(hst) print("最高價中最大值=",hh) print("最高價中最小值=",ll) #np.ptp() print("最高價中最大值和最小值之間的差值=","%.2f"%np.ptp(hst)) print("最低價中最大值和最小值之間的差值=","%.2f"%np.ptp(lst))
最高價中最大值= 364.9數組的基本統計分析函數及說明 argmax、argmin、max、min
最高價中最小值= 340.04
最高價中最大值和最小值之間的差值= 24.86
最低價中最大值和最小值之間的差值= 26.97
import numpy as np b=np.array([1,5,8,9,334]) print(np.argmax(b)) #np.argmax();np.argmin print(np.argmin(b)) #reshape()的乘積剛好是arange()的列*行 print(np.arange(7,17).reshape(2,5))
4axis
0
[[ 7 8 9 10 11]
[12 13 14 15 16]]
axis=0 跨行
axis=1 跨列
import numpy as np a=np.arange(7,17).reshape(2,5) print(a) print(np.argmin(a,axis=0)) print(np.argmin(a,axis=1))
[[ 7 8 9 10 11]NumPy常用函數:計算中位數和方差 思考1:si13_var1.py
[12 13 14 15 16]]
[0 0 0 0 0]
[0 0]
中位數:np.median()
方差:np.var()
import numpy as np price=np.loadtxt("data.csv",delimiter=",",usecols=(6,),unpack=True,skiprows=1) print(price) print("中位數:",np.median(price)) print("方差:", np.var(price))
[336.1 339.32 345.03 344.32 343.44 346.5 351.88 355.2 358.16 354.54
356.85 359.18 359.9 363.13 358.3 350.56 338.61 342.62 342.88 348.16
353.21 349.31 352.12 359.56 360. 355.36 355.76 352.47 346.67 351.99]
中位數: 352.055
方差: 50.126517888888884
import numpy as np price=np.loadtxt("data.csv",delimiter=",",usecols=(6,),unpack=True,skiprows=1) print(price) print("中位數",np.median(price)) #驗證剛才求的中位數是否正確 #1、將數組進行排序 sorted = np.msort(price) print(sorted) #2、計算數組的元素個數 n = len(sorted) print(n) #print("middle", "=", sorted[n - 1]//2) #n為奇數 print("中位數:", (sorted[n // 2] + sorted[(n - 1) // 2]) / 2) #n為偶數 #方差等于各個數據與平均數之差的平方和的平均數,用來度量隨機變量和其數學期望(即均值)之間的偏離程度 #((x1 - a)^2 + (x2 - a)^2 + (x3 - a)^2 ... + (xn - a)^2) / n print("方差:", np.var(price))
[336.1 339.32 345.03 344.32 343.44 346.5 351.88 355.2 358.16 354.54簡單收益率和對數收益率
356.85 359.18 359.9 363.13 358.3 350.56 338.61 342.62 342.88 348.16
353.21 349.31 352.12 359.56 360. 355.36 355.76 352.47 346.67 351.99]
中位數 352.055
[336.1 338.61 339.32 342.62 342.88 343.44 344.32 345.03 346.5 346.67
348.16 349.31 350.56 351.88 351.99 352.12 352.47 353.21 354.54 355.2
355.36 355.76 356.85 358.16 358.3 359.18 359.56 359.9 360. 363.13]
30
中位數: 352.055
方差: 50.126517888888884
簡單收益率:相鄰兩個價格之間的變化率
對數收益率:所有價格取對數后兩兩之間的差值,也可以用來衡量價格的變化率
計算歷史波動率(如年波動率和月波動率)時,需要用到對數收益率。
* 如果a的x次方等于N(a>0,且a不等于1),那么數x叫做以a為底N的對數(logarithm),記作x=logaN。其中,a叫做對數的底數,N叫做真數。
年波動率 = 對數收益率的標準差std / 其均值mean,再除以交易日倒數的平方根。通常交易日取252天。
diff函數返回一個由相鄰數組元素的差值構成的數組
import numpy as np a=np.array([1,2,5,4,3,7,8,38]) print(np.diff(a))
[ 1 3 -1 -1 4 1 30]numpy.where(暫時不看)
where(condition, [x, y]):
-- x, y不為空: condition為True, 返回x; False, 返回y -- x, y為空: 返回condition為True的數組下標
np.where(關系表達式):數組中滿足關系表達式的元素的下標數組
numpy.take(暫時不看)np.take(數組,下標數組):數組中由下標數組所表示的元素集合
利用data.csv,對于收盤價,計算簡單收益率及標準差、對數收益率及標準差、年波動率和月波動率
import numpy as np c=np.loadtxt("data.csv",delimiter=",",usecols=(6,), unpack=True,skiprows=1) returns=np.diff(c)/c[:-1] print("簡單收益率",returns) print("簡單收益率的標準差:",np.std(returns)) logreturns=np.diff(np.log(c)) print("對數收益率:",logreturns) print("對數收益率的標準差:",np.std(logreturns)) posretindices=np.where(returns>0) print("所有正值元素的元素值:",np.take(returns.posretindices)) #有問題 annual_volatility=np.std(logreturns)/np.mean(logreturns) annual_volatility=annual_volatility/np.sqrt(1/252) print("年波動率",annual_volatility) print("月波動率",annual_volatility*np.sqrt(1/12))
文章版權歸作者所有,未經允許請勿轉載,若此文章存在違規行為,您可以聯系管理員刪除。
轉載請注明本文地址:http://m.specialneedsforspecialkids.com/yun/44035.html
摘要:在本節中,我們將看到一些最流行和最常用的庫,用于機器學習和深度學習是用于數據挖掘,分析和機器學習的最流行的庫。愿碼提示網址是一個基于的框架,用于使用多個或進行有效的機器學習和深度學習。 showImg(https://segmentfault.com/img/remote/1460000018961827?w=999&h=562); 來源 | 愿碼(ChainDesk.CN)內容編輯...
摘要:屬于前一種,而且日益被用于數學計算機器學習和多種數據科學應用。近來,由于擁有多個針對機器學習自然語言處理數據視覺化數據探索數據分析和數據挖掘的插件,豐富的數據科學生態體系得到了較大的發展,甚至有將數據科學社區化的趨勢。 譯者注:本文的英文原文地址是:Python for Data Science vs Python for Web Development,發布時間是10月29日。譯者一...
摘要:雖然我們可以在網上參照各種模板項目文章博客等創建一個數據科學項目,但是目前也沒有教科書對這些知識做一個統一的回答。舉個例子來說,數據科學分析項目通常就不需要部署和監控這兩個過程。創建文件描述源數據及位置。進一步探索和報告在整個數據科學項目中 摘要:?在一個新的數據科學項目,你應該如何組織你的項目流程?數據和代碼要放在那里?應該使用什么工具?在對數據處理之前,需要考慮哪些方面?讀完本文...
閱讀 3903·2021-11-22 13:54
閱讀 2675·2021-09-30 09:48
閱讀 2361·2021-09-28 09:36
閱讀 3113·2021-09-22 15:26
閱讀 1343·2019-08-30 15:55
閱讀 2509·2019-08-30 15:54
閱讀 1426·2019-08-30 14:17
閱讀 2341·2019-08-28 18:25