『壹』 如何在ipython或python中使用Spark
在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/Spark/bin/pyspark默認打開的是Python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
啟動ipython
ipython –profile spark
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 「Result: 」, nums.filter(isprime).count()
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py
此時,已經能夠運行了。
『貳』 怎樣激活電腦
XP,直接輸入序列號激活:
XP安裝密鑰搜集
Windows xp sp3序列號(可通過微軟正版驗證)
可能很多朋友下載了XP SP3,卻通不過正版驗證,不能打補丁了.
XP sp3序列號,可通過微軟正版驗證的!
DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ
DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ
HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT
MRX3F-47B9T-2487J-KWKMF-RPWBY 企業版工行 (推薦)
QC986-27D34-6M3TY-JJXP9-TBGMD 企業版廣州
CM3HY-26VYW-6JRYC-X66GX-JVY2D 企業版
DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ 企業版
F4297-RCWJP-P482C-YY23Y-XH8W3 企業版
HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT 企業版
Windows XP專業版最新注冊碼
HTXH6-2JJC4-CDB6C-X38B4-C3GF3
RT4H2-8WYHG-QKK6K-WWHJ2-9427X
DYPVX-43TRT-YDBGB-7YQJX-CWXW7
HGM7B-YF7T7-8R7RF-Y6RPY-XTQ77
Windows XP專業版最新注冊碼
DJQJB-PC83T-FTGJC-CQTCK-RJD8D
VMMBM-8WK8W-H44YH-37B4M-KX8QR
XRCTF-Y68KJ-VVFTR-7BDFP-4PW7G
6RV7B-FYWR2-PW3C6-DDWDR-68X9C
KYMTD-BV7KP-RRM33-P3XKJ-RDKVD
X3WYK-H7CR8-KQBMV-7DP6X-W6YQQ
Windows XP專業版最新注冊碼
CQWK3-CCYJY-TQDFV-2HJDR-W3B2M
2RXYJ-VQWXM-J2V2R-CVXQT-Y6MPY
X7TVH-VJTFG-BK22B-XXG6D-27326
VYGXV-YM8VB-4RVQX-QXBMX-G3WV7
4DP2D-CXW4C-TRYDH-CW4CT-PT23X
R6M6K-HT7G7-XG4K4-66PGK-9V2RM
Windows XP專業版最新注冊碼
86VYW-4RHCG-CCC7Y-64MWM-V8B68
VPM77-Y3YJW-W4MFC-CQTCK-D2XGK
K3JD6-DK6G4-YH32B-QT7VP-R8WC7
JRMCK-J3V37-YVCYH-MDJ37-94BHP
KJ3XK-3B6KW-XK62M-VDC7W-DJ6V9
WindowsXP可以無限次激活的號碼
CXGDD-GP2B2-RKWWD-HG3HY-VDJ7J
RK7J8-2PGYQ-P47VV-V6PMB-F6XPQ
Windows XP Professional有效產品CD-KEY
CKWMY-66QR4-V96B7-DTYP3-YMM8B
TBWJH-YRX9X-4T6G6-TDC9Y-8CYMM
T99WP-KJFWH-RHJXR-CM7GW-VBQCM
VJ99K-F9T73-4FT69-M9VFV-JPQM8
PBW92-RXBQ3-GW4X8-RBVDC-Q4BRG
CC22W-H736H-9D74T-WGPCR-7JM38
XJQ7J-QMT3P-667VR-C6WWH-TP7X3
KJFDW-X3WWY-G8KGM-KJ6YF-TWHPM
MYP7X-9TKJV-7D9BR-TCTXQ-XWKXT
P36JT-BDT94-QTPHK-YVGJ8-DPY4J
V7WC3-7YXWW-RJMGC-PWWFT-QPHTG
FKKMK-8C4H8-92GTT-YP9JP-JF3VJ
PF8FX-CCYY6-4GKPP-M8HKQ-BR6FB
VM9VD-TDR9M-JMWCR-72DQK-29MBG
GTXVW-HD8DP-BJFTR-PMDHR-627TQ
HCTWB-DHDVJ-GMJP7-3T97V-72QRQ
C8BJQ-7TCYP-2FJWW-K3972-9G6VW
M4WX3-2BXY8-XKV3G-MBQC2-JTWCB
RWTCG-VGPFP-9PPWV-9WMHX-X86Y6
BY3KC-Q73P6-R8YTW-YYCMQ-GGDKY
MDP2R-QWXVM-J6RFY-QFH38-BXQ2G
KVD93-4G3WH-VR47M-YPHRM-26D3T
FV4RK-8HW7H-98F29-8BQBK-WVFVM
G2FXC-JKQ6F-7QTF3-KW2M3-WVMHW
MKVRV-793T3-3CBQK-M3WYT-QQWVY
G3B6Q-PDJCP-D638W-T9X6F-93VX3
VXWFJ-9Q2Q3-F6G7C-4FF46-2P9DM
J8PDR-Y62MC-4PDRD-JG869-47YDT
JKJTK-CCC4H-BCK37-BXTBF-6HHC3
號稱萬能XP的CD-KEY,不過適用SP2。
DG8FV-B9TKY-FRT9J-6CRCC-XPQ4G 萬能XP
Win7一下辦法激活:
Win7激活: (xyz5819原創回復,歡迎復制)
[請根據自己的具體情況予以取捨] (xyz5819原創回復,歡迎復制)
Windows 7 激活方式.驗證激活及重置次數大全
http://wenku..com/view/78439ef1f90f76c661371a9d.html
Windows 7 旗艦版密匙激活:(xyz5819原創回復,歡迎復制)
windows7輸入激活碼是在哪個地方?(xyz5819原創回復,歡迎復制)
以「管理員身份」運行「命令提示符」;
鍵入slmgr.vbs /ipk xxxxx-xxxxx-xxxxx-xxxxx-xxxxx (xyz5819原創回復,歡迎復制)
1.軟解激活,也就是密匙激活:(xyz5819原創回復,歡迎復制)
最新Win7企業、專業版的激活密鑰(32位、64位均可用)(xyz5819原創回復,歡迎復制)
適用於任何語種的32/64位Windows 7企業、專業版——(xyz5819原創回復,歡迎復制)
2VCGQ-BRVJ4-2HGJ2-K36X9-J66JG
J8BCC-HR9KY-4WWX6-BYDYC-6Y89J
在聯網情況下,只要輸入「神Key」,
就可實現對於系統的直接激活(心誠則靈)
或電話激活(不保證絕對成功)。
(xyz5819原創回復,歡迎復制)
第四枚「神Key」:87VT2-FY2XW-F7K39-W3T8R-XMFGF
第三枚「神Key」:236TW-X778T-8MV9F-937GT-QVKBB
第二枚「神Key」:KH2J9-PC326-T44D4-39H6V-TVPBY
第一枚「神Key」:TFP9Y-VCY3P-VVH3T-8XXCC-MF4YK
VQ3PY-VRX6D-CBG4J-8C6R2-TCVBD
2Y4WT-DHTBF-Q6MMK-KYK6X-VKM6G
342DG-6YJR8-X92GV-V7DCV-P4K27
MHFPT-8C8M2-V9488-FGM44-2C9T3
49PB6-6BJ6Y-KHGCQ-7DDY6-TF7CD
YJJYR-666KV-8T4YH-KM9TB-4PY2W
不要直接激活,最好在斷網狀態下選擇電話激活啊,然後打免費電話備好紙筆,記錄激活ID用),根據提示操作.
仍然無效的看下面: (xyz5819原創回復,歡迎復制)
2.採取激活工具破解激活.(xyz5819原創回復,歡迎復制)
推薦先使用工具激活,不行再用密鑰,希望對你有幫助 (xyz5819原創回復,歡迎復制)
Win7 Activation v1.7激活win7屬於軟激活,可以說是最安全的激活方式,當然如果你有正版key更好。
但是沒有正版key的話,最好還是使用軟激活,而軟激活有很多軟體可用。其實WIN7 Activation是個比較好的。
我就用的WIN7 Activation激活的win7,到現在一直都很好,而且我還到ms官網去驗證正版了。
硬刷bois據說可以永久激活,但是一個不小心將對電腦產生不可恢復的傷害。
所以,建議朋友使用WIN7 Activation的1.7版本。(xyz5819原創回復,歡迎復制)
這個版本拯救了很多人啊。(xyz5819原創回復,歡迎復制)
1)Win7 Activation1.7 (推薦,激活成功了超過90+%,一分鍾就搞定激活~) (xyz5819原創回復,歡迎復制)
(hi./xyz5819。http://ishare.iask.sina.com.cn/f/15270691.html) (xyz5819原創回復,歡迎復制)
2)Windows7_Loader_v3.27
3)SK_Patch_v1_R2_Final
4)nt6-oem-loader-v3
5)最新小馬Win7激活工具Oem7F7,sp1也能完美使用。(這個工具對很難搞定激活的三星品牌很有效)
6)網路不讓貼具體下載網址,自己網路搜一下都不難找到的,祝你好運!(xyz5819原創回復,歡迎復制)
這些都是網上最好的工具了。 (xyz5819原創回復,歡迎復制)
本人使用Win7 Activation v1.7 (xyz5819原創回復,歡迎復制)
友情提示: 現今所謂的密匙超過99%失效,採取激活工具破解激活是最省時省力的做法.
通過「軟改」或「硬刷」激活後,個別不能通過重置命令顯示更換產品密鑰選項的,
可以採用slmgr.vbs /upk命令卸載目前產品密鑰,重啟計算機後即可出現要求輸入新的密鑰聯網激活界面。
(xyz5819原創回復,歡迎復制)
slmgr.vbs命令大全 檢驗Windows7激活狀態 (xyz5819原創回復,歡迎復制)
其詳細參數如下:(xyz5819原創回復,歡迎復制)
可用選項: (xyz5819原創回復,歡迎復制)
/ipk <產品密鑰> 安裝產品密鑰(替換現有密鑰)
/upk 卸載產品密鑰
/ato 激活 Windows
/dli [激活 ID | All] 顯示許可證信息(默認: 當前許可證)
/dlv [激活 ID | All] 顯示詳細的許可證信息(默認: 當前許可證)
/xpr 當前許可證狀態的截止日期 (xyz5819原創回復,歡迎復制)
怎麼驗證 Windows 7 是否已經激活? (xyz5819原創回復,歡迎復制)
1、最簡單的是在我的電腦右鍵,查看屬性.(xyz5819原創回復,歡迎復制)
2、Win+R===>輸入 slmgr.vbs /dlv (推薦,此命令得到的信息最全)(xyz5819原創回復,歡迎復制)
3、Win+R===>輸入 slmgr.vbs /dli
4、Win+R===>輸入 slmgr.vbs /xpr
5、Win+R===>輸入 Winver (xyz5819原創回復,歡迎復制)
更多參見>http://tieba..com/club/10821253 (xyz5819原創回復,歡迎復制)
祝你好運,能順利激活~! (xyz5819原創回復,歡迎復制)
『叄』 小電腦怎麼激活
XP,直接輸入序列號激活:
XP安裝密鑰搜集
Windows xp sp3序列號(可通過微軟正版驗證)
可能很多朋友下載了XP SP3,卻通不過正版驗證,不能打補丁了.
XP sp3序列號,可通過微軟正版驗證的!
DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ
DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ
HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT
MRX3F-47B9T-2487J-KWKMF-RPWBY 企業版工行 (推薦)
QC986-27D34-6M3TY-JJXP9-TBGMD 企業版廣州
CM3HY-26VYW-6JRYC-X66GX-JVY2D 企業版
DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ 企業版
F4297-RCWJP-P482C-YY23Y-XH8W3 企業版
HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT 企業版
Windows XP專業版最新注冊碼
HTXH6-2JJC4-CDB6C-X38B4-C3GF3
RT4H2-8WYHG-QKK6K-WWHJ2-9427X
DYPVX-43TRT-YDBGB-7YQJX-CWXW7
HGM7B-YF7T7-8R7RF-Y6RPY-XTQ77
Windows XP專業版最新注冊碼
DJQJB-PC83T-FTGJC-CQTCK-RJD8D
VMMBM-8WK8W-H44YH-37B4M-KX8QR
XRCTF-Y68KJ-VVFTR-7BDFP-4PW7G
6RV7B-FYWR2-PW3C6-DDWDR-68X9C
KYMTD-BV7KP-RRM33-P3XKJ-RDKVD
X3WYK-H7CR8-KQBMV-7DP6X-W6YQQ
Windows XP專業版最新注冊碼
CQWK3-CCYJY-TQDFV-2HJDR-W3B2M
2RXYJ-VQWXM-J2V2R-CVXQT-Y6MPY
X7TVH-VJTFG-BK22B-XXG6D-27326
VYGXV-YM8VB-4RVQX-QXBMX-G3WV7
4DP2D-CXW4C-TRYDH-CW4CT-PT23X
R6M6K-HT7G7-XG4K4-66PGK-9V2RM
Windows XP專業版最新注冊碼
86VYW-4RHCG-CCC7Y-64MWM-V8B68
VPM77-Y3YJW-W4MFC-CQTCK-D2XGK
K3JD6-DK6G4-YH32B-QT7VP-R8WC7
JRMCK-J3V37-YVCYH-MDJ37-94BHP
KJ3XK-3B6KW-XK62M-VDC7W-DJ6V9
WindowsXP可以無限次激活的號碼
CXGDD-GP2B2-RKWWD-HG3HY-VDJ7J
RK7J8-2PGYQ-P47VV-V6PMB-F6XPQ
Windows XP Professional有效產品CD-KEY
CKWMY-66QR4-V96B7-DTYP3-YMM8B
TBWJH-YRX9X-4T6G6-TDC9Y-8CYMM
T99WP-KJFWH-RHJXR-CM7GW-VBQCM
VJ99K-F9T73-4FT69-M9VFV-JPQM8
PBW92-RXBQ3-GW4X8-RBVDC-Q4BRG
CC22W-H736H-9D74T-WGPCR-7JM38
XJQ7J-QMT3P-667VR-C6WWH-TP7X3
KJFDW-X3WWY-G8KGM-KJ6YF-TWHPM
MYP7X-9TKJV-7D9BR-TCTXQ-XWKXT
P36JT-BDT94-QTPHK-YVGJ8-DPY4J
V7WC3-7YXWW-RJMGC-PWWFT-QPHTG
FKKMK-8C4H8-92GTT-YP9JP-JF3VJ
PF8FX-CCYY6-4GKPP-M8HKQ-BR6FB
VM9VD-TDR9M-JMWCR-72DQK-29MBG
GTXVW-HD8DP-BJFTR-PMDHR-627TQ
HCTWB-DHDVJ-GMJP7-3T97V-72QRQ
C8BJQ-7TCYP-2FJWW-K3972-9G6VW
M4WX3-2BXY8-XKV3G-MBQC2-JTWCB
RWTCG-VGPFP-9PPWV-9WMHX-X86Y6
BY3KC-Q73P6-R8YTW-YYCMQ-GGDKY
MDP2R-QWXVM-J6RFY-QFH38-BXQ2G
KVD93-4G3WH-VR47M-YPHRM-26D3T
FV4RK-8HW7H-98F29-8BQBK-WVFVM
G2FXC-JKQ6F-7QTF3-KW2M3-WVMHW
MKVRV-793T3-3CBQK-M3WYT-QQWVY
G3B6Q-PDJCP-D638W-T9X6F-93VX3
VXWFJ-9Q2Q3-F6G7C-4FF46-2P9DM
J8PDR-Y62MC-4PDRD-JG869-47YDT
JKJTK-CCC4H-BCK37-BXTBF-6HHC3
號稱萬能XP的CD-KEY,不過適用SP2。
DG8FV-B9TKY-FRT9J-6CRCC-XPQ4G 萬能XP
Win7一下辦法激活:
Win7激活: (xyz5819原創回復,歡迎復制)
[請根據自己的具體情況予以取捨] (xyz5819原創回復,歡迎復制)
Windows 7 激活方式.驗證激活及重置次數大全
http://wenku..com/view/78439ef1f90f76c661371a9d.html
Windows 7 旗艦版密匙激活:(xyz5819原創回復,歡迎復制)
windows7輸入激活碼是在哪個地方?(xyz5819原創回復,歡迎復制)
以「管理員身份」運行「命令提示符」;
鍵入slmgr.vbs /ipk xxxxx-xxxxx-xxxxx-xxxxx-xxxxx (xyz5819原創回復,歡迎復制)
1.軟解激活,也就是密匙激活:(xyz5819原創回復,歡迎復制)
最新Win7企業、專業版的激活密鑰(32位、64位均可用)(xyz5819原創回復,歡迎復制)
適用於任何語種的32/64位Windows 7企業、專業版——(xyz5819原創回復,歡迎復制)
2VCGQ-BRVJ4-2HGJ2-K36X9-J66JG
J8BCC-HR9KY-4WWX6-BYDYC-6Y89J
在聯網情況下,只要輸入「神Key」,
就可實現對於系統的直接激活(心誠則靈)
或電話激活(不保證絕對成功)。
(xyz5819原創回復,歡迎復制)
第四枚「神Key」:87VT2-FY2XW-F7K39-W3T8R-XMFGF
第三枚「神Key」:236TW-X778T-8MV9F-937GT-QVKBB
第二枚「神Key」:KH2J9-PC326-T44D4-39H6V-TVPBY
第一枚「神Key」:TFP9Y-VCY3P-VVH3T-8XXCC-MF4YK
VQ3PY-VRX6D-CBG4J-8C6R2-TCVBD
2Y4WT-DHTBF-Q6MMK-KYK6X-VKM6G
342DG-6YJR8-X92GV-V7DCV-P4K27
MHFPT-8C8M2-V9488-FGM44-2C9T3
49PB6-6BJ6Y-KHGCQ-7DDY6-TF7CD
YJJYR-666KV-8T4YH-KM9TB-4PY2W
不要直接激活,最好在斷網狀態下選擇電話激活啊,然後打免費電話備好紙筆,記錄激活ID用),根據提示操作.
仍然無效的看下面: (xyz5819原創回復,歡迎復制)
2.採取激活工具破解激活.(xyz5819原創回復,歡迎復制)
推薦先使用工具激活,不行再用密鑰,希望對你有幫助 (xyz5819原創回復,歡迎復制)
Win7 Activation v1.7激活win7屬於軟激活,可以說是最安全的激活方式,當然如果你有正版key更好。
但是沒有正版key的話,最好還是使用軟激活,而軟激活有很多軟體可用。其實WIN7 Activation是個比較好的。
我就用的WIN7 Activation激活的win7,到現在一直都很好,而且我還到ms官網去驗證正版了。
硬刷bois據說可以永久激活,但是一個不小心將對電腦產生不可恢復的傷害。
所以,建議朋友使用WIN7 Activation的1.7版本。(xyz5819原創回復,歡迎復制)
這個版本拯救了很多人啊。(xyz5819原創回復,歡迎復制)
1)Win7 Activation1.7 (推薦,激活成功了超過90+%,一分鍾就搞定激活~) (xyz5819原創回復,歡迎復制)
(hi./xyz5819。http://ishare.iask.sina.com.cn/f/15270691.html) (xyz5819原創回復,歡迎復制)
2)Windows7_Loader_v3.27
3)SK_Patch_v1_R2_Final
4)nt6-oem-loader-v3
5)最新小馬Win7激活工具Oem7F7,sp1也能完美使用。(這個工具對很難搞定激活的三星品牌很有效)
6)網路不讓貼具體下載網址,自己網路搜一下都不難找到的,祝你好運!(xyz5819原創回復,歡迎復制)
這些都是網上最好的工具了。 (xyz5819原創回復,歡迎復制)
本人使用Win7 Activation v1.7 (xyz5819原創回復,歡迎復制)
友情提示: 現今所謂的密匙超過99%失效,採取激活工具破解激活是最省時省力的做法.
通過「軟改」或「硬刷」激活後,個別不能通過重置命令顯示更換產品密鑰選項的,
可以採用slmgr.vbs /upk命令卸載目前產品密鑰,重啟計算機後即可出現要求輸入新的密鑰聯網激活界面。
(xyz5819原創回復,歡迎復制)
slmgr.vbs命令大全 檢驗Windows7激活狀態 (xyz5819原創回復,歡迎復制)
其詳細參數如下:(xyz5819原創回復,歡迎復制)
可用選項: (xyz5819原創回復,歡迎復制)
/ipk <產品密鑰> 安裝產品密鑰(替換現有密鑰)
/upk 卸載產品密鑰
/ato 激活 Windows
/dli [激活 ID | All] 顯示許可證信息(默認: 當前許可證)
/dlv [激活 ID | All] 顯示詳細的許可證信息(默認: 當前許可證)
/xpr 當前許可證狀態的截止日期 (xyz5819原創回復,歡迎復制)
怎麼驗證 Windows 7 是否已經激活? (xyz5819原創回復,歡迎復制)
1、最簡單的是在我的電腦右鍵,查看屬性.(xyz5819原創回復,歡迎復制)
2、Win+R===>輸入 slmgr.vbs /dlv (推薦,此命令得到的信息最全)(xyz5819原創回復,歡迎復制)
3、Win+R===>輸入 slmgr.vbs /dli
4、Win+R===>輸入 slmgr.vbs /xpr
5、Win+R===>輸入 Winver
『肆』 如何在ipython或python中使用Spark
在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/Spark/bin/pyspark默認打開的是Python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
啟動ipython
ipython –profile spark
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 逗Result: 地, nums.filter(isprime).count()
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py
此時,已經能夠運行了。
『伍』 最新的spark支持python的什麼版本
兩種方法:
使用 spark-submit 解釋執行python腳本
使用 python 解釋執行python腳本
1. 使用Spark-submit解釋執行python腳本
python腳本中需要在開頭導入spark相關模塊,調用時使用spark-submit提交,示例代碼如下:
===========================================================
"""odflow.py"""
from pyspark import SparkContext
fileDir = "/TripChain3_Demo.txt"
# sc = SparkContext("local", "ODFlow")
sc = SparkContext("spark://ITS-Hadoop10:7077", "ODFlow")
lines = sc.textFile(fileDir)
# python不能直接寫多行的lambda表達式,所以要封裝在函數中
def toKV(line):
arr = line.split(",")
t = arr[5].split(" ")[1].split(":")
return (t[0]+t[1]+","+arr[11]+","+arr[18],1)
r1 = lines.map( lambda line : toKV(line) ).receByKey(lambda a,b: a+b)
# 排序並且存入一個(repartition)文件中
r1.sortByKey(False).saveAsTextFile("/pythontest/output")
===========================================================
發布命令為:
spark-submit \
--master spark://ITS-Hadoop10:7077 \
odflow.py
2. 使用 python 解釋執行python腳本
直接用python執行會出現錯誤:
ImportError: No mole named pyspark
ImportError: No mole named py4j.java_gateway
缺少pyspark和py4j這兩個模塊,這兩個包在Spark的安裝目錄里,需要在環境變數里定義PYTHONPATH,編輯~/.bashrc或者/etc/profile文件均可
vi ~/.bashrc # 或者 sudo vi /etc/profile
# 添加下面這一行
export PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.8.2.1-src.zip:$PYTHONPATH
# 使其生效
source ~/.bashrc # 或者 sudo source /etc/profile
然後關閉終端,重新打開,用python執行即可
python odflow.py
『陸』 如何在ipython或python中使用Spark
如何在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/spark/bin/pyspark默認打開的是python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
1
2
3
4
5
6
7
8
9
10
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
1
2
3
4
5
6
7
8
9
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
啟動ipython
ipython –profile spark
1
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 「Result: 」, nums.filter(isprime).count()
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
1
2
3
4
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py
1
2
3
4
5
6
7
8
此時,已經能夠運行了。
『柒』 如何在ipython或python中使用Spark
在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/Spark/bin/pyspark默認打開的是Python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
啟動ipython
ipython –profile spark
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 逗Result: 地, nums.filter(isprime).count()
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py