導航:首頁 > 程序命令 > py4j下載命令

py4j下載命令

發布時間:2022-05-07 21:34:06

『壹』 如何在ipython或python中使用Spark

在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/Spark/bin/pyspark默認打開的是Python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
啟動ipython
ipython –profile spark
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 「Result: 」, nums.filter(isprime).count()
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py
此時,已經能夠運行了。

『貳』 怎樣激活電腦

XP,直接輸入序列號激活:

XP安裝密鑰搜集

Windows xp sp3序列號(可通過微軟正版驗證)

可能很多朋友下載了XP SP3,卻通不過正版驗證,不能打補丁了.

XP sp3序列號,可通過微軟正版驗證的!

DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ

DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ

HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT

MRX3F-47B9T-2487J-KWKMF-RPWBY 企業版工行 (推薦)

QC986-27D34-6M3TY-JJXP9-TBGMD 企業版廣州

CM3HY-26VYW-6JRYC-X66GX-JVY2D 企業版

DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ 企業版

F4297-RCWJP-P482C-YY23Y-XH8W3 企業版

HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT 企業版

Windows XP專業版最新注冊碼
HTXH6-2JJC4-CDB6C-X38B4-C3GF3
RT4H2-8WYHG-QKK6K-WWHJ2-9427X
DYPVX-43TRT-YDBGB-7YQJX-CWXW7
HGM7B-YF7T7-8R7RF-Y6RPY-XTQ77

Windows XP專業版最新注冊碼
DJQJB-PC83T-FTGJC-CQTCK-RJD8D
VMMBM-8WK8W-H44YH-37B4M-KX8QR
XRCTF-Y68KJ-VVFTR-7BDFP-4PW7G
6RV7B-FYWR2-PW3C6-DDWDR-68X9C
KYMTD-BV7KP-RRM33-P3XKJ-RDKVD
X3WYK-H7CR8-KQBMV-7DP6X-W6YQQ

Windows XP專業版最新注冊碼
CQWK3-CCYJY-TQDFV-2HJDR-W3B2M
2RXYJ-VQWXM-J2V2R-CVXQT-Y6MPY
X7TVH-VJTFG-BK22B-XXG6D-27326
VYGXV-YM8VB-4RVQX-QXBMX-G3WV7
4DP2D-CXW4C-TRYDH-CW4CT-PT23X
R6M6K-HT7G7-XG4K4-66PGK-9V2RM

Windows XP專業版最新注冊碼
86VYW-4RHCG-CCC7Y-64MWM-V8B68
VPM77-Y3YJW-W4MFC-CQTCK-D2XGK
K3JD6-DK6G4-YH32B-QT7VP-R8WC7
JRMCK-J3V37-YVCYH-MDJ37-94BHP
KJ3XK-3B6KW-XK62M-VDC7W-DJ6V9

WindowsXP可以無限次激活的號碼

CXGDD-GP2B2-RKWWD-HG3HY-VDJ7J

RK7J8-2PGYQ-P47VV-V6PMB-F6XPQ

Windows XP Professional有效產品CD-KEY

CKWMY-66QR4-V96B7-DTYP3-YMM8B
TBWJH-YRX9X-4T6G6-TDC9Y-8CYMM
T99WP-KJFWH-RHJXR-CM7GW-VBQCM
VJ99K-F9T73-4FT69-M9VFV-JPQM8
PBW92-RXBQ3-GW4X8-RBVDC-Q4BRG
CC22W-H736H-9D74T-WGPCR-7JM38
XJQ7J-QMT3P-667VR-C6WWH-TP7X3
KJFDW-X3WWY-G8KGM-KJ6YF-TWHPM
MYP7X-9TKJV-7D9BR-TCTXQ-XWKXT
P36JT-BDT94-QTPHK-YVGJ8-DPY4J
V7WC3-7YXWW-RJMGC-PWWFT-QPHTG
FKKMK-8C4H8-92GTT-YP9JP-JF3VJ
PF8FX-CCYY6-4GKPP-M8HKQ-BR6FB
VM9VD-TDR9M-JMWCR-72DQK-29MBG
GTXVW-HD8DP-BJFTR-PMDHR-627TQ
HCTWB-DHDVJ-GMJP7-3T97V-72QRQ
C8BJQ-7TCYP-2FJWW-K3972-9G6VW
M4WX3-2BXY8-XKV3G-MBQC2-JTWCB
RWTCG-VGPFP-9PPWV-9WMHX-X86Y6
BY3KC-Q73P6-R8YTW-YYCMQ-GGDKY
MDP2R-QWXVM-J6RFY-QFH38-BXQ2G
KVD93-4G3WH-VR47M-YPHRM-26D3T
FV4RK-8HW7H-98F29-8BQBK-WVFVM
G2FXC-JKQ6F-7QTF3-KW2M3-WVMHW
MKVRV-793T3-3CBQK-M3WYT-QQWVY
G3B6Q-PDJCP-D638W-T9X6F-93VX3
VXWFJ-9Q2Q3-F6G7C-4FF46-2P9DM
J8PDR-Y62MC-4PDRD-JG869-47YDT
JKJTK-CCC4H-BCK37-BXTBF-6HHC3

號稱萬能XP的CD-KEY,不過適用SP2。

DG8FV-B9TKY-FRT9J-6CRCC-XPQ4G 萬能XP

Win7一下辦法激活:

Win7激活: (xyz5819原創回復,歡迎復制)

[請根據自己的具體情況予以取捨] (xyz5819原創回復,歡迎復制)

Windows 7 激活方式.驗證激活及重置次數大全

http://wenku..com/view/78439ef1f90f76c661371a9d.html

Windows 7 旗艦版密匙激活:(xyz5819原創回復,歡迎復制)

windows7輸入激活碼是在哪個地方?(xyz5819原創回復,歡迎復制)

以「管理員身份」運行「命令提示符」;

鍵入slmgr.vbs /ipk xxxxx-xxxxx-xxxxx-xxxxx-xxxxx (xyz5819原創回復,歡迎復制)

1.軟解激活,也就是密匙激活:(xyz5819原創回復,歡迎復制)

最新Win7企業、專業版的激活密鑰(32位、64位均可用)(xyz5819原創回復,歡迎復制)

適用於任何語種的32/64位Windows 7企業、專業版——(xyz5819原創回復,歡迎復制)

2VCGQ-BRVJ4-2HGJ2-K36X9-J66JG

J8BCC-HR9KY-4WWX6-BYDYC-6Y89J

在聯網情況下,只要輸入「神Key」,
就可實現對於系統的直接激活(心誠則靈)
或電話激活(不保證絕對成功)。
(xyz5819原創回復,歡迎復制)

第四枚「神Key」:87VT2-FY2XW-F7K39-W3T8R-XMFGF
第三枚「神Key」:236TW-X778T-8MV9F-937GT-QVKBB
第二枚「神Key」:KH2J9-PC326-T44D4-39H6V-TVPBY
第一枚「神Key」:TFP9Y-VCY3P-VVH3T-8XXCC-MF4YK

VQ3PY-VRX6D-CBG4J-8C6R2-TCVBD

2Y4WT-DHTBF-Q6MMK-KYK6X-VKM6G

342DG-6YJR8-X92GV-V7DCV-P4K27

MHFPT-8C8M2-V9488-FGM44-2C9T3

49PB6-6BJ6Y-KHGCQ-7DDY6-TF7CD

YJJYR-666KV-8T4YH-KM9TB-4PY2W

不要直接激活,最好在斷網狀態下選擇電話激活啊,然後打免費電話備好紙筆,記錄激活ID用),根據提示操作.

仍然無效的看下面: (xyz5819原創回復,歡迎復制)

2.採取激活工具破解激活.(xyz5819原創回復,歡迎復制)

推薦先使用工具激活,不行再用密鑰,希望對你有幫助 (xyz5819原創回復,歡迎復制)

Win7 Activation v1.7激活win7屬於軟激活,可以說是最安全的激活方式,當然如果你有正版key更好。
但是沒有正版key的話,最好還是使用軟激活,而軟激活有很多軟體可用。其實WIN7 Activation是個比較好的。
我就用的WIN7 Activation激活的win7,到現在一直都很好,而且我還到ms官網去驗證正版了。
硬刷bois據說可以永久激活,但是一個不小心將對電腦產生不可恢復的傷害。
所以,建議朋友使用WIN7 Activation的1.7版本。(xyz5819原創回復,歡迎復制)
這個版本拯救了很多人啊。(xyz5819原創回復,歡迎復制)

1)Win7 Activation1.7 (推薦,激活成功了超過90+%,一分鍾就搞定激活~) (xyz5819原創回復,歡迎復制)
(hi./xyz5819。http://ishare.iask.sina.com.cn/f/15270691.html) (xyz5819原創回復,歡迎復制)

2)Windows7_Loader_v3.27

3)SK_Patch_v1_R2_Final

4)nt6-oem-loader-v3

5)最新小馬Win7激活工具Oem7F7,sp1也能完美使用。(這個工具對很難搞定激活的三星品牌很有效)

6)網路不讓貼具體下載網址,自己網路搜一下都不難找到的,祝你好運!(xyz5819原創回復,歡迎復制)

這些都是網上最好的工具了。 (xyz5819原創回復,歡迎復制)

本人使用Win7 Activation v1.7 (xyz5819原創回復,歡迎復制)

友情提示: 現今所謂的密匙超過99%失效,採取激活工具破解激活是最省時省力的做法.

通過「軟改」或「硬刷」激活後,個別不能通過重置命令顯示更換產品密鑰選項的,
可以採用slmgr.vbs /upk命令卸載目前產品密鑰,重啟計算機後即可出現要求輸入新的密鑰聯網激活界面。

(xyz5819原創回復,歡迎復制)

slmgr.vbs命令大全 檢驗Windows7激活狀態 (xyz5819原創回復,歡迎復制)

其詳細參數如下:(xyz5819原創回復,歡迎復制)

可用選項: (xyz5819原創回復,歡迎復制)

/ipk <產品密鑰> 安裝產品密鑰(替換現有密鑰)

/upk 卸載產品密鑰

/ato 激活 Windows

/dli [激活 ID | All] 顯示許可證信息(默認: 當前許可證)

/dlv [激活 ID | All] 顯示詳細的許可證信息(默認: 當前許可證)

/xpr 當前許可證狀態的截止日期 (xyz5819原創回復,歡迎復制)

怎麼驗證 Windows 7 是否已經激活? (xyz5819原創回復,歡迎復制)

1、最簡單的是在我的電腦右鍵,查看屬性.(xyz5819原創回復,歡迎復制)
2、Win+R===>輸入 slmgr.vbs /dlv (推薦,此命令得到的信息最全)(xyz5819原創回復,歡迎復制)
3、Win+R===>輸入 slmgr.vbs /dli
4、Win+R===>輸入 slmgr.vbs /xpr
5、Win+R===>輸入 Winver (xyz5819原創回復,歡迎復制)

更多參見>http://tieba..com/club/10821253 (xyz5819原創回復,歡迎復制)

祝你好運,能順利激活~! (xyz5819原創回復,歡迎復制)

『叄』 小電腦怎麼激活

XP,直接輸入序列號激活:

XP安裝密鑰搜集

Windows xp sp3序列號(可通過微軟正版驗證)

可能很多朋友下載了XP SP3,卻通不過正版驗證,不能打補丁了.

XP sp3序列號,可通過微軟正版驗證的!

DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ

DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ

HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT

MRX3F-47B9T-2487J-KWKMF-RPWBY 企業版工行 (推薦)

QC986-27D34-6M3TY-JJXP9-TBGMD 企業版廣州

CM3HY-26VYW-6JRYC-X66GX-JVY2D 企業版

DP7CM-PD6MC-6BKXT-M8JJ6-RPXGJ 企業版

F4297-RCWJP-P482C-YY23Y-XH8W3 企業版

HCQ9D-TVCWX-X9QRG-J4B2Y-GR2TT 企業版

Windows XP專業版最新注冊碼
HTXH6-2JJC4-CDB6C-X38B4-C3GF3
RT4H2-8WYHG-QKK6K-WWHJ2-9427X
DYPVX-43TRT-YDBGB-7YQJX-CWXW7
HGM7B-YF7T7-8R7RF-Y6RPY-XTQ77

Windows XP專業版最新注冊碼
DJQJB-PC83T-FTGJC-CQTCK-RJD8D
VMMBM-8WK8W-H44YH-37B4M-KX8QR
XRCTF-Y68KJ-VVFTR-7BDFP-4PW7G
6RV7B-FYWR2-PW3C6-DDWDR-68X9C
KYMTD-BV7KP-RRM33-P3XKJ-RDKVD
X3WYK-H7CR8-KQBMV-7DP6X-W6YQQ

Windows XP專業版最新注冊碼
CQWK3-CCYJY-TQDFV-2HJDR-W3B2M
2RXYJ-VQWXM-J2V2R-CVXQT-Y6MPY
X7TVH-VJTFG-BK22B-XXG6D-27326
VYGXV-YM8VB-4RVQX-QXBMX-G3WV7
4DP2D-CXW4C-TRYDH-CW4CT-PT23X
R6M6K-HT7G7-XG4K4-66PGK-9V2RM

Windows XP專業版最新注冊碼
86VYW-4RHCG-CCC7Y-64MWM-V8B68
VPM77-Y3YJW-W4MFC-CQTCK-D2XGK
K3JD6-DK6G4-YH32B-QT7VP-R8WC7
JRMCK-J3V37-YVCYH-MDJ37-94BHP
KJ3XK-3B6KW-XK62M-VDC7W-DJ6V9

WindowsXP可以無限次激活的號碼

CXGDD-GP2B2-RKWWD-HG3HY-VDJ7J

RK7J8-2PGYQ-P47VV-V6PMB-F6XPQ

Windows XP Professional有效產品CD-KEY

CKWMY-66QR4-V96B7-DTYP3-YMM8B
TBWJH-YRX9X-4T6G6-TDC9Y-8CYMM
T99WP-KJFWH-RHJXR-CM7GW-VBQCM
VJ99K-F9T73-4FT69-M9VFV-JPQM8
PBW92-RXBQ3-GW4X8-RBVDC-Q4BRG
CC22W-H736H-9D74T-WGPCR-7JM38
XJQ7J-QMT3P-667VR-C6WWH-TP7X3
KJFDW-X3WWY-G8KGM-KJ6YF-TWHPM
MYP7X-9TKJV-7D9BR-TCTXQ-XWKXT
P36JT-BDT94-QTPHK-YVGJ8-DPY4J
V7WC3-7YXWW-RJMGC-PWWFT-QPHTG
FKKMK-8C4H8-92GTT-YP9JP-JF3VJ
PF8FX-CCYY6-4GKPP-M8HKQ-BR6FB
VM9VD-TDR9M-JMWCR-72DQK-29MBG
GTXVW-HD8DP-BJFTR-PMDHR-627TQ
HCTWB-DHDVJ-GMJP7-3T97V-72QRQ
C8BJQ-7TCYP-2FJWW-K3972-9G6VW
M4WX3-2BXY8-XKV3G-MBQC2-JTWCB
RWTCG-VGPFP-9PPWV-9WMHX-X86Y6
BY3KC-Q73P6-R8YTW-YYCMQ-GGDKY
MDP2R-QWXVM-J6RFY-QFH38-BXQ2G
KVD93-4G3WH-VR47M-YPHRM-26D3T
FV4RK-8HW7H-98F29-8BQBK-WVFVM
G2FXC-JKQ6F-7QTF3-KW2M3-WVMHW
MKVRV-793T3-3CBQK-M3WYT-QQWVY
G3B6Q-PDJCP-D638W-T9X6F-93VX3
VXWFJ-9Q2Q3-F6G7C-4FF46-2P9DM
J8PDR-Y62MC-4PDRD-JG869-47YDT
JKJTK-CCC4H-BCK37-BXTBF-6HHC3

號稱萬能XP的CD-KEY,不過適用SP2。

DG8FV-B9TKY-FRT9J-6CRCC-XPQ4G 萬能XP

Win7一下辦法激活:

Win7激活: (xyz5819原創回復,歡迎復制)

[請根據自己的具體情況予以取捨] (xyz5819原創回復,歡迎復制)

Windows 7 激活方式.驗證激活及重置次數大全

http://wenku..com/view/78439ef1f90f76c661371a9d.html

Windows 7 旗艦版密匙激活:(xyz5819原創回復,歡迎復制)

windows7輸入激活碼是在哪個地方?(xyz5819原創回復,歡迎復制)

以「管理員身份」運行「命令提示符」;

鍵入slmgr.vbs /ipk xxxxx-xxxxx-xxxxx-xxxxx-xxxxx (xyz5819原創回復,歡迎復制)

1.軟解激活,也就是密匙激活:(xyz5819原創回復,歡迎復制)

最新Win7企業、專業版的激活密鑰(32位、64位均可用)(xyz5819原創回復,歡迎復制)

適用於任何語種的32/64位Windows 7企業、專業版——(xyz5819原創回復,歡迎復制)

2VCGQ-BRVJ4-2HGJ2-K36X9-J66JG

J8BCC-HR9KY-4WWX6-BYDYC-6Y89J

在聯網情況下,只要輸入「神Key」,
就可實現對於系統的直接激活(心誠則靈)
或電話激活(不保證絕對成功)。
(xyz5819原創回復,歡迎復制)

第四枚「神Key」:87VT2-FY2XW-F7K39-W3T8R-XMFGF
第三枚「神Key」:236TW-X778T-8MV9F-937GT-QVKBB
第二枚「神Key」:KH2J9-PC326-T44D4-39H6V-TVPBY
第一枚「神Key」:TFP9Y-VCY3P-VVH3T-8XXCC-MF4YK

VQ3PY-VRX6D-CBG4J-8C6R2-TCVBD

2Y4WT-DHTBF-Q6MMK-KYK6X-VKM6G

342DG-6YJR8-X92GV-V7DCV-P4K27

MHFPT-8C8M2-V9488-FGM44-2C9T3

49PB6-6BJ6Y-KHGCQ-7DDY6-TF7CD

YJJYR-666KV-8T4YH-KM9TB-4PY2W

不要直接激活,最好在斷網狀態下選擇電話激活啊,然後打免費電話備好紙筆,記錄激活ID用),根據提示操作.

仍然無效的看下面: (xyz5819原創回復,歡迎復制)

2.採取激活工具破解激活.(xyz5819原創回復,歡迎復制)

推薦先使用工具激活,不行再用密鑰,希望對你有幫助 (xyz5819原創回復,歡迎復制)

Win7 Activation v1.7激活win7屬於軟激活,可以說是最安全的激活方式,當然如果你有正版key更好。
但是沒有正版key的話,最好還是使用軟激活,而軟激活有很多軟體可用。其實WIN7 Activation是個比較好的。
我就用的WIN7 Activation激活的win7,到現在一直都很好,而且我還到ms官網去驗證正版了。
硬刷bois據說可以永久激活,但是一個不小心將對電腦產生不可恢復的傷害。
所以,建議朋友使用WIN7 Activation的1.7版本。(xyz5819原創回復,歡迎復制)
這個版本拯救了很多人啊。(xyz5819原創回復,歡迎復制)

1)Win7 Activation1.7 (推薦,激活成功了超過90+%,一分鍾就搞定激活~) (xyz5819原創回復,歡迎復制)
(hi./xyz5819。http://ishare.iask.sina.com.cn/f/15270691.html) (xyz5819原創回復,歡迎復制)

2)Windows7_Loader_v3.27

3)SK_Patch_v1_R2_Final

4)nt6-oem-loader-v3

5)最新小馬Win7激活工具Oem7F7,sp1也能完美使用。(這個工具對很難搞定激活的三星品牌很有效)

6)網路不讓貼具體下載網址,自己網路搜一下都不難找到的,祝你好運!(xyz5819原創回復,歡迎復制)

這些都是網上最好的工具了。 (xyz5819原創回復,歡迎復制)

本人使用Win7 Activation v1.7 (xyz5819原創回復,歡迎復制)

友情提示: 現今所謂的密匙超過99%失效,採取激活工具破解激活是最省時省力的做法.

通過「軟改」或「硬刷」激活後,個別不能通過重置命令顯示更換產品密鑰選項的,
可以採用slmgr.vbs /upk命令卸載目前產品密鑰,重啟計算機後即可出現要求輸入新的密鑰聯網激活界面。

(xyz5819原創回復,歡迎復制)

slmgr.vbs命令大全 檢驗Windows7激活狀態 (xyz5819原創回復,歡迎復制)

其詳細參數如下:(xyz5819原創回復,歡迎復制)

可用選項: (xyz5819原創回復,歡迎復制)

/ipk <產品密鑰> 安裝產品密鑰(替換現有密鑰)

/upk 卸載產品密鑰

/ato 激活 Windows

/dli [激活 ID | All] 顯示許可證信息(默認: 當前許可證)

/dlv [激活 ID | All] 顯示詳細的許可證信息(默認: 當前許可證)

/xpr 當前許可證狀態的截止日期 (xyz5819原創回復,歡迎復制)

怎麼驗證 Windows 7 是否已經激活? (xyz5819原創回復,歡迎復制)

1、最簡單的是在我的電腦右鍵,查看屬性.(xyz5819原創回復,歡迎復制)
2、Win+R===>輸入 slmgr.vbs /dlv (推薦,此命令得到的信息最全)(xyz5819原創回復,歡迎復制)
3、Win+R===>輸入 slmgr.vbs /dli
4、Win+R===>輸入 slmgr.vbs /xpr
5、Win+R===>輸入 Winver

『肆』 如何在ipython或python中使用Spark

在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/Spark/bin/pyspark默認打開的是Python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
啟動ipython
ipython –profile spark
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 逗Result: 地, nums.filter(isprime).count()
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py
此時,已經能夠運行了。

『伍』 最新的spark支持python的什麼版本

兩種方法:
使用 spark-submit 解釋執行python腳本
使用 python 解釋執行python腳本
1. 使用Spark-submit解釋執行python腳本
python腳本中需要在開頭導入spark相關模塊,調用時使用spark-submit提交,示例代碼如下:
===========================================================
"""odflow.py"""
from pyspark import SparkContext
fileDir = "/TripChain3_Demo.txt"
# sc = SparkContext("local", "ODFlow")
sc = SparkContext("spark://ITS-Hadoop10:7077", "ODFlow")
lines = sc.textFile(fileDir)
# python不能直接寫多行的lambda表達式,所以要封裝在函數中
def toKV(line):
arr = line.split(",")
t = arr[5].split(" ")[1].split(":")
return (t[0]+t[1]+","+arr[11]+","+arr[18],1)
r1 = lines.map( lambda line : toKV(line) ).receByKey(lambda a,b: a+b)
# 排序並且存入一個(repartition)文件中
r1.sortByKey(False).saveAsTextFile("/pythontest/output")
===========================================================
發布命令為:
spark-submit \
--master spark://ITS-Hadoop10:7077 \
odflow.py
2. 使用 python 解釋執行python腳本
直接用python執行會出現錯誤:
ImportError: No mole named pyspark
ImportError: No mole named py4j.java_gateway
缺少pyspark和py4j這兩個模塊,這兩個包在Spark的安裝目錄里,需要在環境變數里定義PYTHONPATH,編輯~/.bashrc或者/etc/profile文件均可
vi ~/.bashrc # 或者 sudo vi /etc/profile
# 添加下面這一行
export PYTHONPATH=$SPARK_HOME/python/:$SPARK_HOME/python/lib/py4j-0.8.2.1-src.zip:$PYTHONPATH
# 使其生效
source ~/.bashrc # 或者 sudo source /etc/profile
然後關閉終端,重新打開,用python執行即可
python odflow.py

『陸』 如何在ipython或python中使用Spark

如何在ipython中使用spark
說明:

spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/spark/bin/pyspark默認打開的是python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark

# 在最前面添加

IPYTHON=1

# 啟動

ipyspark

1
2
3
4
5
6
7
8
9
10
方法二:
通過為spark創建一個ipython 配置的方式實現。

# 為spark創建一個ipython 配置

ipython profile create spark

# 創建啟動配置文件

cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py

1
2
3
4
5
6
7
8
9
在00-pyspark-setup.py中添加如下內容:
import os
import sys

# Configure the environment

if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'

# Create a variable for our root path

SPARK_HOME = os.environ['SPARK_HOME']

# Add the PySpark/py4j to the Python Path

sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
啟動ipython
ipython –profile spark

1
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')

def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True

# Create an RDD of numbers from 0 to 1,000,000

nums = sc.parallelize(xrange(1000000))

# Compute the number of primes in the RDD

print 「Result: 」, nums.filter(isprime).count()

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:

# python can call pyspark directly

export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH

1
2
3
4
執行如下命令:

# 使配置生效

source ~/.bashrc

# 測試程序

python test.py

1
2
3
4
5
6
7
8
此時,已經能夠運行了。

『柒』 如何在ipython或python中使用Spark

在ipython中使用spark
說明:
spark 1.6.0
scala 2.10.5
spark安裝路徑是/usr/local/spark;已經在.bashrc中配置了SPARK_HOME環境變數。
方法一
/usr/local/Spark/bin/pyspark默認打開的是Python,而不是ipython。通過在pyspark文件中添加一行,來使用ipython打開。
cp pyspark ipyspark
vi ipyspark
# 在最前面添加
IPYTHON=1
# 啟動
ipyspark
方法二:
通過為spark創建一個ipython 配置的方式實現。
# 為spark創建一個ipython 配置
ipython profile create spark
# 創建啟動配置文件
cd ~/.config/ipython/profile_spark/startup
vi 00-pyspark-setup.py
在00-pyspark-setup.py中添加如下內容:
import os
import sys
# Configure the environment
if 'SPARK_HOME' not in os.environ:
os.environ['SPARK_HOME'] = '/srv/spark'
# Create a variable for our root path
SPARK_HOME = os.environ['SPARK_HOME']
# Add the PySpark/py4j to the Python Path
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "pyspark"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python", "lib", "py4j-0.9-src.zip"))
sys.path.insert(0, os.path.join(SPARK_HOME, "python"))
啟動ipython
ipython –profile spark
測試程序
在ipython中輸入一下命令,如果下面的程序執行完後輸出一個數字,說明正確。
from pyspark import SparkContext
sc = SparkContext( 'local', 'pyspark')
def isprime(n):
"""
check if integer n is a prime
"""
# make sure n is a positive integer
n = abs(int(n))
# 0 and 1 are not primes
if n < 2:
return False
# 2 is the only even prime number
if n == 2:
return True
# all other even numbers are not primes
if not n & 1:
return False
# for all odd numbers
for x in range(3, int(n**0.5)+1, 2):
if n % x == 0:
return False
return True
# Create an RDD of numbers from 0 to 1,000,000
nums = sc.parallelize(xrange(1000000))
# Compute the number of primes in the RDD
print 逗Result: 地, nums.filter(isprime).count()
方法三
將上面的程序放入test.py文件,執行命令python test.py。發現錯誤。因為沒有將pyspark路徑加入PYTHONPATH環境變數。
在~/.bashrc或/etc/profile中添加如下內容:
# python can call pyspark directly
export PYTHONPATH=$SPARK_HOME/python:$SPARK_HOME/python/pyspark:$SPARK_HOME/python/lib/py4j-0.9-src.zip:$PYTHONPATH
執行如下命令:
# 使配置生效
source ~/.bashrc
# 測試程序
python test.py

閱讀全文

與py4j下載命令相關的資料

熱點內容
微信解壓游戲怎麼下載 瀏覽:961
忍三伺服器不同如何登上賬號 瀏覽:821
php求積 瀏覽:294
封面命令 瀏覽:879
手機復制文件夾到另一個文件夾 瀏覽:992
手游為什麼不能統一下伺服器 瀏覽:246
iphone上pdf 瀏覽:884
window定時python腳本 瀏覽:64
怎麼運行cmd命令行 瀏覽:366
php中類的繼承 瀏覽:228
openvpnlinux安裝配置 瀏覽:463
PHP7從入門到精通 瀏覽:27
單片機生日 瀏覽:500
linux當前進程號 瀏覽:728
老死pdf 瀏覽:25
雲伺服器關機網址不見了 瀏覽:69
余冠英pdf 瀏覽:756
開發一個app上市需要什麼步驟 瀏覽:28
phpsleep方法 瀏覽:430
時間同步伺服器ip地址6 瀏覽:926