導航:首頁 > 程序命令 > hadoop命令行

hadoop命令行

發布時間:2025-02-27 11:50:12

1. hadoop如何執行命令

hadoop 執行命令有兩種方法:1. 使用 hdfs 命令行(如 hdfs dfs ls)執行文件系統操作;2. 使用 hadoop 流處理框架(maprece)執行並行計算,包括編寫 maprece 作業並使用 hadoop jar 命令執行。
Hadoop 如何執行命令
在 Hadoop 集群中執行命令有兩種主要方法:
1. Hadoop 文件系統 (HDFS) 命令行
Hadoop 提供了一個命令行界面 (CLI),稱為 HDFS 命令行,用於與 HDFS 進行交互並執行命令。要使用 HDFS 命令行,請打開終端或命令提示符,然後輸入以下命令:
hdfs dfs
常見的 HDFS 命令包括:
ls:列出目錄中的文件和目錄mkdir:創建目錄put:將文件從本地系統復制到 HDFSget:將文件從 HDFS 復制到本地系統rm:刪除文件或目錄
2. Hadoop 流處理框架(MapRece)
Hadoop 流處理框架 MapRece 提供了一個 API,用於在分布式環境中執行並行計算。MapRece 允許您將復雜任務分解為較小的子任務,這些子任務可以並行執行。要使用 MapRece 執行命令,請編寫一個 MapRece 作業,然後使用 Hadoop Streaming 命令執行作業。
hadoop jar /path/to/streaming.jar \ -mapper mapper.py \ -recer recer.py \ -input /input/path \ -output /output/path
其中:
mapper.py:定義映射階段的 Python 腳本recer.py:定義歸約階段的 Python 腳本/input/path:輸入數據的路徑/output/path:輸出數據的路徑

2. hadoop常用shell命令怎麼用

一、常用的hadoop命令
1、hadoop的fs命令
#查看hadoop所有的fs命令

1

hadoop fs

#上傳文件(put與FromLocal都是上傳命令)

1
2

hadoop fs -put jdk-7u55-linux-i586.tar.gz hdfs://hucc01:9000/jdk
hadoop fs -FromLocal jdk-7u55-linux-i586.tar.gz hdfs://hucc01:9000/jdk

#下載命令(get與ToLocal都是下載命令)

1
2

hadoop fs -get hdfs://hucc01:9000/jdk jdk1.7
hadoop fs -ToLocal hdfs://hucc01:9000/jdk jdk1.7

#將本地一個或者多個文件追加到hdfs文件中(appendToFile)

1

hadoop fs -appendToFile install.log /words

#查詢hdfs的所有文件(ls)

1

hadoop fs -ls /

#幫助命令(help)

1

hadoop fs -help fs

#查看hdfs文件的內容(cat和text)

1
2

hadoop fs -cat /words
hadoop fs -text /words

#刪除hdfs文件(rm)

1

hadoop fs -rm -r /words

#統計hdfs文件和文件夾的數量(count)

1

hadoop fs -count -r /

#合並hdfs某個文件夾的文件,並且下載到本地(getmerge)

1

hadoop fs -getmerge / merge

#將本地文件剪切到hdfs,相當於對本地文件上傳後再刪除(moveFormLocal)

1

hadoop fs -moveFromLocal words /

#查看當前文件系統的使用狀態(df)

1

hadoop fs -df

二、常用的hdfs命令(這個用的比較多)
用法跟hadoop命令一樣,推薦2.0之後使用hdfs命令

1

hdfs dfs

3. hadoop中常用的命令

1、查看指定目錄下內容
hadoop dfs –ls [文件目錄]
eg: hadoop dfs –ls /user/wangkai.pt
2、打開某個已存在文件
hadoop dfs –cat [file_path]
eg:hadoop dfs -cat /user/wangkai.pt/data.txt
3、將本地文件存儲至hadoop
hadoop fs –put [本地地址] [hadoop目錄]
hadoop fs –put /home/t/file.txt /user/t
(file.txt是文件名)
4、將本地文件夾存儲至hadoop
hadoop fs –put [本地目錄] [hadoop目錄]
hadoop fs –put /home/t/dir_name /user/t
(dir_name是文件夾名)
5、將hadoop上某個文件down至本地已有目錄下
hadoop fs -get [文件目錄] [本地目錄]
hadoop fs –get /user/t/ok.txt /home/t
6、刪除hadoop上指定文件
hadoop fs –rm [文件地址]
hadoop fs –rm /user/t/ok.txt
7、刪除hadoop上指定文件夾(包含子目錄等)
hadoop fs –rm [目錄地址]
hadoop fs –rmr /user/t
8、在hadoop指定目錄內創建新目錄
hadoop fs –mkdir /user/t
9、在hadoop指定目錄下新建一個空文件
使用touchz命令:
hadoop fs -touchz /user/new.txt
10、將hadoop上某個文件重命名
使用mv命令:
hadoop fs –mv /user/test.txt /user/ok.txt (將test.txt重命名為ok.txt)
11、將hadoop指定目錄下所有內容保存為一個文件,同時down至本地
hadoop dfs –getmerge /user /home/t
12、將正在運行的hadoop作業kill掉
hadoop job –kill [job-id]

閱讀全文

與hadoop命令行相關的資料

熱點內容
手機已加密怎麼辦 瀏覽:199
安卓手機截屏怎麼傳到蘋果 瀏覽:525
京管家app哪裡下載 瀏覽:33
文件夾橫向排列的豎向排列 瀏覽:451
51單片機驅動攝像頭模塊 瀏覽:689
政府文件加密沒法轉換 瀏覽:372
android判斷棧頂 瀏覽:331
憑證軟體源碼 瀏覽:860
androidwebview滾動事件 瀏覽:11
如何將電腦上的圖片壓縮成文件包 瀏覽:899
程序員轉金融IT 瀏覽:834
黑馬程序員培訓效果如何 瀏覽:913
本地集成編譯 瀏覽:528
韓國電影哪個app可以看 瀏覽:703
玖月授權什麼app什麼梗 瀏覽:785
怎麼使用伺服器上的ip地址是什麼情況 瀏覽:752
手機密碼加密後怎麼解密 瀏覽:343
華為雲的伺服器的ip地址怎麼訪問不 瀏覽:367
webstormvue在線實時編譯生效 瀏覽:184
3225pdf 瀏覽:171