一篇关于HDFS的快照讲解
一个snapshot(快照)是一个全部文件系统、或者某个目录在某一时刻的镜像,使用vmware类似软件的同学指定,快照可以为虚拟机保存某个状态,如果做了更改,或者系统被折腾坏,还有个复原的操作。
快照应用在如下场景中:
防止用户的错误操作; 备份:给hdfs目录做快照,然后复制快照里面的文件到备份; 试验/测试 灾难恢复 HDFS的快照操作
这里测一篇试的Hadoop3.0版本,也是我的线上版本。
开启快照 hdfs dfsadmin -allowSnapshot /data/test/test_snapshot [hdfs@cdh-003 ~]$ hdfs dfs -ls /data/关于test/test_snapshot -rw-r--r-- 2 hdfs supergroup 88 2021-10-08 16:59 /datHDa/test/test_snapshot/ods_user1.txt
这里开启目录/data/test/test_snapshot快照功能,该目录当前有一个文件ods_user1.txt。
创建快照
给目录/data/test/test_snapshot创建了一个快照,名为backup01。
hdfs dfs -crFSeateSnapshot /data/test/test_snapshot backup01 [hdfs@cdh-003 ~]$ hdfs dfs -ls /data/test/test_snapshot/.snapshot/backup01 的快Found 1 items -rw-r--r-- 2 hdfs supergroup 88 2021-10-08 16:59 照讲;/data/test/test_snapshot/.snapshot/backup01/ods_user1.txt
可以看到实际上是在开启快照的目录下新建了一个文件夹.snapshot,下面有个目录backup01,里面有一个文件,相当于复制了一份文件。
查看快照
hdfs lsSnapshottableDir&nbs一篇p;
再上传一个文件
hdfs dfs -put data/urls.txt /data/test/test_snapshot
再创建一个快照
hdfs dfs -createSnapshot /data/test/test_snapshot backup0关于2
这里又新建了一个快照backup02,.snapshot下面有两个目录,分别是backup01和backup02。
[hdfs@cdh-003 ~]$ hdfs dfs -ls /data/test/test_snapshot/.snapshot Found&nbHDsp;3 items drwxr-xr-x - hdfs supergroup 0 2021-10-08 17:04 FS/data/test/test_snapshot/.snapshot/backup01 drwxr-xr-x - hdfs supergroup 0 的快;2021-10-08 17:12 /data/test/test_snapshot/.snapshot/backup02
对比快照
因为后来又上传了一个文件,所以快照backup02下面有2个文件了,比backup01多一个文件urls.txt。
[hdfs@cdh-003 ~]$ hdfs照讲 snapshotDiff /data/test/test_snapshot backup01 backup02 Difference between snapshot backup01 and snapshot backup02&一篇nbsp;under directory /data/test/test_snapshot: M . + ./urls.txt
恢复快照如果不小心把文件删除了,这个文件就被移动到回收站(如果开启了回收站),如果回收站到期清理了或者没有开启回收站,这个时候快照关于的作用就发挥出来了,直接cp过去。
hdfs dfs -cp /data/test/test_snapshot/.snapshot/backup01/ods_user1.txt /data/test/test_snapshot
- ·标签: 享道出行
- ·云计算核心技术Docker教程:Docker 守护进程dockerd访问授权和命名空间选项
- ·遏制矿工扫货 英伟达限制显卡性能
- ·标签: 小马智行 Robotaxi 港股上市 自动驾驶
- ·京东云高礼强:过去一年京东云实现超110%增长
- ·Facebook曾主动提议帮助打造新的社交网络以规避反垄断指控
- ·标签: 群核科技 ManycoreTech 杭州六小龙 空间智能
- ·云安全日报211009:IBM企业全面集成需求平台发现执行任意代码漏洞,需要尽快升级
- ·云计算开发实例:Python3冒泡排序
- ·OpenAI秘密启动“Mercury”项目:聘百名前银行家,训练AI系统自动化金融建模
- ·即梦AI上线智能多帧功能!最多支持10张图片,一键生成超长镜头
- ·拍我AI接入谷歌 Nano Banana,开启六天免费创作狂欢
- ·标签: 山东墨龙 石油机械 管类产品 海外营收
- ·标签: 许单单 拉勾网 AI创业 幸福课程
- ·标签: 青岛啤酒 2025年报 啤酒行业 数字化转型
- ·将点云与RGB图像结合,谷歌&Waymo提出的4D-Net,检测远距离目标
- ·Lindy Build发布!AI自主“氛围编程”:从创意到无Bug应用,吃饭时间搞定!
- ·谷歌母公司去年四季度营收近570亿美元 云计算贡献38亿美元
- ·标签: 安德科铭 ALD前驱体 半导体材料 中金公司
- ·怎么让三色灯默认白光
- ·AI奶奶玄学养生视频小红书走红 一条视频获赞8.1万
- ·标签: 阿里巴巴 Trendyol GO 优步 AI驱动
- ·韩国起亚和现代汽车称没有与苹果就电动汽车合作展开讨论
- ·标签: 药师帮 医药电商 自有品牌 港股财报
- ·云安全日报210125:Debian远程管理器发现命令注入漏洞,需要尽快升级
- ·消息称谷歌即将在 Gemini 和 API 上发布 VEO 3.1 版本
