技术解析

20TB 的数据存储使用了 Raid0 硬盘有坏道了 我果然自作孽不可活
0
2021-07-02 16:14:47
idczone
20TB 的数据存储使用了 Raid0 硬盘有坏道了 我果然自作孽不可活

XFS 是个好文件系统,问题在于用它的人 比如我 够蠢.....
果然非专业系统工程师....

这事 学到的经验
1. 备份还是要有的,数据在大也需要考虑这个问题
2. 在考虑文件系统的性能时候 要自己记住什么文件系统 是不是有 meta 等依赖到外部去了
3. 如果选了 XFS,记住定时备份 metadata
4. 如果机器有问题 尽量在最小改动的前提下进行数据抢救,不要 R/W 任何数据 对硬盘造成二次伤害


完整记录见这里

https://blog.cnlabs.net/4749.html

排版乱 将就下看吧
头像很带感啊

为什么当初要用 raid0.....

RAID 50 倒是比 RAID 5 要好...

当时可能考虑省成本的原因
24t 硬盘 raid0
12t 硬盘 raid1
后面基本都 raid1 和有备份

raid1
raid5 不靠谱 只是比 raid0 提高 33 而已
raid60 目前来说是最好的方案 兼顾了读写速度和存储成本

raid0 …

还敢只用 raid 0 么

raid0 不是只能给非持久化数据用的吗

0 勇气

50 坏 1 块盘的恢复时间比 5 减半. 60 相对于 z2 没有意义.


头像好漂亮,我喜欢。

改: 50 恢复时间不减半, 但是恢复负载明显低是对的.

R0 一時爽,數據火葬場(๑•̀ㅁ•́๑)✧

从 2003 年开始,自用的 linux 就一直是 xfs ,各种意外断电重启,都安全可靠。
RAID0 还不作备份,只能说作死。
换成带冗余的 ZFS 吧。

成本...忘记把数据价值 /丢失数据价值造成的损失 算进成本里了吧...

RAID10 路过

20TB 数据用 Raid0? 不值得同情啊楼主,这个教训是要你深刻记住
超过 5TB 的,都一定要上 Raid5 才保险
重要数据还得异地备份

++++++++++++++++++++++++++1
这话很对 算抢救回来了已经

不是什么有价值的数据,只是不喜欢浪费,很多东西都丢里面了
真正有价值的 就 55G 朋友的数据,丢了不好交代
确实有些
不敢 Raid0 但是不 Raid 还是可以的

以我的经验啊 我机器比较多
有时候客户会要求便宜,存储大,这种情况只能使用低端公司的产品
这个时候 无 Raid 单盘 或者 2 盘无 Raid
我也遇到过各种问题, 但是截止目前来说 从未出过因硬盘坏了丢数据的问题
单盘的时候 我通常会自己写个 bash 每周收集系统运行和硬件设备情况
当中就包括 smartctl 收集的硬盘健康程度
如果到风险值了 会提示,也就提前更换了,只是备份一个硬盘的事
反正都 G 口对 G 口 一个晚上完事了
这次很大原因 是大意了
一般我的设备生命周期都最少保证 3 年 上机器和机房说好了要使用三年 给我全新的硬盘
这次这个机器 我 raid 看来下 硬盘有 WD , WDC ,希捷, SSD 都 intel 和 M 什么的型号
之前没注意这个事 加的机器就让机房给统一型号的硬盘

Raid5 很靠谱,只要你的硬盘故障检测做的足够好,两块盘同时坏的概率非常非常小
大多数人说 Raid5 不靠谱,是他们从来就不看 S.M.A.R.T. 数据,直到盘挂了才去换,自然都是带病工作,感觉不靠谱

所以说没有不靠谱的系统,只有不靠谱的人

楼主,求看一下这篇 密码保护:高利润暴利产品研究

Raid0...
不考虑性能的话 JBOD 也比 r0 靠谱点。。。

raid 几都挡不住不定时备份

准备跑路吧

最后的结果还是好的,恭喜

思维问题呗,并不存在“浪费”,只是机会成本不一样。

看头像进来的

吓得我赶紧备份了下去。

看了看自己 RAID 0 存储上的 600 多 G 数据感觉略微蛋疼。。。

我那 2T 的数据盘已经躺尸扔家里了。。。看都不想去他。。。用了错误的办法恢复。。。你很幸运。。。

RAID1 并不是少了一半,楼主的方案会有 20TB 用于数据冗余。 RAID10 才是一半一半。

讲道理 raid10 最好 安全性效率都有保证 就是要多花点钱

而且 raid5 可以设置好几块灾备盘吧我记得


灾备盘并没啥用
我见过太多的阵列损坏不可恢复(当然暴力恢复还是能找出来点东西的),别说 RAID5 , RAID6 RAID10 甚至四倍 RAID1 都有挂全盘的
大多就像楼上哪位朋友说的,不看磁盘信息,有 raid 就万事大吉了,很多时候一块隐患盘并不影响访问,如果是同批次的盘很可能有相同的隐患,最后集中短时间爆发

另外继续科普 RAID 5 不靠谱:
Raid5 Failure 并不都是因为磁盘故障,而是因为磁盘设计上有一个统计学上的 URE (unrecoverable read error)失败率,这个失败率只要低于额定值,这个磁盘就是完好的,然而对一个 raid5 阵列,一个读失败则是致命的;
在 raid 5 诞生的年代,这个 URE 概率标准对 100 多 G 的硬盘,这个概率尚可接受,但是随着磁盘容量增加,这个 URE 概率并没有随着而增加,因此对于一个 1T 磁盘,大概 10 多次全盘数据的量就会出现一次 URE 。

[统一型号的硬盘] 这个风险更大,若某型号盘出了缺陷 /特殊故障,整个盘阵都全完了
“不要把鸡蛋都放在同一个篮子里”
航空业典型例子很多,欧美有过因为某飞机只用一家厂商供应的某种型号发动机,当一次发动机严重故障后,所有使用这种发动机的飞机全部停飞,等待问题被解决。
后来吸取教训,研制新飞机时,要求新机可以兼容至少两家不同厂商的发动机(典型代表 空客 A320)

有条件的就上带冗余的 ZFS 吧,它的一些机制保证了数据(而非磁盘块)可靠性比很多中端所谓“硬件阵列柜”更可靠。

back blaze 在线存储服务商,他家前几年定期发布他们自己“存储海洋”的硬盘故障报告,可参考:
Hard Drive Reliability Update - Sep 2014 :
https://www.backblaze.com/blog/hard-drive-reliability-update-september-2014/

我不到 50G 是数据库文件,都直接 raid1 了,敢用 raid0 都是胆大的人

6 盘 r0 ……

删库跑路

上 raid 5 啊 坏一块都没关系

lol 不定期检查当然是作死... 而且备份很重要啊... 像我们这边, 虽然我觉得有点夸张, 但是他们每天晚上都用磁带增量备份...一周一个快照...


这个 超级高敏感数据有必要
其实磁盘挂主要是托管用户,在机房,很多时候阵列报警已经挂一块盘都不知道……
尤其是装 linux 的,很多根本不知道怎么装阵列卡的操作系统层监控程序, DELL 机器的 LED 显示屏拼命报警阵列坏盘,就是没人看得到……
IDC 的运维大多是底层小工,根本不知道显示屏报警是啥,磁盘灯报警是啥


备份还是要有的,数据在大也需要考虑这个问题 X
备份是非常重要的, 数据越大越需要 ✓

数据这么重要的东西,都用 raid10 吧?

为什么不直接用 raid10 呢?
虽然成本是比较高,好像 lz 的 20TB 就要买 40TB 的硬盘了...

raid 10

一般都用 ZFS 或者 win 的存储池。

raid 有啥好处,对 SSD 来说

哈哈哈哈,感觉学到了东西。。。没有相关工作经历啊我。。。都是实验室来了什么东西老板丢过来玩的~

你是棋子本人?

不会是 niupic 的图吧

为什么感觉这头像很眼熟?

就是他本人。

不明觉厉,围观 lz ,

说不用 raid0 那就是根本没有开窍,备份不能基于本地磁盘
磁盘系统永远用最爽的 raid0 ,完全不要考虑备份相关
你的备份方案应该是做到这样:
任意时刻机器消失,你都能完全恢复数据
具体方案自己研究吧
总之 raid1 、 5 、 6 、 10 等等非 raid0 的都是屎,没有使用的理由

raid5 也不比 raid0 好到哪去,尤其是重 io 负载的话,坏一块接着就是第二块

我就不幸灾乐祸的嘲讽卤煮作死了
不过我还是想问问卤煮是用的哪个服务商的服务

back blaze 他们开源的那个服务器设计老好了 特大存储 :) 的说
我以前准备那他们建模的资源来国内定制一批这种纯粹设备

你怎么算的 2x1000G = 1000G 可用 因为 Raid1 是镜像啊 不少一半少多少?

我自己都不记得.。。。。。
正解 我看了下各种 Raid 的各种评测 有这个事
Raid5 我德国的机器 试过这个 第一块坏了 一般要立刻处理 不然其他的很快阵亡 后来就对这个无感了
同意 我遇到过 之前德国的机器 3x3T Raid5 就这种情况 第一块坏了没注意 第二块很快也坏了 还好是缓存测试的节点 有网络级别的容错 不然那次也彻底悲剧
密集型读写 还是 Raid0 快,但是数据安全那块基本无解
最接近 Raid0 的就是 Raid60 了 美国一个存储 VPS 服务商使用的这个 很早以前测试读写速度非常好
正确的姿势应该是 SSD 缓存+SATA Raid0 + 备份
SSD 也有生命周期的, 你 SSD 在多 没 Raid1 没容错能力的
Raid 和 SSD 不冲突 因为各种企业需求都不一样 所以才有各种 Raid 结构和 Raid 阵列卡的的存在

所以 ZFS ( Mirror,RAIDZ1,RAIDZ2 买不起 NetApp ,那就 ZFS 吧)才是王道啊,
不怕 RAID 卡各家标准不一,不怕 RAID 卡停产,(冗余型存储池)数据读写都有自动校验+自动修复,也可以自己一键下指令校验存储池 /一键修复数据

两个盘组 RAID1 ,毫无疑问其中一个盘为镜像, 50%;但 N 个盘组 RAID1 , N - 1 盘为镜像,可用容量为一个盘的大小,远远低于 50%。

兼顾读写安全用 RAID10 。

sas 硬盘贵如狗。多 20T 的话要多近 10 万了。。

那你如果沒了數據,100 萬都買不回來的話...
而且也沒必要一次就直接弄多大吧?
應該可以慢慢擴的呀

你可以把没快硬盘单独做 RIAD0 ,等于不做容量也不减小。

Raid 怎么是 N-1?应该是 N 除以 2

数据地带为您的网站提供全球顶级IDC资源
在线咨询
专属客服