在ceph集群里，磁盘出故障是不可避免，所以替换故障磁盘成为ceph日常运维不断重复的任务。本课程演示如何替换一个故障盘。
定位故障磁盘
#MegaCli -PDList -aALL|grep "Media Error"
Enclosure Device ID: 0
Slot Number: 3
Enclosure position: 0
Device Id: 2
Sequence Number: 2
Media Error Count: 227 <- 物理故障
Other Error Count: 2
Enclosure Device ID: 0
定位故障OSD
#lsblk -i|grep /dev/sdc
/dev/sdc1 on /var/lib/ceph/osd/ceph-1
停止故障OSD
systemctl status ceph-osd@1.service
虽然osd.1的服务已停止，然而他任然被标记为IN（集群中）状态。只要他的状态还是IN，Ceph集群就不会为他触发数据恢复。默认情况下，ceph集群需要5分钟来将一个DOWN状态的磁盘标记为OUT状态，然后开始数据恢复。我们可以手工将故障OSD标记为OUT。一旦该OSD被标记为OUT，ceph集群会为该OSD上的PG启动恢复过程。
当某个PG对应的OSD set中有一个OSD被标记为down时(假如是Primary被标记为down，则某个Replica会成为新的Primary，并处理所有读写 object请求)，则该PG处于active+degraded状态，也就是当前PG有效的副本数是N-1。过了5秒之后，假如还是无法连接该OSD，则它被标记为out，Ceph会重新计算PG到OSD set的映射(当有新的OSD加入到集群时，也会重新计算所有PG到OSD set的映射)，以此保证PG的有效副本数是N。
#ceph osd out osd.1
#ceph status
删除故障OSD
从ceph CRUSH map中移除
#ceph osd crush rm osd.1
删除该osd的秘钥
#ceph auth del osd.1
从ceph集群中删除该osd
#ceph osd rm osd.1
拔掉故障盘，插入新磁盘......................
重新组建 RAID
[root@hh-yun-ceph-cinder016-128056 ~]# MegaCli -CfgLdAdd -r0 [0:3] WB Direct -a0
Adapter 0: Created VD 2
Adapter 0: Configured the Adapter!!
Exit Code: 0x00
创建OSD，加入集群
#ceph-deploy disk list ceph-node1
#ceph-deploy disk zap ceph-node2:sdc
#ceph-deploy --overwrite-conf osd create ceph-node1:sdc
一旦OSD加入到集群，ceph会执行回填backfilling操作，他会将PG从第二OSD上移到这个新的OSD上。
参考资料
https://www.ustack.com/blog/ceph_infra/
