一个新部署好的ceph集群,在集群没有任何io 流量的情况下,通过iostat查看osd对应的后端磁盘,发现一直有少量的写流量(每秒的时间间隔),如下图所示(sdu是osd对应的一个后端磁盘): username@hostname:~$ sudo iostat -xm 1 | grep sdu sdu 0.00 0.00 0.00 4.00 0.00 0.01 8.00 0.00 0.00 0.00 0.00 0.00 0.00 ...
当某个PG对应的OSD set中有一个OSD被标记为down时(假如是Primary被标记为down,则某个Replica会成为新的Primary,并处理所有读写 object请求),则该PG处于active+degraded状态,也就是当前PG有效的副本数是N-1。 过了M秒之后,假如还是无法连接该OSD,则它被标记为out,Ceph会重新计算PG到OSD set的映射(当有新的OSD...
ceph osd crush rm cs1 在集群中删除一个osd的host节点 ceph osd getmaxosd 查看最大osd的个数 ceph osd setmaxosd 2048 设置最大的osd的个数(当扩大osd节点的时候必须扩大这个值) ceph osd crush set {id} {weight} [{loc1} [{loc2} ...]] 设置osd crush的权重为1.0 例如: ceph osd crush set ...
An overloaded cluster (check system load, iostat, etc.) A bug in theceph-osddaemon. Suboptimal OSD shard configuration (on HDD based cluster with mClock scheduler) Possible solutions: Remove VMs from Ceph hosts Upgrade kernel Upgrade Ceph ...
iostat -x 诊断信息 要查看诊断信息,配合 less 、 more 、 grep 或 tail 使用 dmesg ,例如: dmesg | grep scsi 1.2 停止数据向外重平衡 你得周期性地对集群的子集进行维护,或解决某个故障域的问题(如某个机架)。如果你不想在停机维护 OSD 时让 CRUSH 自动重均衡,首先设置集群的 noout 标志: ...
出现slow request后,使用ceph health detail和ceph osd find x马上定位到slow的osd,发现slow都是ssd-osd,起初以为是rocksdb在进行compaction,导致写入阻塞,但是iostat -x 1看到,磁盘并不忙碌,开始分析对应osd的日志 使用ceph tell 'osd.178' injectargs '--debug_osd 20/20'打开对应osd的日志,得到下面的日志,通...
iostat -x 1. 诊断信息 要查看诊断信息,配合 less 、 more 、 grep 或 tail 使用 dmesg ,例如: 复制 dmesg | grep scsi 1. 1.2 停止数据向外重平衡 你得周期性地对集群的子集进行维护,或解决某个故障域的问题(如某个机架)。如果你不想在停机维护 OSD 时让 CRUSH 自动重均衡,首先设置集群的 noout 标志...
iostat -x 诊断信息 要查看诊断信息,配合less、more、grep或tail使用dmesg,例如: dmesg | grep scsi 2.2 停止数据向外重平衡 你得周期性地对集群的子集进行维护,或解决某个故障域的问题(如某个机架)。如果你不想在停机维护 OSD 时让 CRUSH 自动重均衡,首先设置集群的noout标志: ...
OSD: Object Storage Device,提供存储资源。 Monitor:维护整个Ceph集群的全局状态。 RADOS具有很强的扩展性和可编程性,Ceph基于RADOS开发了 Object Storage、Block Storage、FileSystem。Ceph另外两个组件是: MDS:用于保存CephFS的元数据。 RADOS Gateway:对外提供REST接口,兼容S3和Swift的API。
软件版本、存储利用率、集群映射、置放组摘要、监视器状态、集群配置和 OSD 元数据。 启用 洞察模块通过以下方式启用: ceph mgr module enable insights 命令 ceph insights #生成完整报告。 能显示,健康状况大致是啥样子的。 ceph insights prune-health <hours> ...