22/03/11 19:30:11.42 +/x0RjOc.net
OpenZFS 2.1.3 Released With Many Fixes - Phoronix
URLリンク(www.phoronix.com)
398:login:Penguin
22/03/12 21:51:56.02 Rf7pMd17.net
TimeshiftでRsyncでバックアップしたのですが、
RestoreしようとするもInvalid argumentと出てRestore出来ません。
TimeshiftみたいなのってVPSでは使えないものなのでしょうか?
ちなみにbtrfsでフォーマットされたパーティションです…
399:login:Penguin
22/03/13 02:14:25.83 /q/1mXoW.net
引数間違ってるって書いてるやん
間違えてるんでしょう
400:login:Penguin
22/03/14 07:02:05.97 S1lHKHAK.net
>>397
更新内容
Release zfs-2.1.3 ・ openzfs/zfs ・ GitHub
URLリンク(github.com)
401:login:Penguin
22/03/17 08:17:01.36 Xqtw5Hi8.net
うちは全てのマシンにUPSをおごる金など無い
昨日の大規模停電は図らずもファイルシステムの信頼性を確認する出来事となった
電力回復後fsck的なものも走らず復旧するZFS・Btrfs つよい
402:login:Penguin
22/03/17 23:23:35.45 fuiYI/4E.net
Debian ではいつインストーラーにOpenZFSを付けてくれるんだろ。
URLリンク(wiki.debian.org)
xfs に関しては、上記のwikiには記載ないとかドキュメント化で差があるけど。
403:login:Penguin
22/03/18 00:47:17.84 yCqU+awR.net
mainパッケージ入り出来ないうちは無理なんじゃね
404:login:Penguin
22/03/21 21:55:13.33 RpudRr3o.net
Btrfsについにブロック単位での重複排除が来た
URLリンク(github.com)
405:login:Penguin
22/03/21 23:05:41.80 NkBSbpzk.net
マジ!!?
406:login:Penguin
22/03/21 23:23:12.49 PMPLxowA.net
キタ━━(゚∀゚)━━!!
407:login:Penguin
22/03/21 23:59:22.85 FOQLXsvF.net
ユーザースペースのなら前からあったような
408:login:Penguin
22/03/23 06:35:53.49 W+gk/0wT.net
10TBあたりわずか1GBのハッシュテーブルを使用できます
ファイルシステム全体の重複排除-スナップショットを含む
btrfs圧縮で動作します-圧縮ファイルと非圧縮ファイルの任意の組み合わせを重複排除します
デーモンは、btrfsツリー検索を使用して新しいデータを段階的に重複排除します
シャットダウン後の迅速な再起動のための永続的なハッシュテーブル
データセットが大きくなってもRAM使用量は増加しません
ライブで動作します-スケジュールされたダウンタイムは必要ありません
おいおい神か!?
もうzfsを使う理由がなくなってきたな
409:login:Penguin
22/03/23 08:43:47.82 oNwCL5VO.net
raid6はいつ安定しますか…?
410:login:Penguin
22/03/27 14:09:56.65 BHPkkIfn.net
>>408
> データセットが大きくなってもRAM使用量は増加しません
これってZFSだとメモリ食うやつだよね?
ZFSしか使ったことないけど次は調べてbtrfsするかな
411:login:Penguin
22/04/11 13:31:32.14 28SRxXFF.net
ext4でいいじゃん・・・
412:login:Penguin
22/04/11 16:02:18.94 hvOblzS0.net
Fedoraで2年間Btrfsを圧縮有効にしてtimeshiftも使ってるけど一切不安定になったことがない。
以前にDebianでBtrfsを試して即座にデータが吹き飛んだ頃と比べると相当安定してきたと感じてる。
最新のカーネルを使えるなら今はBtrfsが第一選択肢でもいいんじゃないかな。
413:login:Penguin
22/04/11 17:23:02.02 1RMzXaNK.net
・空き容量が不正確
・空き容量カツカツでの運用は非推奨
・scrubを定期的に実行しないといけない
・vmイメージの置き場所にはあまり適さない
・ext4と比べると容量食い
ってな感じのことを聞いたんだけどほんと?
414:login:Penguin
22/04/11 18:48:41.13 WGF5H3C+.net
・btrfsユーティリティが正確な容量を教えてくれる
・空き容量カツカツは大抵のフォイルシステムで非推奨じゃね?
・定期実行しなくても問題出ない
・VMイメージの置き場所には適さないけどオプション指定があったような
・透過圧縮もあるのでむしろ食わない
415:login:Penguin
22/04/11 19:57:21.84 HZzXsyjN.net
・ちんちんシュッ!シュッ!シュッ!
416:login:Penguin
22/04/11 20:23:34.01 sEAd7XzV.net
イメージ置くならlvm推奨、raid5,6使うならdevice-mapper推奨、quota使うならxfs推奨
417:login:Penguin
22/04/11 21:07:01.93 /rTzXMzJ.net
VMイメージやDBファイルについてはCoWを無効化した方が良いとArchWikiにあるな
ファイルやディレクトリ単体で無効化できる模様
418:login:Penguin
22/04/12 16:02:03.24 OdAks5dN.net
自動でその設定してくれんかな
sqliteとか多すぎて手動で設定するの大変だよ
419:login:Penguin
22/04/12 16:16:50.72 8C6toS04.net
パフォーマンス追求するケースの話であって一般的にはそこまで困らんでしょ
420:login:Penguin
22/04/12 20:03:02.55 XoxKNETm.net
>>417
chatter +C dir
だけで良いのでしょうか?
421:login:Penguin
22/04/12 23:40:33.09 urXgeN0C.net
CoWを無効にすると圧縮も無効になるから一長一短だよ
422:login:Penguin
22/04/13 07:21:15.65 ELY+bluI.net
多少性能低下するだけだしVMディスクイメージはCOW有効化するな
無効化したらスナップショットからのお手軽ロールバック出来なくなるし
423:login:Penguin
22/04/13 10:08:48.71 fv2dkzRd.net
スナップショットをVM Consistentでとれる確証がなければ、やめておいた方がいいよ
424:login:Penguin
22/04/13 14:29:58.02 hXXP1Y6R.net
>>413
・ツール類に信頼がおけない
EXT4の感覚でUUIDを変更したら
特に警告等なく完了したがその後エラーを検出してファイルにアクセスできなくなった
425:login:Penguin
22/04/13 14:47:06.35 hXXP1Y6R.net
>>413
空き領域まわりは強いクセがあるな
btrfsの場合は常に5GB以上は空けておかないと安心できない
btrfsは未使用領域を"chunk"と呼ばれる1GB(公式の説明)のブロックで切り出してから書き込むが
切り出すときに用途を固定してしまう(実データ・メタデータ・システム)
全ての未使用領域を切り出したあとにメタデータ領域が枯渇すると実データ領域に空きがあっても一切のファイル操作ができなくなる
ファイルの削除は可能だが空き領域が回復しないことも多い
メモリ上では削除成功したことになってもディスク上ではメタデータの更新に失敗するため
こうなったら復旧するには特殊な手順が必要になる
426:login:Penguin
22/04/13 14:51:31.77 hXXP1Y6R.net
NTFSはフォーマット時にメタデータ領域を切り出すが
空き領域が枯渇するとメタデータ領域を実データ用に転用したり、メタデータ領域を拡張する仕組みがあるので
最後まで表示通りに書き込みができる
その代わり断片化が激しくなる
427:login:Penguin
22/04/13 15:32:39.16 dVO4/n+j.net
なる
パフォーマンスを取るか緩く安定を取るかみたいなもんか
428:login:Penguin
22/04/13 15:33:43.53 +IAQCF5I.net
空き容量はメタデータ云々といよりスナップショットの関係だよ
スナップショット取ってる場合には、削除が空き容量の増加にならないからという単純な話
スナップショット使ってないパーティションで何度も空き容量不足になってるけど一度も壊れた事はない (カーネル5以降の話)
429:login:Penguin
22/04/16 14:26:12.78 tF/izOz2.net
サーバーはともかく
デスクトップPCならBtrfsに切り替えても問題ない頃合いだね
Fedoraがデフォルトにしてしばらく大きな不具合は見つかってないし
430:login:Penguin
22/04/16 16:04:38.05 t4vxTGvP.net
なんかええんかそれ
431:login:Penguin
22/04/16 16:22:16.47 y438Thu7.net
レッツビギン 使ってみればわかるさきっと
432:login:Penguin
22/04/16 17:45:27 4lwQorlw.net
未だに10年前と同じ感覚でbtrfsを語ってる人たまに居るよね
くっそ古いカーネル使ってるならその認識で合ってるかもしれないけど
433:login:Penguin
22/04/16 17:52:11 nOVJDdzD.net
ファイルシステムはカーネルバージョンでガッツリ変わるからな
btrfsだけでなくext4やxfsも変わってる
434:login:Penguin
22/04/16 17:53:43 y438Thu7.net
怖いのはFS信頼性よりヒューマンエラー(ヒューマンとは俺自身含む)と思ってる
有事への備えさえしておけば先進のFSでも大丈夫
ラズパイですら再フォーマット無しにほぼ放置で2年ちょっと経過
435:login:Penguin
22/04/16 19:32:29 b4hVpIAm.net
今でこそBtrfsを愛用しているけど
カーネル4.xx時代はヒューマーンエラーとかいうレベルじゃない不安定さで使い物にならなかったよ
前兆なしでサルベージすら不可能な壊れ方するからヤバかった
436:login:Penguin
22/04/16 19:47:51.64 y438Thu7.net
使用開始時はさすがにおっかないFSだと言う認識はあった
当時のラズパイOSのカーネルはよく覚えてないけど5.4.*とかだったかなぁ
ラズパイでの試験運用開始時は十重二十重にスナップショット取ったり
日時バックアップしたりを欠かさなかった
437:login:Penguin
22/04/16 20:07:09 b4hVpIAm.net
調べるとBtrfsは丁度カーネル5.4から安定してきたらしい
確かにそのくらいからBtrfsユーザーの阿鼻叫喚が鳴りを潜めた気がする
438:login:Penguin
22/04/16 20:15:32.08 y438Thu7.net
「ラズパイだからいいややってみよ バックアップも取るし」くらいの安易な気持ちだったのを覚えている
運が良かったのか引きが強かったと言えるのかわからんけど特にFSが飛ぶ事も無く現在に至る
使用開始後調子に乗ってPCでも使い始めるまでにそれ程時間はかからなかった
439:login:Penguin
22/04/16 20:41:33.26 ALi/F0DO.net
ふっるいカーネルと言われると3とか4あたりを想像するわ
5.4ってまだ2〜3年前くらいじゃね
440:login:Penguin
22/04/16 20:54:53.45 Cxdwk3KI.net
従って今日はそのふっるいカーネルの感覚で語ってる者はいないと言う事だな
441:login:Penguin
22/04/17 00:25:54.64 FWZKWgiO.net
Fedoraはdnfインストールでreflinkを扱ったりと
既にBtrfsの利用を前提とした周辺ソフトウェアの最適化に取り組んでたりするから
他のディストリにも成果が流れてBtrfsがデフォルトになっていくだろうね
442:login:Penguin
22/04/17 01:51:38.91 XLgIjm9T.net
ZFS みたいにメモリが沢山ないとパフォーマンスが出ないみたいな低スペ野郎は使えない制限はBtrfsにはないんですか?
ext4 と比べるとディスク容量は少し食うみたいですが。
443:login:Penguin
22/04/17 03:03:00.73 FWZKWgiO.net
XfsでCoW有効にした時にはメモリ食いすぎて常にカツカツだったけど
Btrfsは省メモリで特にロースペに厳しいとかはないね
透過圧縮も普通に有効にしてる
444:login:Penguin
22/04/17 15:47:14.78 xi4dvUYy.net
btrfsもそれなりにスペック依存性あって、
職場NASをHP ProLiant MicroServer(Athlon II NEO N36L)から
Ryzen 5 Pro 3600自作機に更新したらメチャ早くなった。どっちもCentOS7。
なので試しに自宅NAS(4HDD@UbuntuServer)を200GEから2400Gに変更したら早くなったので、
今は欲を出して余りHDD全部(4x3.5CMR, 4x2.5CMR, 1x3.5SMR)を繋ごうと考えてSATAカード物色中。
445:login:Penguin
22/04/17 19:40:20.31 o3E9K/21.net
BtrfsというかZstdの進化が凄まじいから
なるべく最新のカーネルを扱えるディストリの方がいいよね
今だと公式にBtrfsをデフォルトにしてるFedoraがベストかな
446:login:Penguin
22/04/17 19:51:44.94 o3E9K/21.net
Btrfsのカーネル選び
5.4~ 安定化(事実上これ以前は非推奨)
5.16~ Zstd圧縮のパフォーマンスが大幅に向上
Ubuntu 22.04でもカーネル5.15だから入れ替えないならFedoraしかない
本格的な普及はサーバー向けの定番ディストリに5.16が降りてくる来年以降かな
447:login:Penguin
22/04/18 00:12:22.45 H/gUmSKT.net
ほなCentOS Stream使いましょうねえ
448:login:Penguin
22/04/18 00:46:36.56 7pkk+FE/.net
>>447
先生、質問です。
CentOS Stream はインストーラがBtrfsに対応していますか?
RHEL が Btrfs を利用しないとインストーラに出てこない気がしました。
449:login:Penguin
22/04/18 01:32:56 xB+OMS2q.net
インストーラが対応してないどころかbtrfs-progsのパッケージもないしそもそもカーネルが対応してない
自分でビルドして入れれば使える
450:login:Penguin
22/04/18 18:36:05.91 pP5e1xMZ.net
先生スパルタ過ぎませんか…?
僕はArchで行きます
451:login:Penguin
22/04/18 18:51:32.65 JAVvjsLe.net
CentOS Stream だと、/ に一式インストールした後、カーネルのリビルドして、必要なパッケージ入れて分ける予定のパーティションはその後フォーマットして色々移動させてから、残りは btrfs-convert でext4 から Btrfs に変換するんかな。
452:login:Penguin
22/04/18 19:19:47 WCMNsdhx.net
昔はデスクトップでArch使ってたけど
BtrfsやZram等、結果的にFedoraのデフォルト構成に近い部分が多くなって
だったら最初からFedoraでいいじゃんと思って以来ずっとFedoraだな
453:login:Penguin
22/04/20 08:15:50.77 4V340LVP.net
今、透過的圧縮対応のファイルシステムって何が主流なんですか
バターFSですか
454:login:Penguin
22/04/20 20:01:34 Z3bbGBjd.net
デスクトップ用途だとFedoraのデフォルトインストール設定が
Btrfs+zstd圧縮だから圧倒的にBtrfs
サーバーだと実績を考えてまだ無難なZFSで動かしてるケースが多いんじゃないかな
455:login:Penguin
22/04/20 20:25:16.48 EEBifDNl.net
ZFS ハードル高いのとRHELはxfs、Debianはext4 だと思うけど。
456:login:Penguin
22/04/20 20:39:53.00 fQvTkgaj.net
xfsはRedHatがBtrfs駄目だからって言ってCOW持ち込んだらすげーぶっ壊れになったり、32bit環境で致命的なバグ出した事あったり、急に鉄板ハイスピードFS扱いになったりととにかく評価が安定しないイメージ
457:login:Penguin
22/04/20 22:02:13.27 ZDR7sTAh.net
RedHatは社内にBtrfsのメンテナがいないから導入予定はないらしい
Btrfs側のバグが原因で不具合発生した場合にRedHatで解決できないのが理由かな
>>455
透過圧縮の話題だぞ
458:login:Penguin
22/04/20 22:04:48.14 Myq2ka8B.net
ちんちんシュッ!シュッ!シュッ!
459:login:Penguin
22/04/20 22:06:29.81 Qm6iTfJp.net
Redhatクラスの会社はエンジニアが必要ならいくらでも雇えると思うけど、そもそも市場にbtrfsのメンテできるエンジニアがほとんどいないとかなんかな
まぁしょうじき政治的な理由な気がする
460:login:Penguin
22/04/20 22:20:36.07 0X67q2nR.net
自宅だと最新kernel追えるが、職場だと怖いね
461:login:Penguin
22/04/20 22:38:36.47 ZDR7sTAh.net
>>459
RedHatの言うメンテナってのは本家のコードへのコミット権を保有してるレベルの話だから簡単じゃない
462:login:Penguin
22/04/20 22:42:14.55 +dTCpvcy.net
>>458
ニキ
463:login:Penguin
22/04/20 23:48:54.56 Qm6iTfJp.net
>>461
その基準だと最終権限はリーナスしか持ってないしサブシステム単位の権限を基準にしてもext4すら使えなくなるが
464:login:Penguin
22/04/21 01:09:55.47 I5yQjODX.net
だからXfsがデフォルトなんでしょうよ
465:login:Penguin
22/04/21 01:24:26.88 srfaurpM.net
xfsの人oracleだけど
466:login:Penguin
22/04/21 01:47:41.95 KalF/zpO.net
私が間違っておりましたm(_ _)m
467:login:Penguin
22/04/21 12:54:53.07 5U6ZkiPz.net
>>459
落ちて来たとは言えFacebookから引き抜けるほどお金積める気がしない…
468:login:Penguin
22/04/21 20:20:13.80 Zk6H540j.net
Facebookは業務でバリバリBtrfsを使っていて現場の情報も入ってくるから
やりがい作戦での引き抜きも困難だろうしな
469:login:Penguin
22/04/22 08:12:03 jZiBDVrO.net
元々Redhatには、btrfs主要開発者のjosefさん(現Facebook)が在籍してたんだけどな。
会社の方針が変わったから転職したのか、
転職しちゃって開発者がいなくなったからサポートやめたのかどっちだろ。
470:login:Penguin
22/04/22 16:52:47 5g5kzzmH.net
Stratisっていつ完成する予定なんだ
471:login:Penguin
22/04/23 21:07:58.07 qZnjF4sP.net
フリーランスに立ちはだかる「常駐」の壁。慣例を打ち壊し、
“テレワーク”案件3割→8割へと成長を遂げた「クラウドテック」の軌跡
リモートワーク求人専門サイト「プロリモート」がリニューアルオープン、業務委託契約の求職者と企業をマッチング
1/3以上が採用につながる高マッチング率、リモートワーク×エンジニア・デザイナー専門の
人材紹介サービス「ReworkerAgent」正式リリース場所からも時間からも自由な働き方を実現!
『ReWorks(リワークス)』リモートワーク特化型転職サイトとして 3月5日 リニューアル
副業・兼業マッチングサービス「クラウドリンクス」登録者数2万人突破
中小企業で進む副業人材の採用、96%が継続採用を希望
茨城県日立市、県外からの「テレワーク移住者」に最大151万円の助成金
長野市、市内に移転・事業所設置し、移住することで最大550万円の支援金を支給
フリーランスが活用できる「最大1,000~3,000万円・補助率50%~75%」の
『ものづくり・商業・サービス補助金』とは?概要や条件を解説
472:login:Penguin
22/04/24 14:24:37.94 NHQlztSx.net
Open ZFSの zfs-dkms今日降って来るのかと思ってたけど来ないのかな
リリース予定日とかってどこかに載ってたりする?
473:login:Penguin
22/04/24 14:49:03.18 qCQScQBJ.net
どのディストリのどのバージョン?
なおOpenZFS の 2.1.4 なら sid と bullseye-backports には来てるけど
474:login:Penguin
22/04/24 15:41:29.65 NHQlztSx.net
Arch Linuxで2.1.4使ってます
475:login:Penguin
22/04/24 15:55:49 d66q6a18.net
次のバージョンはまだリリースされてないよ
URLリンク(zfsonlinux.org)
476:login:Penguin
22/04/24 20:58:53.21 NHQlztSx.net
>>475
ありがとうございます
477:login:Penguin
22/04/25 01:49:54.00 UGDT6XoN.net
archでzfsなんて使うもんじゃないよ
478:login:Penguin
22/04/25 02:14:07.93 qqwuYFp1.net
archなんて使うもんじゃないよ
479:login:Penguin
22/04/29 23:54:58.67 s+FK0s2a.net
aufsみたいな、FSの上にFSを被せる系のFSで
今安定しておすすめのやつってどれになんの?
480:login:Penguin
22/04/30 08:59:34.13 l4CFJUkJ.net
OverlayFS
481:login:Penguin
22/05/08 18:53:38.55 840uxcKI.net
Fedora36めっちゃいいぞ
完全にGnome一強時代の到来を感じさせる作り
482:login:Penguin
22/05/08 20:41:55.97 XFL8YPf4.net
ファイルシステムにGnome関係ないやん
483:login:Penguin
22/05/08 21:10:39.72 840uxcKI.net
誤爆っす
484:login:Penguin
22/05/09 18:57:31.40 KxV+cFub.net
Fedora36に際してはBtrfsをやめるなんて議題にも上がらなかったところを見ると
デスクトップに関してはBtrfsは安定したと考えて良さそうだね
485:login:Penguin
22/05/12 05:32:10.71 IH8uyqjg.net
SUSEなんて何年も前からエンタープライズ領域でbtrfs使ってるからな
486:login:Penguin
22/05/15 14:09:34.67 SB3ccrEq.net
>>444だが自宅NASも本格稼働して嬉しいので書き込む。
M.2. ext4 /
2xSataSSD btrfs(raid1) ~/work
3xCmrHDD btrfs(raid0) ~/tmp
1xSmrHDD ext4 ~/arc
SATAカードは起動が遅いので外した。
snapperは便利だけれど自宅では不要だった。職場では評判良い。
鳥はUbuntu, CentOS7(kernel3→5), SuSEの順で試して大差ないので、好みの問題でdebianにした。
CPUは最初の200GE以外は、R3-1200, R5-2400G, RPro5-4650Gを試して差がない。メモリも1x8GB, 2x8GB, 2x16GBで変化なし。
487:login:Penguin
22/05/28 03:18:22.46 NSOwZ8lu.net
aufsってカーネルのメインラインからいつの間にか外れてたんだな
488:login:Penguin
22/05/29 16:31:35.70 1BV98f7M.net
ZFSのARC上限を制限するチューニングですが、これってどんなpros/consありますか?
ZFSでなくても、Linuxなどはメモリがあるだけキャッシュするのが一般的と思ってます。(手元のbtrfs使ってるPCのbuff/cacheは17Gi表示)
わざわざ制限するのはどういう理由からか、知っている方いれば教えて頂きたく。
489:login:Penguin
22/05/30 09:15:53.34 wJQ/WRFV.net
>>488
DBサーバーだったら、DB自体がキャッシュするから、ファイルキャッシュしない方がいいよ。メモリ勿体ない。
490:login:Penguin
22/05/30 11:13:19.91 uyd0SUnZ.net
>>489
ありがとう。用途はNAS、docker、vm少々です。
DBサーバーだとARCよりDBにメモリ回した方が良さそうですね。参考になります。
491:login:Penguin
22/05/31 18:09:50.63 bZp66LZU.net
XFS 5.19で改良・高速化予定
URLリンク(www.phoronix.com)
492:login:Penguin
22/06/01 18:58:04.34 dOLmiJfZ.net
Btrfsが安定した今ではもう用済みのFSだな
493:login:Penguin
22/06/01 19:59:57.13 CRtSl/+G.net
Btrfs の良いところって透過的圧縮?
494:login:Penguin
22/06/01 20:51:56.99 +2lVFzvV.net
良いところ・・・
・fsck不要、マウントが成功すればファイルシステムはclean(ということになっている)
・スナップショット、サブボリューム機能
・Copy on Writeのファイルコピー
・透過的圧縮
・ファイルシステムの機能としての複数デバイス機能(JBODっぽいやつ、RAIDなど)。ただしRAIDはRAID5など未完成。
・send/receive機能
他の~~ファイルシステムだってその機能はあるだろ!というのもあるけど、別にBtrfsだけの機能という話ではないので・・・
495:login:Penguin
22/06/01 20:58:14.09 0rwCsUmC.net
ブロック単位での重複排除も期待できる
496:login:Penguin
22/06/01 21:06:15.90 LSU9vOwc.net
俺は xfs 使ってるから助かる
実際に恩恵を受けるのはあとだろうが
497:login:Penguin
22/06/01 21:31:24 Pey+ovy8.net
シングルディスクだとXFSにするかBtrfsにするか迷う
498:login:Penguin
22/06/01 21:58:21.64 8yJK90kV.net
Btrfsは凄い高機能な割にリソース食わないのが結構嬉しい
499:login:Penguin
22/06/01 23:58:59.25 DS4CLYHo.net
btrfsはファイル内容のcheck summingがあるので安心感ある。
500:login:Penguin
22/06/03 08:33:27.69 DazIiVq4.net
ZFSでZVOL使うのとBtrfsで.imgファイル作って使うのに特質すべき差ってある?
>>495
これが出来たら良いのに
501:login:Penguin
22/06/03 08:54:01.39 uBwlU6Ky.net
>>500
普通に出来るぞ>>404
502:login:Penguin
22/06/03 10:51:57 Dqry4wE4.net
Btrfs の色々な機能を使っている人は、インストール時点では/に一通りをインストールしてから、新規のパーティションのフォーマットをBtrfsで適切なフラグ付けて、mount オプションも適切なフラグ付けてってされていますか?
その後、/var の中身を移動させるとか。
インストーラの時の設定のみで良いのか疑問です。
503:login:Penguin
22/06/03 11:49:54.71 xcPUldd7.net
昔xfsでCoWを有効にした時には
ディストリのインストーラーのソースコードを弄ってフラグ変更したな
再フォーマットでID変わると不具合出る事があるからその方が安全だと判断した
504:login:Penguin
22/06/03 12:28:46 Y9pyqtcH.net
>>501
ありがとう
パッチ当てなくても良いのか、後で試してみる
505:login:Penguin
22/06/04 13:30:50.83 KfY54W04.net
>>502
Arch Linuxをbtrfsオンリーで使っている。
他のディストリ事情は分からないけど、btrfs自体は圧縮やCoWのOFF/ONは後でディレクトリとファイル単位でできるし、subvolumeも後でpoolからいくつでも切り出せる。
一部のmount optionもsubvolume単位で変えられる。
自分の場合、partitionを分ける理由はsubvolumeで変えられないoption(autodefragとか)を使いたいときぐらい。
使い方次第だけど、分けたくなったら後でsubvolumeを切り出したりresizeすればいいかと。
/varとかはrsyncで適当に移動しているけどArchは動いている。
1byteの差も許せない場合はlivecdとbtrfs send/recvを使うのかな。やったことないけど。
506:login:Penguin
22/06/04 13:50:50.68 8D7RtrEH.net
これは生きてるんかな
URLリンク(github.com)
mysqlfs
MySQLfs is Linux userspace filesystem which stores data in a MySQL database. It uses FUSE to interface with the kernel.
507:login:Penguin
22/06/06 04:14:57.99 dUD2Slaj.net
>>505
btrfsのマウントオプションは今のところ
最初にマウントされた時点のオプションが
同じファイルシステムからの後のマウントにも一律に適用されるのであって
例外はほとんどない(それこそsubvol指定ぐらいである)はずなんだけど
「サブボリューム単位で変えられるオプション」って逆に一体どういった物のことなんです?
上記の理由で圧縮周りもCoW無効もサブボリュームトップのディレクトリにプロパティを適用する事でしか
いちファイルシステムに混在で運用出来ないって認識なんですが……
URLリンク(btrfs.readthedocs.io)
508:login:Penguin
22/06/06 13:43:25.52 pqWX/OuS.net
>>507
あ!申し訳ない。。btrfs WiKi FAQ を見直したら確かにsubvol以外はまだ Planned だった。。訂正します。
ただ、圧縮とCoWはsubvolではなくディレクトリ、ファイル単位にできている。
URLリンク(wiki.archlinux.jp)
chattr +C で CoW無効、chattr +c 圧縮有効かな。確認は lsattrやcompsizeで。
空ファイル以外はファイル作成後の変更は効かないかも。。
btrfsはopenSUSEが標準でrootfs対応していてsubvolumeやsnapshotも色々考えられているようなので、VMなどに入れて参考にするのも良いかと。
509:login:Penguin
22/06/06 18:08:26.83 prkafuiv.net
>>508
chattr で CoW 無効にしても swap file にしようとすると結構ボロボロだった経験が…
今はマシになったかな?
510:login:Penguin
22/06/06 18:57:02.07 pqWX/OuS.net
>>509
swapfile、どうなんですかね。。
btrfs使い始めた頃はswapfile無く、ずっとswap partition切っているので分からず。。
使っている方の情報知りたいですね。
511:login:Penguin
22/06/06 19:25:13.95 xU/tX20b.net
CoW のおかげでファイルコピーが早く終わるシチュエーションが思いつかない
512:login:Penguin
22/06/06 20:02:57.70 w0jkq8L7.net
ファイルコピーがCoWってのはBtrfsの1つの側面に過ぎなくて、
Btrfsの重要なところは、既存ファイルの上書き保存であっても、(chattrで無効化してなければ)常にCoWがなされるってところなんだ。
つまり、既存ファイルの上書きでも、ブロックが上書きされるんじゃなく、新しいデータが別のブロックに書き込まれてから、
当該ファイルがそのブロックを参照するようにメタデータが変更される。
だから何だと言われると困るが・・・
513:login:Penguin
22/06/06 21:16:10.91 pqWX/OuS.net
cpでreflink使うと巨大ファイルのコピーでもすぐ終わるのが便利。raw imageの簡易バックアップとか。
reflinkはCoWの副産物の認識。
変更箇所が少なければ容量の節約にもなってるはず。。
514:login:Penguin
22/06/07 06:25:40.64 fVuIiiKk.net
CoWなのに上書きはそのまましちゃうファイルシステムなんて存在するの?
515:login:Penguin
22/06/18 02:18:08 r1TLOhzS.net
いまのカーネルはスワップファイルとその物理領域をロックして直接アクセスするので性能はスワップパーティションと変わらない
そのときcowは発生しない
516:login:Penguin
22/06/19 16:03:31.02 qsibPTFk.net
ZFSですが、ashift、recordsize、volblocksizeなど重要パラメータがいくつもあるようで、最適設定が分からずにいます。
詳しい方のアドバイス頂きたく(できれば仕組みや考え方も。。)
用途:ホームサーバ(NFS、KVM)
H/W:CPU:Xeon E3-1220 V2 RAM:16GB SSD:CT1000MX500 x2 HDD:ST8000DM004 x2
ホストOS: Debian 11 bullseye (OpenZFS)
KVMゲスト: Linux、OpenMediaVault、Windows10
この用途だと、SSDとHDDのashift=12(4K)、データ倉庫のrecordsize=1M、VM用zvolのvolblocksize=16K かなと考えているのですが。
517:login:Penguin
22/06/23 16:58:16.36 TMc4AaIu.net
5.20でXFSがIOuringを使うようになるみたい
btrfsも対応中で近いうちに使えるようになる
518:login:Penguin
22/06/23 17:38:09.63 Ep5Zy0Ip.net
>>516
> HDD:ST8000DM004 x2
私だったらの話ですがこのドライブ(SMR)をZFSで使うのは割と勇気が要ります
事例リサーチの上でご決断を
ashiftは12で良いでしょう
recordsize や zvolブロックサイズについてはより詳しい人をお待ち下さい
519:login:Penguin
22/06/23 19:52:23 v0yzdsN/.net
>>518
ありがとうございます。
SMRは確かに遅いけど、現状自分の使い方だとbtrfsであまり気にならないので、ZFSでもいけるかなと。
さすがにWin10 VMは難があると思うのでSSDへの配置も考えてます。
520:login:Penguin
22/06/24 00:22:37.02 76F5ouZf.net
>>519
私もだいぶ前バラクーダ2TBでZFSを試した事があり
その時S.M.A.R.Tのなんだかの値がやたら増えたんです
(なんてやつだったかは忘れてしまいました)
「ZFSをSMRドライブで使うとデータロストするかもよ」みたいな記事もある様で
怯えた私はCMRドライブを手に入れバラクーダはテレビ録画用(FSはXFS)に回してしまいました
521:login:Penguin
22/06/29 21:10:55.45 ZhJGgCK1.net
Metaの巨大なデータセンターでメモリを大幅に節約するための「透過メモリオフロード」とは?
URLリンク(gigazine.net)
522:login:Penguin
22/07/25 12:10:29.58 oBMCUNvG.net
ZFSの暗号化ですが、ZILやl2arc使う場合特に注意する点あります?
attach先poolの暗号化が適用される、であってますかね?
523:login:Penguin
22/08/15 08:35:31.40 Wqm7CiAN.net
OpenZFSでdRAID使っている方います?
安定性や性能、使い勝手はどうなのか参考にさせて頂きたく。
524:login:Penguin
22/08/19 15:16:48.11 9vosFDnq.net
このところautofsとかいうのにハマりつつある
車輪の再発明?別にfstabや手動マウントでじゅうぶん?
いやー面白いじゃん マウントしてないのにcpコマンド打ったりしたときに自動マウントされて通ったりするの
525:login:Penguin
22/08/19 15:57:20.70 iSOCHkdV.net
そういえばそんな仕組みもありましたね。
ftpのマウントとかと組み合わせると案外便利なのかもしれませんね。
526:login:Penguin
22/08/19 16:02:37.91 9vosFDnq.net
なおNFSとSMB(CIFS)は余裕で設定できた
527:login:Penguin
22/08/19 17:59:05.93 9vosFDnq.net
>>525
これなかなかいいですよ
URLリンク(i.imgur.com)
528:524
[ここ壊れてます] .net
幾多のNASやFTPやクラウドストレージをマウントしていてもサービス再起動するだけで一括アンマウント
mountコマンドやfuseで使えるものならなんでも動的マウントが可能
WANストレージを多用する人には有用 かもね
529:login:Penguin
22/08/20 17:03:02.98 w2f/OM+r.net
>>527
ええなそれ
530:login:Penguin
22/08/20 17:14:13.96 Puzy2tFv.net
>>529
代表的なプロトコルの設定例はこちら
Autofs - ArchWiki
URLリンク(wiki.archlinux.jp)
531:login:Penguin
[ここ壊れてます] .net
なおautofsはローカルストレージにも使える
fstabでnoauto指定したマウントポイントにアクセスするまではマウントしないという使い方
例えばバックアップ用やマル秘ファイル満載のHDD、使うまではオフラインにしておくなんて事が可能
多少の電気代とコマンド叩くカロリー節約にはなる
532:login:Penguin
22/08/20 22:40:25.42 seP7+Qij.net
> fstabでnoauto指定したマウントポイントにアクセスするまではマウントしないという使い方
これLinuxでは結構手こずるわ
FreeBSDなら当該行頭の#を消すだけ
533:login:Penguin
22/09/12 11:27:55.61 EKZ5iDu6.net
外付けのデータがこっそり壊れてる可能性がある、
というのを極力避けるためにwindows捨ててlinux(btrfs)使う価値ある?
そもそもそんな破損の仕方はそれほど起こらない?
534:login:Penguin
22/09/12 12:29:19.52 wJlIRGX5.net
OSやファイルシステムのせいにする以前に
ヘタったストレージはさっさと交換して廃棄しちまえ、とだけ
付け加えるとしたら消えたら困る様なデータの保管先が中古ドライブだったらもってのほか
535:login:Penguin
22/09/12 13:27:25.39 EKZ5iDu6.net
> ヘタったストレージはさっさと交換して廃棄しちまえ、とだけ
定期的に新しいHDDに移してはいるんやけどね
10TBとかのデータをまったくの欠け無しにどんどん世代交代してくなんて可能なんかと不思議でさ
保存中に気づかない欠けが発生したりしないもんかと
その点ファイルシステムがハッシュチェックしてくれたら少なくとも気づくことはできるかなと思った
zfsやらbtrfsやらを使ってる人でその宇陰でデータ破損に気づけたという経験をした人はここにいる?
536:login:Penguin
22/09/12 13:31:33.85 8VmosxAD.net
クレクレ君が張り付いてんなら俺は何も情報出さんよ
普段どんな構成で運用してて現在どんな状態か等を「正直に」カミングアウトすれば別かもしれんが
537:login:Penguin
22/09/12 14:01:17.47 saGl8sEK.net
ファイルシステムの機能以前にそんなに完全性を気にするなら普通はベリファイなりハッシュチェックなりかけるので…
538:login:Penguin
22/09/12 18:05:47.10 ty0CoN/s.net
Oracle Linux 9 は btrfs サポートするのかー、と今調べた。
RHEL 9 も次では btrfs 復活させないのだろうか。
539:login:Penguin
22/09/12 19:21:01.75 /T1h+qWP.net
情報出さんよと煽れば情報貰えると思ってる
クレクレ君が張り付いてるな
540:login:Penguin
22/09/12 19:50:06.79 iumAOYEz.net
欠けるってなんだ
ディスクのチェックすり抜ける破損なんてあるか?
541:login:Penguin
22/09/12 21:01:49.15 zezXgxg3.net
> 情報出さんよと煽れば情報貰えると思ってる
>>536か?
あの短い文章で気持ち悪さを醸し出せるって大した才能だよ
542:login:Penguin
22/09/13 00:27:35.82 /2PyzOea.net
>>538
Oracle Linuxは普通に8でもbtrfs使えるので・・・
そりゃ自分のところで作ってるんだから当たり前である
543:login:Penguin
[ここ壊れてます] .net
もうsolarisぶん投げたんだからzfs移植してくれればいいのに
544:login:Penguin
22/09/13 10:55:34.31 26SDvzTI.net
>>540
> 欠けるってなんだ
> ディスクのチェックすり抜ける破損なんてあるか?
RAID スクラビングでググれ
H/w RAID 製品だとデフォなんで結構あるんじゃね?
545:login:Penguin
[ここ壊れてます] .net
>>544
そういうのはあるけど
質問者のいうファイルシステムを変えたからって回避できる問題ではないよね
546:login:Penguin
22/09/13 13:04:17.87 IWngxX9u.net
oracle にはzfsをGPL化して解放して欲しい。
もう面倒見る気ないでしょ。
547:login:Penguin
22/09/13 15:20:48.56 26SDvzTI.net
変更しないデータは iso ファイルで固めた後にパリティアーカイブコマンド
(par2 コマンドとか MultiPar(Windows) とか) でパリティ付けてるわ。
誤り訂正符号なんでパリティをギガ単位でつけておけばギガ単位でデータロスト
しても修復できるんでお勧め。
548:login:Penguin
22/09/14 08:36:54.95 3+fnCgkr.net
arch の XFS のドキュメント見てたら、カーネル5以降で使えるようになった機能への記載もあって良かったよ。
CoWはよくわからんが。
URLリンク(wiki.archlinux.jp)
549:login:Penguin
22/09/14 12:38:59.56 bYfFHp12.net
RHELがbtrfs捨てたんだからbtrfsはもうダメって雰囲気から、未だにbtrfs採用しないとかRHELは遅れてんなみたいな雰囲気にまで変わったのは何気にすげーわ
550:login:Penguin
22/09/14 13:52:40.76 nq/UBHqF.net
RHELというかRed Hatには早くファイルシステムレベルの透過圧縮を実現して欲しい。
アプリ側で圧縮展開なんて面倒すぎてやってられん。。
551:login:Penguin
22/09/14 14:21:54.84 3+fnCgkr.net
>>550
どのオペレーションの事言ってるの?
圧縮するとパフォーマンスに影響あるから、理解して使わないとダメだと思うのだけど。
552:login:Penguin
22/09/14 17:32:22.56 5xcyS0Dn.net
確かに適用先は気をつける必要があるね。
自分の場合はサービスアプリの大量のJSONログ。zstdならAWS EBS節約にかなり効果ある。
通常のOS領域でも、lz4ならパフォーマンス上がるという報告もあるし。
553:login:Penguin
22/09/15 11:18:18.47 lBhke55s.net
Redhatはbtrfs捨てた代わりにstratisとかいうの開発してただろう
使ってる人いるのか知らんけど
554:login:Penguin
22/09/15 11:54:40.70 Cc+Q8Ruh.net
ここからのリンクでRAID5,6 でbtrfsは、まだ問題抱えている気はする。
パーソナルユースでRAID5,6 使う人は多くないから問題ないのかな。
URLリンク(btrfs.wiki.kernel.org)
CoW はDBのファイルシステムに向かないという話もあったと思う。
そんな事を気にし始めるとext4いいね、って一周するんだけど。
555:login:Penguin
22/09/15 12:02:30.08 Cc+Q8Ruh.net
直っているねかも
Btrfs RAID 5/6 Sub-Page Support Readied For Linux 5.19
URLリンク(www.phoronix.com)
556:login:Penguin
22/09/15 12:04:36.92 U8x9yY/A.net
RHはxfsに梶切っていた認識。
btrfsは開発facebookメインで圧縮もfb自身が実環境で使ってる記事あった気がする。
世界最大級のサービスで使われてるのは強みかな。
557:login:Penguin
22/09/15 15:05:48.87 tkXHiVbC.net
>>554
これってデータベースが更新頻度の高い巨大なバイナリだからって意味だよね?
cowの利点は活かせないけど特段デメリットも無い気がする EXT 4に比べるとパフォーマンスが落ちるぐらいかな
558:login:Penguin
22/09/15 16:29:17.79 FJNLk0E4.net
RHはxfsに舵を切ったんじゃなくてファイルシステムからは撤退でしょ
EMCやNetAppと違って利益に直結しないbtrfsにお金かけられないよ
559:login:Penguin
22/09/15 17:05:26.20 TtrJqiPo.net
btrfsはファイル毎にCoW切れるからDBも行けるよ。まぁ本気でやるなら専用パーティション切れってのは確かだけど
560:login:Penguin
22/09/15 18:15:23.16 RUJ684lp.net
レッドハットはXFSに行ったけどfedoraはbtrfsなんだよな?
561:login:Penguin
22/09/16 01:39:51.29 UTE3VPOH.net
デスクトップだけね
fedoraサーバーはbtrfsではなかったはず
562:login:Penguin
22/09/16 01:45:24.63 UQnaXGMd.net
Fedora Server で btrfs インストール時に選べるよ。
ただ LVM との組み合わせではリストに出てこないから、利用できないと思われているかも。
563:login:Penguin
22/09/16 18:46:30.95 6/pTtJMl.net
RedHatは社内にBtrfs詳しい人がいないから採用予定はないってさ
ここで言う詳しいは客からのバグ報告を基にBtrfs側に修正パッチ投げられるレベルの話ね
564:login:Penguin
22/09/16 21:58:38.00 kHteBK8Y.net
それでいうと、RedHatはじゃぁ、「サポート」しているパッケージ、ソフトウェアは全部、その「詳しい」人が社内にいるのか・・・と思ってしまうのだが、そうなのか?
まぁあれだけのサポート料とるからには、そうなのかもだが。
565:login:Penguin
22/09/17 00:39:25.45 MKyVd3Sm.net
>>564
結構のカバー率でいるよ
XはカバーしきれないからWayland作ったし
PulseAudioも外から触れないからPipeWireを作った
RedHatはサポート出来ないなら代替プロジェクトを自前で立ち上げるくらい本気でやってる
566:login:Penguin
22/09/17 01:05:36.96 odAvhWZF.net
そんな話を聞くと Red Hat 好きになってしまうじゃないか。
567:login:Penguin
22/09/17 04:58:39.63 Fuq/3f9P.net
dockerの代替も作ってたな
568:login:Penguin
22/09/17 07:48:18.00 bk9onoJP.net
Podmanか。アイコンがかわいい。
569:login:Penguin
22/09/17 08:01:27.63 Qn7DNwb1.net
PodmanってRHなのか。ひょっとしてkubernetesと相性良かったり他に無い連携機能あったりするのかな
570:login:Penguin
22/09/17 08:52:56.30 /jdXCmzy.net
>>565
pulseaudio外から触れないってどういう意味?
571:login:Penguin
22/09/17 13:25:14.54 bk9onoJP.net
Podmanはkubernetesと直接の関係はないけど、buildahがOpenShiftと関係ある。
OpenShiftのコンテナのサポートはbuildahやDeploymentConfigなどのRH製で作ったもの以外は断られる場合がある、となってたはず。
実際は柔軟だと思うけど。
572:login:Penguin
22/09/17 18:26:31.06 VWuq5bLf.net
外部のボランティアが動かないせいで苦情を放置する訳にもいかないからね
特に複数ソフトウェアの相性によるバグは相手のせいにし合って永久に解決しないから
両方RHで管理してしまうのが一番手っ取り早い
573:login:Penguin
22/09/18 04:47:32.52 7cdIxJDp.net
dockerが将来性や互換性や内部のゴタゴタで揉めてたころ、redhatがコンテナ実行環境を掻っ攫おうとしたけどdockerがなんか復活して失敗したプロジェクトだろpodman
574:login:Penguin
22/10/02 07:20:03.97 4EGz31vy.net
それにしても最近のBtrfsの安定感は凄い。
Fedoraユーザーだから透過圧縮を有効にして数年使っているけど
全く不具合発生しなかった。
コミュニティでも不具合報告がないしデスクトップ用途なら実用レベルに達した気がする。
575:login:Penguin
22/10/02 08:36:33.18 vgUhfbS4.net
URLリンク(btrfs.wiki.kernel.org)
使える機能と不完全な機能ははっきりしているよ。
576:login:Penguin
22/10/02 10:09:03.49 4EGz31vy.net
カーネル4.xx時代には普通に使ってぶっ壊れた経験がある
577:login:Penguin
22/10/02 10:27:26.51 qpkp4YD/.net
RAID5と6だけは一向に進まんな。まぁ、使わないけど……
578:login:Penguin
22/10/02 10:32:03.81 vgUhfbS4.net
mostly OK: safe for general use, there are some known problems that do not affect majority of users
これとか、英語オモシロって読んだけど。
579:login:Penguin
22/10/02 10:35:50.11 MGDUtQ70.net
ZFSにLinuxとFreeBSDの独立したデータセットをつくってマルチブートしてるんだが
Linux使用後にFreeBSDを使うには一旦FBSDインストールメディアでimportする必要がある
この手間さえ無ければZFSになんの不満も無いんだよなあ
580:login:Penguin
22/10/02 13:25:43.40 wWzX4YlV.net
あとZFSはストレージプールからのデバイスの削除ができない。デバイスを誤って追加した場合でも、削除はできない。
btrfsは一応削除できる。削除しようとしているデバイス上のデータを他のデバイスに移動させる時間がかかるけど。
デバイスの削除ってあまり使われない機能なん?
581:login:Penguin
22/10/02 14:52:07.45 /bQPOp78.net
単純なストライピング(RAID0)の場合なら zfs remove でできるけど
582:login:Penguin
22/10/02 22:35:50.60 ToQkc5fj.net
正確には zpool remove ストレージプール ブロックデバイス
583:login:Penguin
22/10/03 10:14:47.82 WCTJZs5Z.net
ZFSで、別のマシンで同じpool名で使ってたディスクを同じマシンに付けた場合、どうやってimportするんでしょうか?
584:login:Penguin
22/10/03 11:11:57.84 GcIDZGw0.net
ちょっと質問文が紛らわしいので私なりに整理
マシン1にてtankというpool名でimportしていたZFSパーティション or ZFSアレイがあるとする
↓
マシン1をshutdownし、プールtankとして使用しているストレージをマシン2へ接続する
↓
稼働しているマシン2にてプール名はそのままにtankをimportしたい
こういう事なら実施命令は簡単
# zpool import -f tank
585:login:Penguin
22/10/03 12:22:12.91 lRZrkpv7.net
説明不足ですみません。
disk1: マシン1で tank として使用中
disk2: マシン2で tank として使用中
の状態で、
disk2 をマシン2から取り外し、マシン1に取り付け、importする方法、の意図でした。
目的はdisk2のtankからのデータのサルベージです。
586:login:Penguin
22/10/03 12:50:12.36 GcIDZGw0.net
こちらは仮想ストレージで構成を再現したものです
現在の構成はおおよそこんな感じという事ですかな
URLリンク(i.imgur.com)
ブロックデバイスの状態・予定サルベージ先ストレージ等不明かつ当方に時間の余裕が無い為
申し訳ございませんが実際のサルベージ手順は他の方のご回答をお待ち下さい
587:login:Penguin
22/10/03 12:55:56.27 GcIDZGw0.net
あ、違うな
マシンが2つあってzpool(非RAID)も2つあり、どちらもpool名がtankという事か
tank(disk2)の状態を提示し回答をお待ち下さいませ
588:login:Penguin
22/10/03 12:59:04.03 GcIDZGw0.net
状態の信憑性を高める為に、状態提示は端末エミュレータのスクショ貼りがおすすめです
589:login:Penguin
22/10/03 23:47:10.71 dtV7H3/+.net
ありがとうございます。
調べたところ、zpool import poolname newname でいけそうな感じでした。
仮想環境で試してみようと思います。
590:login:Penguin
22/10/04 08:26:10.23 bNT9y4ds.net
物理環境があってサルベージが目的なのに仮想環境で試すとはこれ如何に
591:login:Penguin
[ここ壊れてます] .net
物理には同じ名前のプールがあるから物理でやる前に試すってことじゃないかな?
592:login:Penguin
22/10/04 12:06:58.73 kn3LxMYm.net
やっぱzfsは駄目だな
時代はBtrfs
593:login:Penguin
22/10/04 12:49:05.71 2+bfy/ol.net
BtrfsからZFSに出戻ったわ
特にスナップショット使いが難くてダメだった
594:login:Penguin
22/10/04 18:34:25.31 ImjmuMcI.net
子データセット(Btrfsだとサブボリューム)がある時の一括バックアップの使い勝手は
ZFSに軍配があがるなー
595:login:Penguin
22/10/05 19:10:58.86 8EmBrLW8.net
スレリンク(linux板:922番)
btrfs のパフォーマンスが6.1で上がるニュースを教えてくれた人がいる
596:login:Penguin
[ここ壊れてます] .net
いっつもパフォーマンス上がってるな
597:login:Penguin
[ここ壊れてます] .net
……と思ったら今回は割とガチ目の上がり方だな
URLリンク(i.imgur.com)
598:login:Penguin
22/10/06 18:08:03.26 avGMmg5J.net
Open ZFSの更新来てた(∩´▽`)∩
599:login:Penguin
22/10/09 15:01:09.59 rXr5IkAi.net
zfsの実際のrecord sizeはいつ決まるのでしょうか?
ググった範囲では、record sizeは(dataset指定サイズの範囲で)動的に決まる、決まったあとは変更されない(再作成が必要)、と認識してます。
ファイル書き込みはwrite(2)やfwrite(3)で行われると思うのですが、全てのプログラムが大きなバッファを用意しているとは限らない気がしてます。
zfsにはwriteback用にtxgという領域があるようですが、非同期書き込みのreocrd sizeはtxgがflushされる際に決定されるのでしょうか?
(もしそうであれば、同期書き込みはfsync(2)時に決定?)
600:login:Penguin
22/10/10 12:36:41.47 aroMbFWo.net
NTFSクラスタサイズを後から変更するにはどのような方法があります?
フリーで探し手いるのですが、minitool や aomei無料版は非対応のようで。り
601:login:Penguin
22/10/19 00:38:57.76 8S0s8MKH.net
XFS & F2FS Changes Are Tame For Linux 6.1
URLリンク(www.phoronix.com)
602:login:Penguin
22/10/26 21:27:04.04 4URvJJm4.net
Linux 6.2 Aims To Ship Updated Zstd Implementation
URLリンク(www.phoronix.com)
Zstd with Btrfs transparent file-system compression performance the decompression speed was "a small win across the board" and at lower compression levels the compression speed and compression ratio were both better than the prior kernel code.
603:login:Penguin
22/11/07 08:35:37.59 RMBZpOPP.net
暗号化鍵ってみなさんどう読み込ませてますか?
手入力だと強さに限界や起動時コンソール前にいる必要があると思うのと、何より面倒。。
かといって同じマシンに置くと平文になると思うので。
604:login:Penguin
22/11/09 22:33:21.52 KvH0BOKS.net
システムパーティションは暗号化せずにおいといて、盗まれたら困るデータだけ別のパーティションにおいてそこは暗号化している
起動したらSSH(SSHのサーバー鍵は「盗まれたら困る」には当たらない)して手でパスフレーズ入れて復号化
手入力の場合の強さの限界は、ストレッチングで多少は緩和される。
605:login:Penguin
22/11/21 05:26:42.47 QKr0PUfj.net
BitTorrent File System (BTFS)
URLリンク(www.bittorrent.com)
なんだこれは・・・たまげたなあ
606:login:Penguin
22/11/21 19:44:06.85 yefmWMbF.net
これが本当の分散ファイルシステム
607:login:Penguin
22/11/22 13:05:00.91 gnE97F4D.net
概念的には昔からあるが今のインターネットじゃいろんな部分の性能保証がないから実用性がね
608:login:Penguin
22/12/02 13:21:39.17 lH0jw8OM.net
赤帽エンジニアブログ
2022-12-01
XFSで使った以上に容量が減るナゾ
リンク貼れんかったので
609:login:Penguin
22/12/04 13:25:00.37 MfcKUhyk.net
ファイルシステム関連のドキュメントはBtrfsもxfsもOracle Linux のが親切だな。
URLリンク(docs.oracle.com)
610:login:Penguin
22/12/04 16:07:29.87 Ye7QwRkv.net
Oracleは宗教上の理由でちょっと……
611:login:Penguin
22/12/13 18:07:58.13 sT4F2h1k.net
URLリンク(www.phoronix.com)
6.2からbtrfs raid5の信頼性が上がるらしい
612:login:Penguin
22/12/20 11:30:51.92 0v1vCYwT.net
zstdもアップデートされて高速化されるみたいだし6.2は重要なアップデートになるな
613:login:Penguin
22/12/20 18:04:21.86 0v1vCYwT.net
exfatも6.2で速くなるみたいだな
614:login:Penguin
22/12/20 18:46:15.08 fyhGCDZv.net
6.1 が重要そうで、Debian のコードフリーズに間に合って喜んでいたんだけど...
カーネルだけならアップデートしてもほとんど失敗しないし、別にいいんだけど。
615:login:Penguin
22/12/20 22:50:57.03 de7d8g5m.net
昔はshutdown -rFでfsck走ったけどbtrfsは気にしなくていいの?
VMシャットダウンした時とかに気になって。
616:login:Penguin
22/12/21 00:04:24.39 qmUzV3jd.net
shutdownコマンドは古くて問題があったので廃止されてる
systemctlを使おう
617:login:Penguin
22/12/21 02:19:04.96 q6nimIuc.net
使ってるのだが...
618:login:Penguin
22/12/21 12:46:38.28 EhRPJEI6.net
今は大抵shutdownとかもsystemctlへのリンクになってるやろ
619:login:Penguin
22/12/21 12:57:38.99 q6nimIuc.net
ホントだ
shutdownとして呼ばれると適切に読み替えてくれるんかな?
# shutdown -r now
# shutdown -h now
620:login:Penguin
22/12/21 19:12:15.59 5YV/Phng.net
普通にpoweroffかrebootが1語で済んで簡単で良い
621:login:Penguin
22/12/29 08:21:21.62 TYlqFk7p.net
ファイル名の長さ制限なんとかならん?
622:login:Penguin
22/12/29 09:36:29.31 YrPvt7JI.net
前は制限あったけど、今もあるっけ?
623:login:Penguin
22/12/29 10:06:03.55 2nJ5CorQ.net
ファイルのダウンロード中にLinuxのext4ファイルシステムが突然クラッシュしてOSが動かなくなった。
保存先のディレクトリのファイルがすべて操作不能、削除不可能状態になった。
物理的な衝撃とかもまったくなく、突如として起こったトラブル。
再起動したらLinuxはうまく立ち上がらず、セーフモードに。
けっきょく再インストールするハメになったが、インストールに失敗する。
いろんなディストリを試したが、どのディストリでもインストール中にエラーが出て止まる。
インストールメディアの破損もなければ、HDDの破損もない。
DVDドライブも普通に焼くことができるのに。
こんなことがあるんだね。安定しているファイルシステムはなんだろうか。
624:login:Penguin
22/12/29 10:06:58.53 otCbGAW+.net
>>621
無制限なのはパス名の長さで、ファイル名はほとんどのファイルシステムで長さに制限があるはず
625:login:Penguin
22/12/29 10:07:45.99 otCbGAW+.net
>>624
>>622
安価ミス
626:login:Penguin
22/12/29 10:33:59.58 ZePSKeUC.net
>>623
> こんなことがあるんだね。
ビジネスだと物珍しいレベルではないかな。
最近は出荷前検査の精度が上がってて初期不良減ってるから物珍しいレベルになりつつあるけど。
症状的には CPU/マザボ 故障が疑わしい。 その次はメモリ。
ドライブもファイルシステムも無罪だと思うわ。
つうか、ext4 ってまともなメンテナ居るのか?
ドライブ故障のトレンドに追随できてないファイルシステムは使うべきではないよ。
627:login:Penguin
22/12/29 10:58:58.47 ZDryYAQt.net
>>623
ZFSならsnapshotからロールバックで戻せるんじゃない?
628:login:Penguin
22/12/29 11:02:16.35 ZBJb5QBa.net
>>622
ext4が255バイトでNTFSが255文字(Unicode16)なんで困るんよ
vfsにハードコードされてるぽいんでダメだろうけどダメ元で聞いてみた次第
629:login:Penguin
22/12/29 11:16:06.03 Sx2YLUkq.net
流石に無知がすぎるだろ
ext4なんて現在進行系で開発されまくってるファイルシステムだぞ
あと絶対に壊れないファイルシステムは無いから
ext4よりbtrfsやzfsのほうが壊れにくくはあるけれど
630:login:Penguin
22/12/29 11:26:50.12 ZePSKeUC.net
>>629
本当に開発されまくって言えるか?
Red Hat 系使う奴は xfs ばかり使うし、その他のディストリも btrfs だったり。
ファイルサーバ製品もハード直結独自FSばかり。
ext4 は使われていない/充分なデータが集まっていないだろ。
631:login:Penguin
22/12/29 11:32:23.29 pqXRLrrR.net
6.1でのext4の変更
URLリンク(lore.kernel.org)
632:login:Penguin
22/12/29 12:10:45.55 O8F+4wx8.net
ext4が使われてないってどこの世界線なんだ…
クラウドではほとんどext4だろう
633:login:Penguin
22/12/29 12:27:56.45 ZePSKeUC.net
>>632
amazon も ext4 やめて xfs でしょ?
634:login:Penguin
22/12/29 14:06:41.98 YrPvt7JI.net
ここのベンチマークの結果だとext4は速い方なので、いい印象持っている
URLリンク(hesonogoma.com)
635:login:Penguin
22/12/29 15:32:08.76 zAcLS6l6.net
ファイル名については昔Linusが255バイト制限緩めても今度は1MBじゃ足りないっていい出すに決まってるから対応しないって言ってなかったっけ
東アジア圏だとutf8で更に厳しくなったけど、今ならファイル名に長々情報持たせるほうが悪いって言われそうだしな
636:login:Penguin
22/12/29 23:22:37.08 yFWCe43l.net
英語圏の人は漢字圏特有の問題を理解しないからな
637:login:Penguin
22/12/30 00:00:29.63 A61NzzNw.net
使えるパスの長さは AIX や Solaris の方が少し制限が緩いようにも見えるし、文字コードがUTF-8 じゃなかった頃の設計のせいにも見えるね。
URLリンク(www.ibm.com)
638:login:Penguin
22/12/30 13:20:02.61 9woIQjbF.net
OpenShift4 のPVはext4だった気がする。間違ってたらスマン。
639:login:Penguin
22/12/31 00:08:37.77 FTj3W6ps.net
>>638
デフォルトはね
設定で変えられる
640:login:Penguin
22/12/31 02:05:18.30 xELcB+Gr.net
linuxの文字数制限が不便でNASを使用しなくなったことがある
641:login:Penguin
22/12/31 12:09:04.56 P2xYG+Vx.net
ファイル名がUTF-16で記録されるexFATだとLinuxでも全角文字255文字フルに使えたからファイルシステムによるんじゃない?
642:login:Penguin
22/12/31 16:44:14.18 QpXj8X5v.net
fusuで実装されてるからでは?
643:login:Penguin
23/01/03 22:18:56.96 qEN3cyhG.net
>>639
なんと。。圧縮したかったのでbtrfsで圧縮出来ればいいなと思ってた。
RedHatだから無理かな。。
644:login:Penguin
23/01/03 22:25:23.88 wEpuZtJW.net
ログを延々と吐き続ける用途にbtrfsは向いてますかね?
CoWが邪魔したりしませんか?
645:login:Penguin
23/01/04 12:49:11.56 0uCFlsnQ.net
GpartedでUSBメモリをexFatでフォーマットしている途中で進捗が止まり、そのまま。
USBメモリがどうやら物理的に壊れてしまった。
PCに挿し込んでもそのUSBメモリだけがまったく反応なくなった。
Linuxのインストール途中で失敗しつづけている。
悪いこと続き。Linuxの神様に見放された模様。
646:login:Penguin
23/01/04 12:59:21.38 PQqENS/b.net
邪魔の意味は分からないけど、性能はともかくデータ化けとかの心配は無いのでは?
CoWが提供するのは堅牢性や一貫性確保だと思う。
CoWがダメならzfsにはログ保存できないことになってしまうし。。
647:login:Penguin
23/01/04 13:06:12.57 K9sTb1hf.net
ZFSはブロックレベルの重複排除だからCOWでも問題無いとかの話?
648:login:Penguin
23/01/04 13:10:20.00 xX40yDLp.net
ログファイルってコピーして使うか?
普通しないからCoWが邪魔はしないでしょ。
ランダムアクセスするファイルならRAIDで向き不向きあるけど
ファイルシステムで向き不向きはないと思う。
649:login:Penguin
23/01/04 14:17:37.35 n7gUnUO1.net
データベースやVMのディスクイメージみたいな1つのファイルを何度も上書きするパターンはCoWと相性が悪いと聞くな
当該ディレクトリのCoWを無効化すればいいけど、してもI/O性能が上がる程度で有効のままでも別に問題なさそう
650:login:Penguin
23/01/04 23:08:47.39 xX40yDLp.net
Btrfs の場合、CoW有効のファイルを書き込んだ後に以前書き込んだ部分を上書き
するとドライブ上ではそのブロックを上書きせずに別ブロックに書き込む動作をする。
「ファイルコピーしたファイルでのみそれが発生する」と思っていたがそれは俺の
勘違いで、実際は全ファイルでそれをやるってことか。
まあでもログファイルはシーケンシャルアクセスだから(ブロック単位の
上書きは発生しないから)CoWが邪魔しないことに変わりはなさそうね。
651:login:Penguin
23/01/04 23:43:18.43 FNVxHNKk.net
ログで質問したものです。
皆さんありがとう!
色んな考察が聞けてためになりますた。
VMはCoW無効にするのが常識とおもってて、
ログとかの追記も関係あるのかと思った次第です。
とりあえず何もチューニングせずに使おうと思います!
652:login:Penguin
23/01/08 00:55:03.06 fvHOPfXO.net
debianのtestingに降りてくるまで一月ほどかかるなぁ
653:login:Penguin
23/01/12 22:26:05.98 mpGk/a+b.net
ext4はシステム向け、xfsは倉庫向けと考えてok?
654:login:Penguin
23/01/13 08:54:10.86 7OCE97ZZ.net
どうしてそう思った?xfsデフォのディストリもあるが
655:login:Penguin
23/01/13 13:01:18.72 ZKf8B51+.net
大きいファイルなら速いけど壊れやすくメモリ食うのがxfs縮小もできない
ext4は逆
656:login:Penguin
23/01/13 23:06:07.68 0qCLEX6/.net
>>653
RHEL9 から dump/restore は OS に添付されなくなった。
何かあっても保守/問合せ対象外。
EPEL として残ってるから完全に対象外というわけではないだろうけど。
その観点でいうと ext4 はコンテナ向け、xfsは物理向け、なのかも?
657:login:Penguin
23/01/14 15:10:17.93 iY56yVZu.net
じゃあbtrfsはなに向け?
てかbtrfsはscrub定期的にしないとダメなの?
658:login:Penguin
23/01/14 15:54:59.93 V6u7C4fp.net
zfs にコンプレックスを感じる人向け、というのは冗談として
ext4 の後継と思っている。
659:login:Penguin
23/01/14 16:53:12.51 QwD6oUxh.net
>>658
やっぱそういう位置づけだよね?
何故かQNAPはbtrfsをディスってるけどw
URLリンク(www.qnap.com)
660:login:Penguin
23/01/14 18:20:11.77 2OMLCN0j.net
>>659
草
BtrfsでNAS作られると(高機能すぎて売りが無くなるので)困るというのが伝わってくるw
661:login:Penguin
23/01/14 21:07:01.17 g3eX2Qbu.net
Linuxのファイルシステムはどれも一長一短で決め手にかける。「用途とか関係ない、これにしておけばまずOK」ってのがない。
ext4は大容量ドライブでfsckが遅く昨今の大容量なディスクドライブに作成するには向かない、
xfsはfsckは大容量ドライブでも問題ないが縮小ができないしメモリも食う、
btrfsはfsck不要、CoWなど「モダンなファイルシステム」とされるが、比較的新しいファイルシステムでやや心配がある、枯れていない、遅い。最近はまともになってきているが。
ZFSはライセンスの問題・・・
一方、選択肢が多いのは良いこととも言える。他のOSだって問題はいろいろあるし、OS、FSともに完全無欠のものはないけどね。
662:login:Penguin
23/01/14 21:16:49.66 rbIBgCNH.net
Debian系はデフォルトext4なのは何でだろ
663:login:Penguin
23/01/15 00:04:50.52 Ra9CuA6A.net
>>661
xfsって壊れやすいって本当?
なんかレガシな感じがして受け付けないんだよね。
そういやreiserfsはタイーホ後からどうなったのかね?
当時は先進的だったけど。
664:login:Penguin
23/01/15 00:57:20.31 U8aJCTCE.net
>>663
reiserfsは非推奨になってて2025年に削除される予定
665:login:Penguin
23/01/15 01:23:26.89 jySrgcCZ.net
ファイルサーバーにZFS使ってるけど安定してる
RAIDZ2組んでて一度HDDが一つ壊れたけど復旧も簡単だった
666:login:Penguin
23/01/15 06:15:01.79 q2QeSNOE.net
ZFSはARCが重いんだよな
LRUよりは効率的だけど計算量が多いわ
667:login:Penguin
23/01/15 08:13:26.23 SoJu/Q0J.net
>>663
xfsはCOW導入で安定性が落ちたという話は聞いた気がするけど、その続報を聞かないな。話題になってないってことは安定したのか、皆避けてるのか
668:login:Penguin
23/01/15 09:47:24.45 41MzzQ/0.net
xfsは近いうちに縮小サポートするつもりがあるらしい
URLリンク(www.phoronix.com)
669:login:Penguin
23/01/25 09:13:08.26 s6TfkC2/.net
圧縮ファイルシステムでおすすめを教えて
主にテキストのログをどんどこ吐きたい
670:login:Penguin
23/01/25 11:26:23.80 wEwhbV4v.net
btrfsかF2FSかな
ログ出力用途ならF2FSのほうが向いてそう
671:login:Penguin
23/01/25 15:47:31.31 EXync9nW.net
金持ってたらgpfs使いたいんだけどな
安定性は元々HPCやエンタプライズ向けだから折り紙付き
パスは255"文字"だしPOSIXで圧縮・暗号・ネットワーク共有・スナップショット・SSDキャッシュ等々
たいてい何でもあり、重複排除はあるのか知らんが
672:login:Penguin
23/01/25 17:35:43.32 wEwhbV4v.net
分散ファイルシステムならcephでよくないか
673:login:Penguin
23/01/25 18:44:15.18 YTKQNNVA.net
完璧ファイルシステムないよな
文房具みたいなもんでやりたいことがいろいろバラバラなんだろうな
674:login:Penguin
23/01/26 18:29:31.56 5ioFGUAk.net
当初から設計にも実装にも問題がなければ個人ユースではbtrfsがさいつよだったんだろうけどな
余りにも不具合が多過ぎた過去があって未だに怖くて使う気にはなれない
675:login:Penguin
23/01/26 21:02:06.47 2TRuZoTN.net
最近は不具合聞かんね
676:login:Penguin
23/01/27 05:54:54.78 xQJ6/CVG.net
btrfsだから不具合の噂が広まるみたいなところもあったと思う
去年か一昨年あたりにLinuxのext4がぶっ壊れてた時期があったけど別に広まってないし
677:login:Penguin
23/01/27 07:51:44.90 ZyeIUH9X.net
ext4とは頻度も不具合の数も全然違ってた
動画かスライドショーか忘れたけど当時のバージョンのbtrfsを意図的に壊す色々な手順を紹介してた
強引にじゃなくって長年使ってればそういうケースもあるだろうって手順だったからな
全員って訳じゃないが当時を知ってる人の多くは使い始めるのに躊躇するんじゃないかね
678:login:Penguin
23/01/27 07:58:31.41 7Jsb5HY4.net
みんなが寄ってたかっていじめ抜いて鍛え上げられたFSとかむしろ信頼できるという発想
679:login:Penguin
23/01/27 10:39:51.30 LqrORYKx.net
Copy-on-write のファイルシステムは、良い面もあるけど想定のパフォーマンス出ない時や、使わない方が良いケースを理解できたのは btrfs のおかげ。
680:login:Penguin
23/01/27 11:47:37.09 DOUGg5n2.net
cgroup v2に対応しているファイルシステムがbtrfsしかないからコンテナを厳密に運用しようとするとbtrfs使うしかないんだよな
Facebookがbtrfsを使ってる理由がこれだったはず
681:login:Penguin
23/01/27 12:48:20.39 BloaE25Y.net
ミラーリング対応してるファイルシステムはZFSとbtrfsくらい?
682:login:Penguin
23/01/30 16:25:27.84 Yst6JOSz.net
btrfsってもしかして面倒くさい?
空き容量少なくなってくるとSSDでもランダム書き込みが遅くなる
ファイル消してもメタデータが容量を食っている
btrfs使うなら定期的にbalanceしないとダメ?
倉庫用HDDなら、
ファイル圧縮
チェックサム
誤操作での削除防止や他ストレージへの差分バックアップにスナップショット
とかでbtrfs特有機能が生きてくる気はする
だがシステムドライブは安心と信頼のext4で良いんじゃないかと
あるいは、nodatacow使えば一つのパーティションで
非COWとCOWのファイルシステムの
両方のいいとこ取りが出来る?
683:login:Penguin
23/01/30 17:58:00.76 QsirhNqB.net
ファイル消して容量減らないのはメタデータなんかじゃなくて以前スナップショット切ったとか、コピー元ファイル残ってるとかだゾ。全く食わんとは言わないけどメタデータそんなに容量食わない。
空き容量減ってランダム遅くなるのはSSDってそういうもんだ。
/homeはスナップショットや圧縮がすげー生きるよ。
684:login:Penguin
23/01/30 21:39:58.49 3GnoYZPi.net
仮想ホストとゲスト両方共にbtrfsにしたのは失敗だろうか。。。
685:login:Penguin
23/01/30 22:09:54.52 BqpcEk1B.net
btrfs、ファイルを削除してからdfコマンドで見える空き領域が増えるのには少し時間がかかる
長いときでも5分とかだけどね
>>684
その書き方だと仮想マシンのイメージファイルもbtrfsのファイルシステムにあるのか?
仮想マシンのイメージファイルとか、データベースのファイルみたいなファイルをbtrfsに保存するときはCoW無効化しておくほうがよいぞ
686:login:Penguin
23/01/30 22:38:55.10 ljXAAj+j.net
半導体不足で納期が悲惨な頃にNASが壊れて、急場しのぎで作ったbtrfs+snapperが好評過ぎて今までズルズル使われてしまった。壊れるの嫌だから全くイジってなかったけれど、退役後に色々試すの楽しみ。kernel上げだけでも楽しみ
687:login:Penguin
23/01/30 22:59:40.33 3GnoYZPi.net
>>685
レスありがとう。
いちおうゲスト格納ディレクトリには
chattr +Cしてるけど、大丈夫かな。
ゲストの中身もbtrfsなんだよな。。。
NASとかでないのでオーバースペックだったかと後悔しそう。
新しいモノ好きだから飛びついてしまったよ。
688:login:Penguin
23/01/30 23:59:54.60 BqpcEk1B.net
ファイルを作成したあとにchattr +Cしてもダメやで
正しいやりかたはググって調べてね
689:login:Penguin
23/01/31 00:00:55.84 2mO0kE8y.net
おっと、空ファイルに対するchattr +Cは有効だった。詳細は調べてね
690:login:Penguin
23/01/31 11:32:18.48 f+A2MWdo.net
>>688
作成する前は良いということですね。
ありがとうこざいます。
これってディレクトリに対してのみでファイルには無効でOK?
691:login:Penguin
23/01/31 17:20:25.87 HmGFYeTA.net
>>690
ディレクトリに設定したら再帰的に適用される
692:login:Penguin
23/01/31 17:22:17.29 HmGFYeTA.net
>>691
間違えた
新しく作るやつは再帰的に適用される
693:login:Penguin
23/02/01 00:54:19.49 yopUQd5j.net
>>692
という事は別ディレクトリで作成したqcow2を+Cした
ディレクトリに持って行ってもダメかな?
よーわからん。
694:login:Penguin
23/02/01 03:51:07.30 tpP0IbWl.net
移動では+Cは付かない
コピーでは付く
移動してファイル個別に付けても良いけど
695:login:Penguin
23/02/01 03:53:43.37 tpP0IbWl.net
6.1がdebian testingに降りてきたぜ
696:login:Penguin
23/02/01 23:52:41.52 yopUQd5j.net
>>694
コピーね。ありがとう。
sparce=alwaysとかは必要ない?
何度もスマン。
697:login:Penguin
23/02/02 00:25:43.38 hcW9Z7Y7.net
pveをbtrfsのraid1でインストールしたら、2台のディスクに3つのパーティションができました。
raid1で動いているかどうか確認するコマンドってありますか?
filesystemはbtrfs fi dfで確認できるけどBIOS bootとEFI Systemが分かりませんでした
/dev/sda1 BIOS boot
/dev/sda2 EFI System
/dev/sda3 Linux filesystem
片方でPartition 1 does not start on physical sector boundary.が出てるので
いったんパーティション削除したいです(startが63でなく34なのが謎ですが)
698:login:Penguin
23/02/12 13:48:12.47 7Z1dKUR0.net
mkfs.btrfs -m raid5 -d raid5
mkfs.btrfs -m raid1 -d raid5
どっちで作る方が良いのかな?
最初後者で作ったけれど考え直して前者で作り直した。
検証しなきゃ分からないだろうしそもそも発展途上なので先々どうなるかわからないもんな。
699:login:Penguin
23/02/12 22:34:29.85 S/60aV97.net
ファイルごとに変更履歴を自動で管理してくれて個別に戻したりできるファイルシステムってある?
700:login:Penguin
23/02/12 23:26:51.65 dzVqQeMY.net
nilfsならできそう
701:login:Penguin
23/02/13 12:26:37.97 AX/0I8RO.net
>>700
ありがとう
確認してみる
702:login:Penguin
23/02/13 20:01:13.11 4TOJtyKq.net
メタデータやデータベースみたいにランダムアクセスするデータをRAID-5に
書き込むのは効率が悪いぞ?
例えばストライプサイズが 256KB で4本構成の場合、768KB のデータは256KB毎に
分割されてドライブA,B,Cに、パリティ計算結果はドライブDに格納される。
この状態でランダムアクセスで4KBだけ書き換えるとどうなる?
768KB中400KB目~403KB目までの4KBだけ書き換える場合、書き換えるのは
ドライブBの144KB目~147KB目までだけじゃないぞ。
ドライブDのパリティ256KB分も書き換えなきゃダメ。 RAID-1なら8KBで済む。
下手するとこれで済まないのが RAID-5 の困ったところ。
パリティ計算する際には768KB分メモリに無いと計算できないわけで
それがメモリキャッシュ上に載ってない場合はパリティ計算する前にドライブA,B,C
から256KBずつ768KB読み込みが発生するのよ。
加えてデータベースの、特にトランザクションログやファイルシステムのメタデータ
はロールバックの関係上非同期書き込みではなく同期書き込みが要求
されるので、書き込みを開始して完了するまでの応答時間が長いRAID-5は
相性最悪なんだわ。
わざわざデータ領域とは別の RAID で格納できるように設計されてるのは
そのためってこった。
703:login:Penguin
23/02/13 20:20:34.53 JTKPzsuw.net
>>702 ありがとう。
もうガッツリ -m raid5 のにデータ移してさっきお古のHDD群を物理的に破壊してしまったよ。。
>> ドライブDのパリティ256KB分も書き換えなきゃダメ。 RAID-1なら8KBで済む。
いやあ言葉がないや。わざわざ -m raid1を作ったのに作り直したのは、
「きちんと理解していないのに直感だけで小賢しいことするのは辞めよう」
と思ってのことだが、今度からは教えて貰えるチャンスあるうちは待つは。
まだ7.5TB利用なので、別機の2x4TBをraid0にすれば引っ越し→再構築→データ戻しできる。
暫くは放置するので、追加のアドバイスがあれば教えて貰えると嬉しいです。
704:login:Penguin
23/02/13 21:41:25.50 4TOJtyKq.net
>>703
ググったらマウント状態でも btrfs balance コマンドでデータもメタデータも
プロファイル変換が可能ってでるね
705:login:Penguin
23/02/13 21:44:39.92 JTKPzsuw.net
安全をみてデータ引っ越しはしときます。やっぱ変換するのが良いと自分も思います
706:login:Penguin
23/02/13 21:58:45.29 JTKPzsuw.net
>>699
snapperではダメ?
管理は個別ではなく全体だけれど
707:login:Penguin
23/02/14 22:15:27.73 zXFCtktD.net
btrfsのautodefragって効いてるのかどうか分かんない
新しく書いた所だけデフラグする?らしいけど
どれくらいデフラグされたか確かめる方法ある?
708:login:Penguin
23/02/16 11:21:23.54 /WojQc/b.net
btrfsのRAID6はいつになったらまともになるんだ
いつまでたってもzfsから移行できないじゃん
709:login:Penguin
23/02/17 09:48:18.19 uNGkbDLs.net
手動デフラグしてみたら空き容量が減ってしまった
balanceとかやってみるも
完全には戻らず
710:login:Penguin
23/02/17 18:25:31.71 AiQPR/Bg.net
共有されてるブロックが分離されるからそりゃそうよ
711:login:Penguin
23/02/18 00:56:42.19 aXHYSk4s.net
btrfs ムズくね
利用者少ないからかドキュメント限られてるし
hdd2台のrootfsをraid1で組んだ状態で試しに片方抜いたらブートがinitramfsで止まって手動でmountしようとするとuuidエラーになるし
712:login:Penguin
23/02/18 00:59:33.31 bx15a+Yc.net
片方死んでも稼働し続けられるのが売りなのにできないんじゃ意味ないじゃないかw
713:login:Penguin
23/02/18 03:13:01.06 A8aXfPDr.net
degraded付けてもだめ?
714:login:Penguin
23/02/18 07:18:25.82 tuV/P6l4.net
uuidエラーってことは設定が悪いのでは?
715:login:Penguin
23/02/18 07:40:47.96 A1++0POV.net
ルートにRAIDシステムを置くのは難しそう
対応しているOSに自動でやらせたほうが良いかもしれない
SUSEならbtrfsも対応してるかな
716:login:Penguin
23/02/18 09:06:35.90 DgURQKYs.net
自分も最初は同じように思ってSuSE試したよ。(3年くらい前)
サブボリュームの多さに面食らったので運用でのルートbtrfs化は見送った。
今のSuSEは知らないけれど、当時は自分で勝手に、
ルートは枯れたext4、作業領域はbtrfs.snapperの1hスナップ、
書庫はbtrrs.raidが楽で便利だと判断したので、身の回り全部似たような構成で使ってる。
717:login:Penguin
23/02/18 10:31:13.19 twWJoBAa.net
>>710
まじかー
もう失われた容量は戻らない?
718:login:Penguin
23/02/19 12:24:28.89 OSikgBLx.net
>>717
Dedupe したら回復できると思う
719:login:Penguin
23/02/19 12:42:34.82 Tj6dSDxL.net
便乗質問だけども、btrfsのdeduplicaterって標準では無くて外部ツールとしては複数あって迷う
おすすめないですか
720:login:Penguin
23/02/21 00:10:45.66 iEvEQd/E.net
>>719
URLリンク(github.com)
721:login:Penguin
23/02/21 05:54:30.86 8Yznb6GH.net
>>720
サンクス
722:login:Penguin
23/02/21 15:15:05.49 OVQUFzCG.net
>>713
/etc/fstabにdegraded入れるだけだとだめみたい
>>714
raid1構成でbtfs filesystem showで見えるuuid(fstabにも記載済み)と片方HDD外してinitramfsで止まった時に表示されるuuidが違うのよ
>>715,>>716
PVE使おうとしてて、btrfs raid1でインストールすると/がraid1構成になるのよね
723:login:Penguin
23/02/21 18:46:40.18 AcBGErVl.net
そうなんだ。
btrfs.raid1の/がデグレードで稼働しないのなら、
実際に試したことないから知らなかったけれど、想定外で驚くな。
念のため重ねて聞くけれど、
mount -o degraded /dev/sd? /mnt/point
やってもダメってことだよね?
724:login:Penguin
23/02/22 14:40:39.18 4Tk2fUng.net
>>723
こんな感じでした
①initramfs起動した後にmountを打つと「none on / type rootfs (rw)」が表示されている
②①の後にmount /dev/sda3 /を打つとuuidエラーとなりmountで確認してもマウントされてない
③②の後にmount -o degraded /dev/sda3 /を打つとUnknown parameterと言われ失敗しているように見える
④③の後にmountを打つと①の表示+「/dev/sda3 on / type btrfs…」と表示されてマウントできてるように見える
⑤④の後にcat /etc/fstabを見ても空ファイルで/がマウントされてないように見える
⑥exitでinitramfsを終了すると何か処理が走った文字列が表示され途中で止まる
725:login:Penguin
23/02/22 18:56:00.22 dGS8PrBY.net
>>724
>>マウントできてるように見える
こんなことになるんだな。ごめん僕には力になれない。
本当に余談だが、
自分は>>716の経緯でbtrfsを使い初めたので/のbtrfs化はしていない。
それでもkernelとbtrfs-progsは最新を追っている。まだ先駆的な技術だと思っているので。
自分らには/のbtrfs化はまだ早いのかも。とにかく力にはなれないがトラブル報告はありがとう。
726:login:Penguin
23/02/26 21:16:26.06 y+Rs3+YS.net
URLリンク(www.phoronix.com)
SSDFSなるものが出たらしい
727:login:Penguin
23/03/01 11:49:18.70 IHR5nPEA.net
NASに超~~~長いファイル名を生成して何も出来なく成って焦った。
ドラッグ&ドロップがダメ、ファイル名の修正もダメ、ツールもダメ。
コマンドプロンプトも「cd」はUNCパスは設定出来ないからダメ。
ネットを検索したら光明が見えた。「pushd」というコマンドを使う。
このコマンドはUNCパスでもAドライブにするスゴイコマンド。
無事に自己解決できたでゴザル。FAQかもしれないが一応報告しとく。
728:login:Penguin
23/03/01 21:02:19.10 HRdkOpzu.net
コマンドプロンプト、UNCパスはダメでもネットワーク・ドライブに割り当てればコマンドプロンプトでcdできるのは有名だと思うが。
というか、cdにUNCパス食わせるとエラーでそう言われなかったっけ?
729:login:Penguin
23/03/01 21:15:14.10 /4LIBQ8q.net
>>727
ファイルをi-nodeで指定して扱う方法もあるよ。
大昔だけれど、日本語入力不可な接続環境で、
日本語のファイル|フォルダを扱いたくてこの板で相談して解決したことある。
全く関係ないけれど、
Linux板は年1回か2年に1回くらいしか自分はお世話にならなかったけれど、
たまたま前スレ見て何となく読んで書くのも何回かしてみて、ここは良いスレだわと思う。
730:login:Penguin
23/03/02 07:39:56.46 A4MiQ6bl.net
ネットワーク・ドライブに割り当てればコマンドプロンプトでcdできるのはFAQ?
了解しました。我輩は初めて知ったでゴザル。ネット検索でヒットしなかったでゴザル。
ネットワーク・ドライブはルートの位置でしかマウント出来ないので不便でゴザル。
「pushd」ならNASの深い階層まで一気に指定してマウント出来るのでゴザル。
731:login:Penguin
23/03/04 19:54:33.50 /cxB8+Mt.net
gio コマンドは?やったことないけどネットワーク利用
732:login:Penguin
23/03/04 20:16:18.23 03rUzW7Y.net
ござるござるよ須藤君は
ゆかいな味方 rootでござる rootでござる
733:login:Penguin
23/03/18 13:04:29.97 hp1PCPMP.net
外付けメディアをfstabに並べなくても/etc/udisks2/mount_options.confでデフォルトのマウントオプションを変えられることを今更知った
これでDOS/Windows系からファイルをコピーしてきたときに全部実行可能属性が付いちゃってるのを回避できる
734:login:Penguin
23/04/09 22:03:56.04 tKBjL/QK.net
Improved Btrfs Scrub Code Readied For Linux 6.4, ~10% Faster
URLリンク(www.phoronix.com)
735:login:Penguin
23/04/13 15:13:51.87 50/6OciX.net
btrfsサブボリュームの削除が終わらない
これで進行状況見ると、1 orphans left to cleanとだけ出る
ちなみにHDD
Ubuntu Manpage: btrfs-orphan-cleaner-progress - show progress information about background deletion of
URLリンク(manpages.ubuntu.com)
736:login:Penguin
23/04/13 15:40:25.18 RqzzYhCs.net
何かしら原因で消せないんだろ
737:login:Penguin
23/04/13 23:50:17.42 50/6OciX.net
0 orphans left to cleanになってもずっとbtrfs-cleanerが稼働中
738:login:Penguin
23/04/13 23:58:52.05 evst9FMc.net
BTRFS不具合多すぎるんよ
ドキュメントもほぼ役に立たないし
異容量でRAID1組めるだけに留めときゃいいのに
739:login:Penguin
23/04/14 07:12:15.26 uRZfur5f.net
それ不具合なんか?
740:login:Penguin
23/04/14 12:54:39.07 zN9HcqpB.net
>>737
Linux 6.1系と6.2系だけで起きるっぽい
カーネルを5.15系に戻したら起きなくなった
バグ?
741:login:Penguin
23/04/14 13:26:16.55 WV9NkO8E.net
パターフェスで作成した ループバック イメージ 領域が壊れた
情報がなくて復旧は諦めた
ルプバック イメージで利用するのはあまり良くないのかな
742:login:Penguin
23/04/14 14:17:50.69 ll+le78X.net
>>740
再現性あるなら、報告したら直してくれそう
743:login:Penguin
23/04/14 23:09:39.69 UtE0U0oG.net
VM格納してる場合や書き込み多い場合nodatacowでマウントだよな?
744:login:Penguin
23/05/02 22:27:14.82 Tj/lxdtz.net
ZFS使ってる人いる?
用途どんな感じ?
優位性、どんなときに感じる?
745:login:Penguin
23/05/04 22:38:33.53 jZW3xhNV.net
コマンドがわかりやすくて短くて簡単で使いやすいところ好き
746:login:Penguin
23/05/05 16:13:04.21 4ru5QHhK.net
ZFS、proxmoxで暗号化mirrorで使ってる。
標準で暗号化、冗長化、snapshot、ファイルシステム(dataset)、ボリュームマネージャ(zvol)、CoW、全て一つで完結してるのが魅力。
メリット: 色々組合せる必要無くシンプル、柔軟な設定(ARC、L2arc、slog、special vdev)
(敢えてあげれば)デメリット: ライセンス問題、他よりマイナー、datasetの速度、CoWを外せない、かな。
747:login:Penguin
23/05/05 16:42:27.83 4ru5QHhK.net
追記: ZFSはdebian on OpenZFS。
少ないメモリ(とswap?)でHDDにWindows VMのディスクベンチなど短時間に大量の書込をしたらpanicしたことがある。
arcやtxg最大サイズを適切なものにするのがオススメ。
URLリンク(openzfs.github.io)
748:login:Penguin
23/05/18 04:07:44.92 miq2544B.net
>>744
Hackintoshで使ってるOpenZFS for macos2.1.6
一種のゲーム的な面白さがあるのよ
このフォルダはほぼ開かないから
圧縮設定強めにzstandard で高圧縮してコピーだとか
このデータベースだけSSDに多く食わせようとか
xp時代のHDD先頭パテ切ってキャッシュにしたりするような
あれの延長上的な攻略的なゲームに
macOSの整理整頓軽の面白さが混じってて面白い
Spotlight面白すぎる
special vdevでメタデータとSmall BlockをべつSSDにする方法はないのか
749:login:Penguin
23/05/18 12:01:15.22 pqDKbYkL.net
返答の御礼も書かなかったバチが当たったようです
メインでWindows機を使っていて、USBケースで海門6TB(NTFS)使っていました。
1週間ほど放置したらノートPCの電池が切れてNTFSが飛び、chkdsk /f /rも無駄に。
750:login:Penguin
23/05/18 12:26:04.62 pqDKbYkL.net
無礼な行為、申し訳ございませんでした。
751:login:Penguin
23/05/19 15:31:20.97 pc5cPjAC.net
ええんやで
752:login:Penguin
23/05/19 19:42:36.15 OVp5aWkt.net
今時のファイルシステムって停電ぐらいで壊れる?
753:login:Penguin
23/05/20 01:43:56.19 f+BRu3lK.net
停電に見せかけたHDDの障害かもしれんんやで。
同じロットのHDD積んでいるんだろうな、と思われるものでマシンのが同時期に壊れるとか。
754:login:Penguin
23/05/20 13:26:23.98 tJIicwK0.net
ある時からぶっ壊れ状態となったが電源を切るまでは動き続け、
電源を切ったら再始動できなくなるというのはHDDの障害としてはありがち。
755:login:Penguin
23/05/20 14:49:07.18 x9c+lDqg.net
大分昔の職場で大型連休の度に全PCの電源を落としていたが
連休明けとかに何回か再起動を繰り返さないと立ち上がらないHP-UXが近くの部署にあった
開発な癖にそんな危なっかしい機体を放置してる部署もどうかとは思ってはいたがそれはともかく
一回スピンアップに成功すると正常に使えるように見えるって奴とかな
756:login:Penguin
23/05/20 15:30:50.35 BJ1BctDK.net
回転系の家電を叩くと治るというのもこれ
757:744
23/05/20 16:07:02.10 1mROoG1K.net
フリーソフトで、mp3の音楽ファイルが5つくらい復旧しました。
wmvファイルは、何故か全てが「信長の野望 戦国群雄伝 for Windows」からリッピングしたwmaファイルの断片群に化けていました…
chkdskなんて掛けないでUbuntuか何かのLive USBメモリで起動してマウントすべきだったのかも
758:login:Penguin
23/05/20 16:29:43.71 S1lvO3j3.net
バックアップ取ってから操作しようね
759:login:Penguin
23/05/20 17:13:57.50 ltXV8LvB.net
>>757
最後が違う。「マウント」しないのが正解。まず、OSを起動する前にBIOS/UEFIで問題のHDDが
表示されていれば認識しているので、Linuxを起動し、"/dev/sdX"とdevice fileとしてのみ
認識している(umountされた)状態で、以下の2つの方法を取ると、file復活の可能性が高まる。
・TestDisk (NTFSのMFT修復等のHDDの整合性修復。案外これで直ることも多い)
・GNU ddrescue (HDDの起動音から瀕死に近い場合。patition imageを別のdeviceに作成、
このimageをmountしてfile抽出を行う。物理破損がないHDDに多くの業者が取る方法がこれ)
760:login:Penguin
23/05/20 17:21:27.11 xJglHe8k.net
ワイでもできそう
761:login:Penguin
23/05/20 20:56:34.57 tJIicwK0.net
突然の電源断に対してはchkdskはそこまでおかしい選択肢ではない
一方でWindowsのコマンドラインのchkdskは、最近はほぼ放置状態(MSが改良を試みていない)という説もある
>>753が指摘しているように、本当に「突然の電源断」なのかっていうところもある
普通はノートPCはバッテリーが切れそうになったら休止状態とかに入るものじゃないのか
なのにHDD破損に至ってるのは、最初にHDDが故障して、OSも停止してスリープや休止に入れなくなり、バッテリーを使い果たしたのではないか?
762:744
23/05/20 21:06:45.56 ErTqN22p.net
chkdsk /f /r
の実行自体がダメだったのでしょうか
実行前にddrescue実行必須??
763:744
23/05/20 21:11:00.52 e/EvVloM.net
>>761
OSはm.2 SSDに入っていて、今も問題なく起動できています。
SEAGATE ST6000DM003をケースに入れてUSB接続したまま放置したらNTFSが死んでいて、Windows 11のディスク管理画面ではrawという認識となっていました。
764:login:Penguin
23/05/21 11:17:54.87 avtWY8kE.net
>>762
マウントすると I/O Error 起こすセクタに当たった時にそこを読もうとして
延々エラーを繰り返すので I/O Error を読み飛ばす系の dd (ddrescue とか)
や chkdsk/fsck かが必要。
ddrescue は操作している間にディスクが完全にお亡くなりになるリスクへの対策。
今回の場合ディスクが完全お亡くなりになってない(ファイルが5個サルベージ
できた)ので ddrescue してもしなくても同じだった可能性が高い。
なので chkdsk は判断としては正解だった(chkdsk の前の段階で手の施しようが
なかったんだ)と思う(個人の感想です)。
765:login:Penguin
23/06/04 02:44:53.33 OYHe40au.net
単なる不意の電源断がその場であって
ダーティフラグ立ってるだけと確証があるなら
chkdskかける判断はおかしくないけど
大原則として論理的な障害ではなく物理障害が
少しでも疑わしいと思えたらその時点で
そのハードウェアに触れるのは
必要最低限に留めてかつ迅速に行うべきで
理想的にはddrescueなりで出来るだけ完全(に近い)複製を安全な場所に取ってから
そのイメージやらファイルやらだけを相手に作業をすべき
壊れたハードウェアの上でパーティション情報やファイルシステムの論理的なチェックや修正をかけても
まずその操作で余計に状況を悪化させてトドメ刺すだけだから少しでも疑わしければ安易にやっちゃいかん
URLリンク(wiki.archlinux.jp)
766:login:Penguin
23/06/05 12:27:24.59 absDUdye.net
そこまでする価値のあるデータならそうするが、大抵の場合は本人が主張するほどに大事なデータではないんだよなぁという感慨しかない
767:login:Penguin
23/06/05 18:41:18.77 u6qS2404.net
今日は私の宝物をご紹介しましょう。将棋の駒。何の変哲もないように見えますけど実はここに血痕が付いてるんです。
768:login:Penguin
23/06/05 22:11:48.33 ureuPiWq.net
>>766
そもそも壊れたストレージごとき相手に
奮闘してまでサルベージしないといけない時点で普段から予算も手間も割いてないのは明らかだからな
そこまで必死になるほど真に大事ならバックアップコピーでもRAIDミラーリングでも
なんでもいいから冗長化していて然るべきなわけでさ
769:login:Penguin
23/06/13 12:24:13.46 lDxtctI3.net
btrfs、破損とかは今のところ無いが
謎のフリーズの問題やディスク書き込み量の増加に悩まされた
ZFSに変えようかな
770:login:Penguin
23/06/13 12:38:20.13 w4ejhCXL.net
フリーズはまあ分かるけど書き込み増加はなんだ?
771:login:Penguin
23/06/13 13:36:32.93 7Qy6hdZY.net
RedHatが匙を投げたファイルシステムを使うんだからその辺りは覚悟すべき
772:login:Penguin
23/06/15 02:23:28.18 KYvelAPC.net
>>770
cowじゃね?
773:login:Penguin
23/06/15 03:18:39.62 Ab0knFIL.net
>>772
CoWは逆に書き込み減るのでは
774:login:Penguin
23/06/15 09:10:07.34 oerfQs+R.net
defrag じゃね?
775:login:Penguin
23/06/15 12:09:56.16 iqXU0Muf.net
CoWで書込減るのってどんなケース??
776:login:Penguin
23/06/15 15:11:40.65 Z+lqZbOl.net
100MBのファイルをcpする場合
本来なら100MBの書き込みが発生するけれど
COWできれば共有で100MBの書き込みが省略されるので
本来の書き込み量に比べて実際の書き込み量は減るという意味なのでは
777:login:Penguin
23/06/15 15:15:45.67 k99mBPIK.net
変更されるまで実際には書き込まない
スナップショット的な動作を想定してるなら
CoWには限らない
778:login:Penguin
23/06/15 17:53:34.01 rJUVeeLq.net
ext4でcpしたら普通に書き込むやろ
779:login:Penguin
23/06/15 22:43:39.35 3807WRaz.net
なるほど。そういえばreflinkオプションあったのを忘れてた。
780:login:Penguin
23/06/22 18:18:22.21 tBmMKl6O.net
btrfsはやっぱりなんかあるのかな。
突然あるディレクトリ配下だけが全部サイズ0になってアクセスできなくなった。
でも、rootだと普通にアクセスできたから、とりあえずは復旧できた。
なんか気持ちが悪いんよね。
圧縮とサブボリュームが便利で気に入っているんだけど。
781:login:Penguin
23/06/22 19:27:01.68 uRZUK/qv.net
マウントの設定が書き換わってそう
782:login:Penguin
23/06/28 10:41:23.69 wJNVLCTf.net
Btrfsを使うならカーネルは常に新しくしておかなきゃね
古いカーネルでフォーマットしたBtrfsは不具合があるとかなんとか
783:login:Penguin
23/06/28 11:46:28.60 L4N4sWLK.net
カーネルに変えた時古いカーネルでフォーマットしたものはどうすればいいの
784:login:Penguin
23/06/28 11:56:03.93 8Cj153ze.net
そのまま使えばいいんじゃない?
新しいカーネルなら過去の問題は適宜検出してwarning出してくれると思うので。
785:login:Penguin
23/06/28 12:35:03.12 wJNVLCTf.net
そんな便利機能はないぞ
データを待避して再フォーマットするのが無難
786:login:Penguin
23/06/28 12:37:27.85 i0diXs6h.net
RAID6やZFS Z2がブッ壊れたときみたいらな
787:login:Penguin
23/07/02 15:26:16.54 mgIf5W3/.net
Btrfsを使うなら
FedoraかUbuntuの非LTSかローリングリリース系のディストリのどれかを使いたいね
それ以外だとしたらカーネルだけ最新にするキメラしないと厳しい