2007年05月31日 11:09 by ELF 上鍵

ネットから無造作にファイルを集めるクローラーのような物を作成しています。
集めたファイルは共通のNFSに格納する方式をとっています。
ファイルを集めるクローラーは複数台あり、NFSは1台構成です。

処理的には大量のファイル・ディレクトリを一気に作成していくのですが、
実際に動作させた所、ディレクトリ作成で「too many links」が頻繁に発生しま
した。

色々調べた所、ファイルシステムに問題があるという事に行き着きました。
現在NFSで使用しているファイルシステムはext3です。

ext3は大量にファイルを作る場合には、あまり向いていないようですが、
ファイルシステムにあまり詳しくないため、今回のような使用用途にマッチした
ファイルシステムが何なのかの判断が出来ません。

一応、私なりに調べた結果、「ReiserFS」「XFS」あたりが良いのかと思ったの
ですが(どちらが良いかは判断出来ません(><))、他に何か良いファイルシステ
ムがあれば教えて頂けないでしょうか?

それとOSはCentOS4.4です。

但し、CentOSの場合はReiserFS,XFS共に標準サポートではないので、ファイルシ
ステムに合わせてOSの変更も検討しています。

1: 口コミさん : 2007-05-31 11:38
とりあえず、両方試してみてはどうですか。
Linuxはそれができるシステムだと思います。
2: 口コミさん : 2007-05-31 12:41
1ディレクトリ配下に32,000個以上ディレクトリを作ろうとしていませんか?

他のファイルシステムを選択するのもよいですが、同様の使い方をしているとそう遠くないうちにディレクトリエントリに対するアクセスのパフォーマンス劣化の問題にもあたる可能性もありますから、ディレクトリをベタに使わず階層化して分散させる(1ディレクトリエントリ中のディレクトリ・ファイル数を少なくする)のがよいでしょう。

例1)パス中にドメイン名等 階層構造を持つものを分散のネタにする
/export/foo.bar.com/xxxxx -> /export/3/com/bar/foo/xxxxx
/export/example.jp/xxxxx -> /export/2/jp/example/xxxxx
/export/192.168.33.4/xxxxx -> /export/0/192/168/33/4/xxxxx
・最後のIPの場合だけ階層が逆(ディレクトリと同順)になるので 4 ではなく 0 を当てて例外扱いしたほうが美しいでしょう

例2)階層構造はないがパスがほどよくバラけているなら単純に先頭何文字かでぶった切ってみる
/export/qwertyuiop/xxxxx -> /export/4/q/w/e/qwertyuiop/xxxxx
/export/asdf/xxxxx -> /export/4/a/s/d/asdf/xxxxx
/export/zxc/xxxxx -> /export/3/z/x/c/zxc/xxxxx
/export/jk/xxxxx -> /export/2/j/k/jk/xxxxx
/export/P/xxxxx -> /export/1/P/P/xxxxx
・この例では先頭3文字で分散
 で、3文字以下の場合、.../z/x/c/zxc/xxxxx でなく .../z/x/c/xxxxx としても良い(決めの問題)
・分散のネタに直接パス名を使わず、hash関数にぶっこんでhash数値化したもので分散したほうがいいかも
3: みらい管理人 : 2007-05-31 13:50
ReiserFSは開発者のHans Reiserが殺人容疑で逮捕
されたりとか、色々な要因で次期開発が停滞しているので、
将来の移行可能性を考えると検討から外した方が良いのでは
と思います。私も色々な用途に使っちゃって今困ってます…

□Hans Reiser、離婚調停中の妻の殺害容疑で逮捕
http://slashdot.jp/articles/06/10/11/0535202.shtml
4: 口コミさん : 2007-05-31 20:57
2>
 1ディレクトリの制限があるので、ディレクトリは細かく分割しています。

3>
 まじですか!!
 出来る限りXFSをメインに考えたいと思います。

CentOS(RedHat)のXFSはまだ不安定とどこかで見たのですが、現在はどうなんだろう?
CentOS5も出たし

もしかしたら他のOSにした方が良いかも知れませんね。
XFSにする場合は良いOSはありますでしょうか?
無料ディストリがいいのですが、、

とりあえず、XFS,ReiserFSを動かして試してみたいと思います。
5: 口コミさん : 2007-05-31 21:20
ReiserFS でも上限は 65535だった気がします。
XFSは 4294967295だったかな?

こないだ CentOS 4.4+ XFSで 504000個のディレクトリ作成できる事は確認しております。

wikipediaのXFSの項目に、サポートLinuxの名称がちょこっと乗ってますね
http://ja.wikipedia.org/wiki/XFS
6: 口コミさん : 2007-06-01 12:56
丸さん、igarinさん、はじめまして、

> ReiserFS でも上限は 65535だった気がします。

すみません、これは違う気がします。
少なくとも、私の spamfolder (MH) には今 122223 個の
ファイルが置かれて平気なので…

あと、昔仕事で XFS を使ったときはファイル削除の遅さに閉口した
記憶が有ります。今は改善されているのかもしれませんが、
頻繁な削除が予想される場合は、これも事前テストをお勧めします。

reiserfs の将来を不安視する声は確かに有りますが、
(reiserfs4 ならともかく)
reiserfs3 は十分枯れた fs ではないでしょうか…

個人的には過去 7年間仕事と個人で NFS 込で使用して、
(SELinux 抜きなら) 安定性のみならず性能面でも
非常に信頼できる fs だと感じております。
7: 口コミさん : 2007-06-02 01:35
reiserfsはRedhat系で使われないため
評価が少ないだけではないのではないでしょうか?
昔はRedhat9をインストールしてext3を使っていたものの
あまりのファイル削除の遅さに耐え切れず
ファイルシステムを換えたのですが、
XFSとreiserfsを自作のベチンマークで比較すると
速度的にreiserfs優れていたため
自分はreiserfsを選択しました。
削除速度も改善され、数年間問題も特におこっておりません。

ところで、reiser4ってどうなんでしょう?
自作のベンチマークで色々試したのですが、
reiserfsを上回る速度は全く体感できなかったです。
(全ての速度面でreiserfsを下回った)
いつまで経ってもカーネルに組み込まれないともなれば、
これは不安要素にはなるなと…
8: 口コミさん : 2007-06-02 10:14
ZFSなんてどうでしょと呟いてみる。
私はネタや人柱希望向けのファイルシステムという認識しかないですが、もう少しこなれれば様々な面で明るい材料になると思います。
9: 口コミさん : 2007-06-06 11:17
ZFSってあるんですね。
ログインシェルはzshを使っているので、興味ありますが、会社で使用するのは微妙ですねw

色々試した結果XFSに決めました。
ありがとうございました。
10: 口コミさん : 2007-06-08 21:42
ZFS、Mac OS Xのファイルシステムに
http://www.itmedia.co.jp/news/articles/0706/07/news080.html

明るい材料!?
11: 口コミさん : 2007-06-13 04:03
>明るい材料!?
明るい材料。
私は暗い材料を提供。
ZFSはLinuxではライセンスの問題があるとか言ってますが、
どうなんでしょうか。
何でBSDに提供できてLinuxにはだめなんだろう。
SunもLinuxを大事にしてほしい。

最近のNASはスナップショットが使えるのでXFSを使うことが多いようです。
12: 口コミさん : 2007-06-15 18:52
XFSですが調べてみると64ビットのジャーナリングファイルシステムらしいですが、XFSのNFSサーバーを立てる場合は、CPUが64bitの場合、OSも64bitのOSにした方がいいでしょうか?
性能あがる?
13: 口コミさん : 2007-06-16 04:50
http://datafarm.apgrid.org/index.ja.html
目的にあうかどうかは不明だけど.

スレッド一覧

【求人】港区でのお仕事です【時給1700円以上】 【急募・東京】プログラマー&デザイナー Ubuntu11.10でバッファローNASLS-V2.0TLを使いたい crontabでcommandを5秒単位で指定する方法を教えてください メールサーバ、明日お昼まで受付。ご教示ください&疑問お答えします。sendmailをマスターしたい。 Linux Fedora Core4マニュアル USBメモリからブートする方法 MTA(ウィルス対策付き)のテスト方法について ICMP Destination host administratively 真剣に聞きたいのだが、Ubuntuの何が良いの? FMV-BIBLO LOOX P70でタッチパネル成功した方 OSのリストア syslog-ngってロストしますか? HDDから情報の救出。助けてください。 [Q] bdflushの設定値について 質問: egrepにおける正規表現の記述 inodeを増やす方法 セキュリティについて CDからの曲の取り込みとその管理、視聴 FedoraCoreファンの集い VMware Workstation v6.0の使い方 Ruby on Rails 現場ノウハウ講座(β) ネットをするための設定は?><) gcovとlcovについて。 教えてください。 RAIDが壊れたとき ffmpegをインストールしようとするとエラーが発生します。 無線Linux考 内部向けDNS設定 日本語がCUI画面で文字化けします。 「YouOS」というものについて Linuxが動くノートPCを教えてください HHKBの相性 情報源 サーバ構築時のソフトウェアインストール Ubuntuでネット How to? diffコマンドで,連続行の変更を1行ずつ取得する方法 ロシア、リナックス基盤に国産OS開発へ zenwalk linux 使っている人いますか? Linux Mint ネットブックで自宅サーバやってる方いませんか? 参加者を募集しています。 EeePC 4GのSDカードに linuxディストリビューションの種類・特徴・メリット・デメリットを教えてください アシスタント求人募集 fedoraネットワーク リモートデスクトップについて SLAX-6rc6の日本語化 シェルスクリプトを使ったsftp接続 中古のパソコンに入れるなら Mplayerのインストール ウィルス対策 vmwareにインストールしたCentOSをteratermで操作するやり方 ビジネスにおけるLinuxの未来をは・・・? Hackの内容、ご教授願いたい。 linuxっていろいろあるけど Windowsユーザーの初Linuxはどれが? NFS について パソコンの名前 Linux のための Google Earth はじめましてぇ〜! 「run-crons」について教えてください。 プリンター/スキャナー Linux でも動く mpeg4 H/Wキャプチャボックス はじめまして。 TUXくんグッズ デュアルモニター coLinux Linuxを使った便利システム XMMSって… Linuxデスクトップでウイルス HP のマルチユーザー PC LinuxWorld Expo/Tokyo 2004 Oracle Linux最強説 fedora 12にてインターフェースの設定 http://xx.xx/cgi-bin/x.prgでCGIプログラムを実行したい。 Couch DBの入門書 著者求む 【質問】 Ocsigen のインストール方法 画面に何も映らない。セーフモード Xenの管理OSでアプリケーションをの動かしてもいい? LPIC試験への道。 fedora7インストールについて Fedora8の設定について教えてください。 Quad Coreでのパフォーマンス 技術者を急募しています。 仕事。 Linuxで使うアプリは? 救ってください <質問>デスクトップでエラー ASUS M6R 740 NOTEBOOK に相応しいLINUX? linuxは重たい?>WinXP 初心者向け研修―Red Hat社のトレーニングってどうでしょう? パーティションを切る 今月のWindows系や自作DOS/V機系の雑誌にKNOPPIXのCDが付いてますね(^_^)。 自宅サーバが進入されました。 /dev/memって Xbox Linux fedoraがフリーズします for文について サーバエンジニア募集中! 新しいインターフェースが設定できない Slackware13.0のcifsでマウントしたファイルシステムの上でコンパイルしようとするとリンクに失敗する Linux の良さ おすすめ書籍を教えてください オープンソースの先駆けと対NDS宣戦布告 kernel hackに関する質問 #0x00 USBフラシュメモリーにLiveCDのLinuxを入れて持ち運ぶ rootからuserに戻る方法? Linux 標準バンドルされている 暗号化ライブラリを教えてください linuxとwindowsの狭間で 京都Linux友の会 linuxで1を変数01に変更して変数に格納する方法について。 モジュールとドライバの違いは? SSLの設定方法について Knoppixをインストールしたい。 漢字をかな変換するコマンド 【ノートPCで】タッチパッドが動かない!!HP 500 Notebook PC【LINUXを稼動♪】 usermodなどの使い方を教えてください。 ファイル特定の文字の出力方法に関して。 UbuntuでのWLI-U2-KG54使用について PlayStation Linux Users Group(PSLUG) のコミュニティを立ち上げました。 linux超初心者です。 time 複数コマンド 無線LAN環境は? おしえてください Linuxはじめてみようと思ってます。 一番、サーバーに向いているディストリってなんですかね? LINUX関連の本、サイト さしあげます パーミッション、所有者のバックアップ Linuxルータ オープニングパーティはいつですか? Kobo Touch と、その拡張性について質問 はじめまして &#32418;旗 Linux 。。。???  会社や学校で使っている環境は? リスク管理 【求人】 Linuxサーバ・ネットワーク管理者急募! NFSで &quot; No such file or directory&quot;が発生する メモリー128MBのノートパソコンにでインターネットに接続したい。 どーすれば!? [Q]Canon LBP5100を使う WebSphere Application Server のインストール方法 複数台のNFSサーバーを自動的にマウントしてくれるソフトウェアってありますか? delegate 無線LAN(bcm43xx)使えたのに災難?ログの山 mysqlのインストールについて。 linuxをyahooBBでインターネットをするには? IDE Microsoft と Novell の提携 Fedora Core5 「コミュニティ利用で気をつけてほしいこと」を掲載しました 初歩的な事なのでしょうが apache LinuxとEMT64 スクリーンセーバ 自宅鯖に使えるUPS デュアル CPU の功罪 Open Source Conferlence 2004 SELinux勉強会(4/17・渋谷) Cloud話よろず Cron Jobが実行されない 初心者用のくだらない質問トピック #3 mozc(モズク)コミュ作成しました sk_buffのh.rawって何を表していますか? DNS 皆さんは日本語入力メソッドに何使っていますか? shell作成で悩み あるユーザだけ作成できても、SSH/FTP/SFTPできない。 vsftpd topについて apacheが起動しているか確認するコマンドについて sshをパスワードなしでログインする おすすめの本ってありますか? SUSEについて 初心者用のくだらない質問トピック WEBカメラを設定しWebで公開したい rootで入れないみたいです。。 Libretto L1にturbolinuxFUJIをインストしたい NFSサーバーでCommitted_ASが日に日に増えていく smtpfeedの設定 Linuxで無線LANを使いたい TIPS 大量のファイルを保存するNFSサーバーに最適なファイルシステム Linuxリモートインスト無償配布 Grubについて教えてください。 zxLinux 苦労人志向 インストール時の設定 gentoo powerPCG4へLinuxのインストールについて質問 Open sourceについて。。。。 HDDベンチマーク 輸入ノート売ってるような店 音ユースにグッドなLinux向けノートって? mountする方法 クールに冷えるCrusoe! なサーバー on Linux REVOLUTION OS Linux World C&D/Tokyo 2004 レポート 5/4 『Linux ユーザーグループ北陸 勉強会』のご案内 初心者用のくだらない質問トピック #4 Linux デスクトップの普及#2 LPIC CentOSでのVASPのビルドについての質問。 TurboLinux 11Server SVNのインストール TurboLinux 11 Server (Musasabi) で PostgreSQL 教えてください openssl remove.....復旧 暗号化DVDの作成方法 Linuxトラブル・・・ ブート時:TUX君の数? 課題投稿 オリジナルディストリの作り方をご存じの方ご教授願います ブートLinuxでVistaの修復の仕方は? 読まれている雑誌 Linuxを前提としたパソコン購入 アナログビデオが一杯 愛用のLinuxは? 質問です。 Active Sync Linux Ubuntuのフリーズについて PC版i386vineをインストールしてサーバ運用したいです。 グラフィックボードが合わない件について ネットワークについて 教えてください UW-IMAPの情報・・ XglとAIGLXって凄そう!試した? Linuxを使う理由 アドレスにアンダーバーがあるとsendmailがメールを送れない? WinXPとのデュアルブート tarの脆弱性 Linuxをwebサーバとして利用する際のハードのスペック 【質問】 デュアルブート環境下で同時起動 kernel-2.6.13.X でのリブート LW2005 Virtual PC 2004上でFedora Core 3は動くの?? UNIXとの違いって? 初めまして NFS Mountの設定ヘルプ - Fedora 16 Pidginのプラグイン作成方法について (TωT)パソコンの選び方?? TeraTermでデータベースをみる方法 インストールについてです おすすめのセミナー 初心者用のくだらない質問トピック #2 B フレッツ インターネットの接続方法がわかりません slewモード LinuxとFOMA a2502k… Linuxのすばらしさ Linuxを何に使ってますか? 【質問】FlowScan をインストールしたい You tube downloder for Ubuntu NFSのチューニングについて USBフラッシュメモリ usb接続HDを2つ接続したときのデバイスファイルの固定について netscapeを使えるようにしたい。 OS選択の悩み:Windowsは必要か? マルチコアCPUに最適化されたLinuxはありますか? 統合開発環境ってありますか? LPICレベル1最新書籍情報について lsコマンドでワイルドカードが効きません。 一番軽いGUI環境 Novell xgl Linuxが使えるネットワークエンジニアとは? Linux 派国会議員 x-windowログ 私がお勧めするLinux便利機能! Windows用無線LANカード Linuxを使いはじめた時”すげー”と思ったところ nfsrootでpam失敗? Linux始めるなら もっとも安価で電気代の安いサーバ Yellow Dog Linux 【愛知、常駐プログラマ募集】 [Q]GPLの解釈について(ソース開示の必要性) Linux デスクトップはこんな感じです! gvでpdfを表示する方法 日本でVPS (英語 - English) ロードアベレージ CPUの可能性 ご教示下さい DellからLinuxプレインストールマシン発売 fedora9日本語入力メソッドのインストールに悪戦苦闘中です。 おすすめを問います。 samba共有ファイルの更新日時について LPIC試験勉強に最適なディストリビューションを教えてください。 CPUの増設方法 PDFファイル上で動画再生 Linuxのコマンドで 監視ツールの導入・運用 MacintoshにLinuxを入れたい SATAの対応は? Linus Torvalds、Macにスイッチ! GNOME vs KDE 皮を剥いで見る?!。 タブレットの設定変更について ☆教えて☆Linuxをマスターしたい Linux/Unixの経験を活かして海外で働きませんか? 急成長中のベンチャー企業で働いてみたいとおもいませんか?! 探してます Linux デスクトップの普及 ■お仕事(=転職)案件のご相談です■ 問題集につきまして Linuxのあるべき姿と今後の未来像 SSH鍵認証 Lpicレベル1の講習 教えてください git Turbolinux Fuji install 弐萬圓PC堂? Powered by Linux ファイルシステムについて 転職希望者の方!! suidについて MXレコードの解決ができず、メールが外部から送受信できません。。 CentOS5.2&#043;openssh5.0pでchrootできる?? sendmailのaliasについて Linus さんち eth0、eth1の呼び方 教えてください。 Squidで/etc/hostsの定義で自分自身を指定した場合 教えてくださいFlashplayerのPlug-inの方法を くだらない質問かもしれませんが… ez-ipupdate-3.0.11b7のインストールがうまくいきません maildropの入門書 kernel panic でサーバが止まってます。 f77 ご教授お願いします。 CentOS vs Fedora Core 初めまして 外付けHDD 質問 rpm パッケージの分解 Hadoopのクラスタ化について Hadoopについて pidからstatusを得るAPIって有りますか? ●格安IT塾開校★講師は東大卒! オープンソースOSのTorrentサイトを公開しました。

サイト内検索