datファイルを共有するP2Pソフト o2on 15datat TECH
datファイルを共有するP2Pソフト o2on 15dat - 暇つぶし2ch11:k-u ◆k.u4xwkrx.
08/06/04 20:02:26
>>6
詳細なレポートありがとうございます。
journalファイルに関するところはSQLite内部の話で、
これはトランザクションのログファイルなんですが、サイズがどんどん増えていくと言うことは
トランザクション処理が正常にcommitされていないと言うことでしょうか

> これは「特異な環境による結果」でしょうか?
こちらでは再現しませんがバグには違いないかと・・・

> 要望
前スレで説明不足がありましたが、DB更新スレッド自体はP2P停止、起動にかかわらず
常にキューを監視しています。
キューには他ノードやプロキシから受け取ったデータも登録されていきますので。
通常時はキューにはほとんどたまらないので問題は起きないのですが、
再構築で多量に登録されるとバグが表面化するのでしょう。
またo2on終了時は当然キュー内容を全部処理するようになってますので問題はない"はず"です。

12:前スレ960
08/06/04 23:56:42
>>11
> これはトランザクションのログファイルなんですが、サイズがどんどん増えていくと言うことは
前スレ >>965 にある
「dat.db-journal のサイズが不気味に増え続けてる」 は主観的な表現でした。
サンプリングしたデータが表す通り、際限なく増加するのではなく微妙な増減を終始繰り返すのみ。
ほとんど変化のない dat.db に対して、時間はかかってもジワジワとサイズが増加する dat.db-journal
を見てこの様な表現となりました。

> トランザクション処理が正常にcommitされていないと言うことでしょうか
commit とはトランザクション処理の結果を dat.db に反映することを指すのですか?
だとしたら、そのように見えます。(違ってたらゴメソ…)
あのグラフ中にあるように、開始直後 dat.db のサイズが順調に増加しているのに対して
23分あたりからその増加率が著しく減少している様子がその答となりますでしょうか。


「要望」へのレスレスです
問題は再構築のプロセスに関する事ではなく 「インジケータ」 にあります。
「インジケータが消えた時点では、まだ再構築のプロセスは継続しているので o2on を終了できない」
常駐ユーザレベルの人が、この挙動を踏まえた上で o2on を使えばそう問題はないと思いますが
*それでも* いつ終わるか分からないプロセスを終了するまで待ち続けるのはチョット辛いです。

この処理がどの程度進行しているのかが分かれば
 - 今回は再構築をあきらめて o2on を強制終了しようとか
 - 次回はこのタイミングで再構築しようとか
 - 再構築完了までの残り時間を予測してこのまま待とうとか
ユーザが選択する判断材料にもなると思うのです。


13:デフォルトの名無しさん
08/06/05 08:12:15
管理画面がリアルタイムで更新できたら見てても楽しいかも。
再表示の度にCPU使用率が上がることを考えると結構重くなっちゃうのかな?

14:デフォルトの名無しさん
08/06/05 13:37:56
linuxで動くならレンタル鯖で動かすんだけどね

15:デフォルトの名無しさん
08/06/05 14:06:39
>>14
すぐにディスク領域が無くなりそうな希ガス

16:デフォルトの名無しさん
08/06/05 18:46:24
2006年の12月だっけ?実質プロジェクトが動き出した頃から入れてるがまだ20G前後だよ。
常時稼働じゃないからそこまで参考にはならないかもだけど。
最近のレンタル鯖って320とか容量あるんじゃないっけか?
と言うかレン鯖なら是非BOINCを回して欲しい。

17:初音の人
08/06/05 19:19:05
Ubuntu8.04、o2on44bにてついに管理画面の表示に成功。
Profile.xmlの保存についても何故か普通に出きるようになってる。

しかしながら他タブは問題ないのに管理タブに移行するとo2onがほぼ90%近くで落ちる。
ノードの追加は手動で(ローカルからのファイルコピー)済ませた後にグローバル確定まで確認。
通信自体はまだ確認していないけど、もしかすると管理タブを開かなければ常用が可能かもしれん。

18:初音の人
08/06/05 19:44:25
どうやら問題は管理タブではなく、状態タブの模様。
それ以外のタブならば問題なく表示可能。
状態タブだけ他タブと表示の方式?が違うのかな?

管理タブ移行後一度o2onが落ちるのでブラウザ側で他タブ押しておく。
o2on再起動後(即起動はbind云々でできないので少々放置)ブラウザで再読み込みでウマー
よく管理画面の表示が崩れる→再読み込みでおk

取り合えずグローバル確定とNetが500を越えた記念(保管は残念ながらまだ0件)
URLリンク(www.dotup.org)
URLリンク(www.dotup.org)

個人的にはUAがどうなってるのか気になる
初音の人って名前つけてみたので見かけたら教えて欲しいよw
ノード
ce0755e93c4159e2b7a855836b7529c45211d47d62dfb2ba2418

19:デフォルトの名無しさん
08/06/05 19:56:25
>>18
156 初音の人 r-- 62dfb2ba 54320 O2/0.2 (o2on/0.02.0044; Win32) 20,069 23,062 1,803 1,785 2008/06/05 19:55:17 ・・・・
そのままコピペ

20:初音の人
08/06/05 20:04:55
>>19
さっそくありがとう。
やっぱりWindowsエミュレートしてるわけだからWin32になるわけか。
パーミッションみたいなflg項目の詳細がわからないけど、通信自体はできてそうだね。
でもまだ保管が0件orz

管理タブ以外でもソートをしたら落ちた
UIはこれだけ使えれば全然余裕だと思うけど、保管ができなかったら実用までは今一歩か。
それにしても043からは設定の保存、UIの表示が出きるようになっただけでももの凄い進化だと思える。
開発陣様型の努力と苦労の賜物だと思います。
本当にお疲れさまです。

21:デフォルトの名無しさん
08/06/05 20:44:12
ところでメッセンジャー機能って前までログが表示されてた気がするのだけどいつからか表示されなくなった気がする。
ログと言うか正確には最新の投稿みたいな感じで。
これって家だけの不具合?

22:デフォルトの名無しさん
08/06/05 21:08:52
>>20
パーミッションみたいなフラグは
 r ・・・ オプションの「稼動状態を公開する」にチェックが入っている
 t ・・・ オプションの「スレ閲覧の履歴を公開する」にチェックが入っている
 D ・・・ 管理画面の「dat収集」でチェックがひとつでも入っている
だと思う。

一個も補完されないのはDが入ってないからでは?

>>21
うちでは残ってる。(build 0044)
異常終了したときにすっ飛んだとかでは?

23:初音の人
08/06/05 21:53:35
俺本当にバカ…
結果から言うと保管はできました。
URLリンク(www.dotup.org)

前回のノリもあって保管スレに1個もチェック入れないで確認してたわorz
これでGUI利用した場合では正常に保管が確認されました。
ただし専ブラとの連携(V2C20080420)はやはり上手く行かない様です。
Windowsのアプリじゃないからか?と言うことでJaneStyleをWineじゃ×(Jane特有っぽい)

GUI版起動中に別マシンからのアクセスで管理は可能。
しかしながらやはり管理タブ表示をすると落ちます。
別マシンからプロクシ設定をした場合にはスレッド検索としての登録も可能
また、dat取得済みスレッドに関しては閲覧も可能でした。

この時点でLinuxのX入り鯖を運営している場合は十分に運営が可能な状態です。
またDebian etchのCUIのみでもテストしてみましたが
予想はできていましたがやはりこちらは無理でした。

WineがGUIとして表示しようとするために?描画でアウト。
個人的にはコンソールのみでの起動ができるようになれば100点満点です。
しかしながら既存のX利用ユーザとしてはデスクトップ用途マシンならば
問題なく利用が可能な為にかなり利用幅が広がったと思います。

今後もお体に気をつけて開発頑張って下さい。

24:デフォルトの名無しさん
08/06/06 08:25:34
>>16
Winのレンタルサバとかなかったっけ?
まあo2onのためにサバ借りるのは、何か違うと思うがw
うちは2chのクローラーも走らせてるから38G越えてしまった。

25:デフォルトの名無しさん
08/06/06 08:26:08
linuxでうごくとなるとi-monaとも組み合わせたくなるな

26:デフォルトの名無しさん
08/06/06 13:22:13
つまり携帯から過去ログを取得できるかもってことか

27:721 改め e ◆CuSO4..R5I
08/06/06 15:39:02
>>6>>11-12
"database is locked" が発生していて、正常に commit されていない
可能性が非常に高いです。
というか、自分の環境でも試してみたら同様の症状が発生してかなり涙目なんですが。

以前 BRANCH_0043 で実験していたときは無問題だったので
そのまま駆け込みチェックインしちまったのですが、
datname のインデックスを作るようにした変更が影響を与えているようで、
それを除去すればおおむね良好です。
ひとまず、細かい原因と改善策をなんとかひねりだしたいです。

28:k-u ◆k.u4xwkrx.
08/06/06 18:31:10
>>12 後半部分
ずれた回答してしまってすいません
手短に言いますと、データベース更新作業はファイルを読み込む動作に比べて
ほとんど時間がかからない前提になっているので、プログレスバーをどうこうするより
まずそのバグと思われる動作を直したいと言うことです


> 初音の人
特に努力と苦労をした覚えはないですが、IMultiLanguage2に変えたのが効いたのでしょうか・・・


>>27
失礼、私が追加したコードですね (´・ω・`)
そのインデックスは、dat一覧を出すときにdatnameでのソートが速くなるので入れました
insert時にパフォーマンスが落ちることは分かっていたのですが、検証不足だったようです。
とりあえず抜いてもらっても結構です。

が、

根本的に、データベースが使用中ならば待つような仕組みをo2on側で用意してはどうかと思います。
現在は適当に5秒待ちになってますが、DBのロックをちゃんと把握して待つようにした方がいいかなあと
もしくはタイムアウト後にリトライするかですね

いまのままですと、不具合がユーザ環境に激しく依存するので好ましくないでしょう


29:前スレ960
08/06/06 22:43:30
>>28
> ほとんど時間がかからない前提になっているので、プログレスバーをどうこうするより
なるほど、そういう経緯でしたか。

これは「要望」なのですが (開発の優先度は低くても構いません)
フィックス後も 「走査終了→構築終了」 の間に大きな遅延が存在しうる場合
どのような形であれ 【構築中】 【構築完了】 のステータスは欲しいところです。

DBの再構築を目的とするユーザにとっては、構築プロセスの一つである
「走査の進捗状況」のみを知ってもあまり利益はないと思いますので。

30:デフォルトの名無しさん
08/06/06 22:54:31
これって管理画面のdat収集で特定の板だけ設定できないのですか?
チェックをはずしても元に戻ってしまうんですが。

31:デフォルトの名無しさん
08/06/06 23:00:55
確定ボタン

32:デフォルトの名無しさん
08/06/06 23:57:13
>>31
ありがとうございました。

33:デフォルトの名無しさん
08/06/07 00:42:46
アップデートするときに上書きするファイルってo2on.exeだけで良いですか?

34:デフォルトの名無しさん
08/06/07 00:54:18
>>33
良い場合とダメな場合がある。
自分で判断できないなら「全て上書き」にすべき。

35:デフォルトの名無しさん
08/06/07 01:27:00
確か以前.exeとadmin上書きだったような気が

36:デフォルトの名無しさん
08/06/07 05:08:21
sourceforgeのサイトって変わった?
乙です

37:デフォルトの名無しさん
08/06/07 12:40:15
>>28
> そのインデックスは、dat一覧を出すときにdatnameでのソートが速くなるので入れました
> insert時にパフォーマンスが落ちることは分かっていたのですが、検証不足だったようです。
なるほど、思わぬ弊害ということですね。自分の検証不足でもあります。

> 根本的に、データベースが使用中ならば待つような仕組みをo2on側で用意してはどうかと思います。
> 現在は適当に5秒待ちになってますが、DBのロックをちゃんと把握して待つようにした方がいいかなあと
> もしくはタイムアウト後にリトライするかですね
激しく同意です。
いきなり
if (err != SQLITE_OK) goto error;
しないで、
err == SQLITE_BUSY 時に適当に待って何度かリトライする感じですかね。
とりあえず SQLITE_BUSY とリトライについて調べてみます。

それと、あまりにもエラーが続くようだったら、あるいはキューが溜まりすぎたら
dat 走査を一時停止するという仕組みも必要だと思われます。
メモリ使用量的な意味でも。

38:e ◆CuSO4..R5I
08/06/07 12:42:02
>>37は自分です。

39:デフォルトの名無しさん
08/06/07 19:56:07
0043と0044はどっちの方が安定していますか?
ちょっと不安

40:デフォルトの名無しさん
08/06/07 20:08:32
0044bは結構安定してる                   ような気がする

41:デフォルトの名無しさん
08/06/07 20:17:53
0044b安定中

42:デフォルトの名無しさん
08/06/07 21:14:46
0044にしたら何もしてないのにアプリケーションエラーで落ちることがちょくちょくあったけど
0044bは一度もない。安定している。

43:デフォルトの名無しさん
08/06/07 21:16:33
43で最近ちょくちょくDBを開くのに失敗する

44:デフォルトの名無しさん
08/06/07 21:19:54
44b圧勝

45:おさ ◆OSApxZfJs2
08/06/08 14:02:22
DB再構築をするときに、datテーブルの中ってクリアしないんでしょうか?
(それらしいコードは見つからなかった)

なぜかというと、現在0044bを使用しているのですが、管理画面のdat収集のページを
表示しようとすると、o2onが落ちるようになってしまいました。

ソースを追いかけてみたら…(長くなったので自主規制)…dat.dbに異常なレコードが
含まれており、これが消えない限り解決しないという結論になりました。
SQLite Database Browserなどを使って手動でdat.dbから異常なレコードを消せば
良いのでしょうけど。
DBrebuilder v1.1ではdat.dbを一から作り出すから大丈夫なんでしょうね。

ちなみに、異常なレコードが作られた原因は不明です。
異常なレコードのlastupdateは1212450516(2008/06/03 08:48:36)でしたが、
この時間は何もしてないかスレを見てたか、どちらかなんですけどね。

テーブルに制約とか入れると、また重くなってしまいますよね…。


46:デフォルトの名無しさん
08/06/08 16:59:01
>>45
> なぜかというと、現在0044bを使用しているのですが、管理画面のdat収集のページを
> 表示しようとすると、o2onが落ちるようになってしまいました。
この時は0044bで正常に構築を完了したdat.dbを使ったの?
うちの場合、既存のdat.dbをそのまま流用してるんだけど
dat収集のページを開いても落ちることはないなあ

> DBrebuilder v1.1ではdat.dbを一から作り出すから大丈夫なんでしょうね。
o2onは既存のdat.dbのあった場合、その差分とかを参照しながら構築してるんですか?

47:おさ ◆OSApxZfJs2
08/06/08 21:04:18
>>46
dat.dbは0044bで正常に完了した物を使いました。

>>45 の省略した部分に原因があったので、かいつまんで書くと
o2onのDB再構築は読み込んだファイルからハッシュを生成して、
それをdat.dbに対してinsert or replace into~を使って更新をかけています。
o2onはDB再構築の前に delete from dat や truncate table dat を実行していません。
なので、キーとなるhashが一致しない限り、異常なレコードが生成されたときに消える機会が無くなります。

んで、問題のあったレコードは、datテーブルのhashに何か入っていて、
それ以外が空文字か0、lastupdateとlastpublishは1212450516付近の値。

そしてdat収集タブを開くときに、O2Boards::MakeBBSMenuXML()から呼ばれる
O2DatDB::select_datcount()で"ドメイン:掲示板名"のmapを返してくるのですが、
":"というドメイン名と掲示板名が空のものがかえってきます。そのためMakeBBSMenuXML()のなかの
for (nmit = nummap.begin(); nmit != nummap.end(); nmit++) {
wsplit(nmit->first.c_str(), L":", token);
xml += L"<board>"EOL;
xml_AddElement(xml, L"bbsname",    NULL, token[1].c_str()); ← ここ
で存在しない添え字を参照して落ちてしまいます。


48:デフォルトの名無しさん
08/06/09 00:28:53
新バージョンの論議中申し訳ございませんが、少々困ったことがあります。
たとえば、
URLリンク(firefox.geckodev.org)
のように、Wikiには過去スレがまとめられたページがときどきありますよね。
↑のページのように、親切にhtmlなどとして見られるサイトもありますが、あまりありません。
上のようなページから2chスレへのURLを取り出して、それを一括でo2onの「スレッド検索」に
追加したいのです。
他のソフトを使って2chスレッドへのURLだけを取り出してリストにすることはできたのですが、
それを一括でo2onへ登録する方法がわかりません。
SQLをいじってみたらできるのかな、とも思いましたが詳しくなくて全然できません。
何かいい方法がありましたらご教授お願いします。

49:初音の人
08/06/09 02:58:13
以前LinuxのV2Cからスレッド検索に登録ができないと書きましたが
今確認した所きちんと登録が可能でした。
しかしながら不安定?な様で登録ができる場合とできない場合があるように思えます。

こちらに関してはポップアップが表示できないために確認作業が大変ですが、
デスクトップとして使用する分にはほぼWindowsと変わらない環境で使用できそうです。


あと初めてメッセージを頂きましたw
送ってくれた方ありがとうございました。

50:初音の人
08/06/09 03:22:36
あ、取得済みのdatに関しても閲覧に関してはV2Cからの読み込みはできないようです。
なのでWindows同様にとはいきませんね。

Javaでのマルチプラットフォームを実現しているV2C(Windowsと同様の動作をしてくれるかなと)が
無理なので、他の専ブラも希望は薄そうです。
こちらも余裕があれば動作の検証をしてみます。

51:デフォルトの名無しさん
08/06/09 08:34:46
bbs2chreaderの開発が終了しました。。。

52:デフォルトの名無しさん
08/06/09 09:47:27
>>48
自分の場合はIEの右クリックメニューに"リンクを2chブラウザで開く"メニューをつけてあるので、リンクを片っ端から2chブラウザに送ってしまえば過去ログになってるものは全て登録されます

53:デフォルトの名無しさん
08/06/09 14:06:40
>>48
バーボン食らわない?
後開くのがとても重いし

54:53
08/06/09 14:07:23
アンカーミス
>>52です

55:デフォルトの名無しさん
08/06/09 18:20:27
バーボンって連投規制とかじゃないっけ?
読み込みは大丈夫だろう。

56:デフォルトの名無しさん
08/06/09 18:22:46
過剰リロードでもバーボンに引っかかる
同一サーバーでスレを読むときは10秒ほど間隔をあける必要がある

57:デフォルトの名無しさん
08/06/09 18:55:59
それは知らなかった。
どれくらい開くとなるんだろうか。
同一板のスレを10個くらい開いてJaneで全てのタブの新着チェックしても問題ないしな。
ちなみに>>2のスレを選択→選択範囲のURLを全て開くも問題無し(14個)
ブラウザからってのが問題?

58:デフォルトの名無しさん
08/06/09 19:04:23
Greasemonkey使ってo2onの検索に直接放り込むスクリプト使ってるけど、
時折o2on側からの返答がなくなって止まったりする。
あと生きてるスレッドも検索登録されることになったりとか。

59:デフォルトの名無しさん
08/06/09 19:05:41
まあ詳しくはこれを
URLリンク(info.2ch.net)

60:デフォルトの名無しさん
08/06/09 20:00:36
>>47
> o2onはDB再構築の前に delete from dat や truncate table dat を実行していません。
> なので、キーとなるhashが一致しない限り、異常なレコードが生成されたときに消える機会が無くなります。

この問題は構築後にanalizeによって解決しないのですか?

61:デフォルトの名無しさん
08/06/09 20:41:42
analyzeってのは統計情報を更新するコマンド。
異常なレコードが登録されてるならば、truncateなりdeleteなりして、レコードを削除しない限り
勝手に消える事は無い。

62:デフォルトの名無しさん
08/06/09 22:15:05
>>61
ありがとう
でreindexってのはなに?analyzeとはまた違うんだよね
いまいちこの違いがわからない…。
どちらもデータベースを整理整頓して読み込みや書き出汁の効率を上げるためと
理解して気が向いたときに実行してるんだけど

63:おさ ◆OSApxZfJs2
08/06/09 22:25:19
>>62
reindexは、インデックスを再作成します。
analyzeは、テーブル内のレコード分布を調べて、検索クエリーが実行されたときの
インデックスの使われ方を決めます。

64:デフォルトの名無しさん
08/06/09 23:41:16
ほんとに0044b安定してるな

65:デフォルトの名無しさん
08/06/09 23:42:15
>>58
どこにある?

66:デフォルトの名無しさん
08/06/10 00:09:42
>>61
>>63
重ねてありがとう
どんな機能なのか分からないまま使っていくのが、なーんとなく気持ち悪かったもんで聞いてみました

67:デフォルトの名無しさん
08/06/10 01:16:21
今さっきログ見たらこんなになってた
今も継続中

URLリンク(www.dotup.org)

68:デフォルトの名無しさん
08/06/10 01:24:54
で、なんか狂ったと思ってo2on終了させたら
Proxyを終了してますで止まった
Ver 0044b

69:デフォルトの名無しさん
08/06/10 06:37:19
>>65
自分で作った。公開してない。

70:デフォルトの名無しさん
08/06/10 11:03:08
むしゃくしゃしてやった。
のかと思ったよ。

71:デフォルトの名無しさん
08/06/10 16:14:02
過去ログ取れねーと喚いてた者ですが
URLの"kako/"を削ったら落ちてきますた。
お騒がせしてすんまそん

72:デフォルトの名無しさん
08/06/11 07:24:30
>>69
ほしいです。。。。。。。。。。

73:デフォルトの名無しさん
08/06/11 11:26:38
>>69
うp

74:デフォルトの名無しさん
08/06/11 12:36:21
>>73
ドピュッ

75:69
08/06/11 18:25:40
>>72-73
完全に自分用で不親切仕様だし、バグ他問題あるかも知れないけど出しときます。
URLリンク(o2on.sourceforge.jp)
Fx + Greasemonkeyでしか試してません。それ以外の環境はまず考えてません。OperaとかuserChrome.jsのローダーとか。

操作はすべて猿アイコンのメニューから。
インストール後、リロードか新しいページを開くと「o2on setting...」というメニューがあるので、そこでo2on管理画面のURLを入れて下さい。
再度リロードすると「Add」というメニューがあるので、それをクリックするとページ内のスレッド風のURLを問答無用で検索登録します。

問題点
・完全なdatを持っている場合でも検索登録
・まだスレッドが落ちていない場合でも検索登録
・フレームページに対応してない
・追加するスレッドのURLが多いと登録終了まで時間がかかる

公式のうpろだ使わせてもらいました。

76:デフォルトの名無しさん
08/06/11 19:16:56
>>75
本当にありがとうございます。
ありがたく使わせていただきます。

77:デフォルトの名無しさん
08/06/11 20:13:05
>>75
                   ( ⌒)       ∩_ _ グッジョブ!!
                  /,. ノ       i .,,E)
              / /"        / /"
  _n  グッジョブ!!   / / _、_   ,/ ノ'
 ( l     _、 _   / / ,_ノ` )/ / _、_    グッジョブ!!
  \ \ ( <_,` )(       / ( ,_ノ` )     n
   ヽ___ ̄ ̄ ノ ヽ      |  ̄     \    ( E)


78:デフォルトの名無しさん
08/06/12 01:58:15
kako2chspiderを長時間(40時間くらい?)動かしてると、
途中から取得datの容量が0バイトになっちゃうんですけど…

79:デフォルトの名無しさん
08/06/12 04:42:25
>>78
それだけ動かしてると、どんなもんのdat数を取得できるの?

80:e ◆CuSO4..R5I
08/06/12 12:03:09
DB 再構築周辺のメモ。

O2DatDB::update() が dat の数だけ O2DatDB::select(O2DatRec &out, hashT hash)
を呼び出すのだが、これは無駄極まりなくて、
特に呼び出した分だけ sqlite3_prepare16_v2() するのが激しく無駄。
sqlite3_stmt は一回用意したら使いまわそう。場合によっては SQLITE_BUSY を返すし。
O2DatDB::update() 内で select するコードをべったり書くか、
それか sqlite3_stmt* を受け取って、それを使う関数を作るかだな。

datname のインデックスはとりあえず残す。

81:デフォルトの名無しさん
08/06/12 14:41:16
>>78
連続で取りすぎでバーボンくらってるとか?
こちらは生きてるスレを取得してるけど、1秒1スレにしておかないとバーボンに引っかかってしまう。

82:デフォルトの名無しさん
08/06/12 14:57:32
オレ使うだけの人なんだけど、Ver 0044bって
dat落ちurlをクリックした時に「検索に追加しました」ってバルーン表示しないの?
管理画面・スレッド検索を開くと追加されてるからまぁ良いんだけど、o2onオプションの
バルーン通知で「検索登録時」にチェックしててもバルーン表示してくれないです。

「P2P起動・停止」、「補完時」はバルーン出るです。
「メッセージ受信時」は、受信したこと無いから知らんです。

83:78
08/06/12 14:57:56
>>79
取得間隔が長いので、まだ4000ちょいですわ。
ログ集める板も限られてるし

>>81
1秒でも大丈夫なんですか?
今まで●焼きが怖くて20秒間隔に設定してました…

84:デフォルトの名無しさん
08/06/12 15:12:51
>>83
間隔を短くするつもりなら、やめとけ


613: 704 [sage] : 2008/03/28(金) 20:37:14
>>612
●はHTTPヘッダで判定できるのでその方がいいかも

ところで、o2on側で●ログインしてdatを持ってきて他ノードに配るって言うのを
自動化した場合規約違反になるんでしょうかね?
あるいはアクセス過多で焼かれることってあるんでしょうか

614: デフォルトの名無しさん [sage] : 2008/03/28(金) 20:55:08
FOXに聞いてみたら?

615: デフォルトの名無しさん [sage] : 2008/03/28(金) 20:57:58
やり過ぎるとバーボン行きにはなりそうだな
30秒感覚くらいなら大丈夫じゃね

616: デフォルトの名無しさん [sage] : 2008/03/28(金) 21:00:00
おれは2秒おきに取りにいってるけど、大丈夫。
間髪入れずにいくと流石にバーボンだな

617: デフォルトの名無しさん [sage] : 2008/03/28(金) 21:04:29
>>613
自動化はアウトじゃね
あと他人に配らなくても過剰にアクセスした段階で焼かれる
大体30秒に一回取得のスクリプトを一日回したら焼かれた

85:デフォルトの名無しさん
08/06/12 15:45:16
>>80
ここのselectってinsertするかupdateするか判定してるだけですよね?
とりあえずupdateしてみて更新件数が0件ならばinsertってロジックにしたらいいだけでは無いでしょうか。
SQLiteでも更新件数って取得出来ますよね?

86:78
08/06/12 17:31:13
>>84
どうもです。
もっと延ばさなきゃ駄目なのか…

87:e ◆CuSO4..R5I
08/06/12 17:47:13
>>85
ですよね。先に INSERT するって方法もありますね。
そこで、よくソースを読んだらひどすぎるバグを発見したよ。
bind(db, stmt_update, 6, it->hash) してないので、結局何も更新されないの。
癒された。

88:デフォルトの名無しさん
08/06/12 18:17:34
<チラシの裏>
なにやら2chの鯖一台が逝ったようですね
万が一というかなんというか、dat飛んでたら今こそ溜め込んだdatたちを生かせそうかも
っと、チラシの裏失礼

2ch サーバーダウン(鯖落ち)情報 part203
スレリンク(operate板:41番)
</チラシの裏>

89:k-u ◆k.u4xwkrx.
08/06/12 18:21:11
データベース周りはもっといじった方がいいみたいですね。
ネットワーク関係は安定してるんですけどね。


引き続きバグフィックスはBRANCH_0043でよろしいでしょうか
バージョンごとに分けていった方がいいですか?
分けすぎても面倒かなと思いますが

trunkは放置になっていますがバグフィックスをマージして
プラットフォーム依存のコードを減らす作業でもできたらなあと思っています。(妄想)


90:デフォルトの名無しさん
08/06/12 20:08:27
>>85>>87
selectせずにinsert or replaceだけで充分な希ガス。

update or replaceを使って意味があるのは
UNIQUE項目(datテーブルの場合はhash)をupdateする場合だけでしょ?

“or replace”なんていう非標準SQLを使いたくないって理由なら
プログラム側で分岐するしかないけど。

91:e ◆CuSO4..R5I
08/06/12 20:12:14
>>89
> 引き続きバグフィックスはBRANCH_0043でよろしいでしょうか
> バージョンごとに分けていった方がいいですか?
> 分けすぎても面倒かなと思いますが

BRANCH_0043 のままでいいと思います。

92:デフォルトの名無しさん
08/06/13 01:04:12
隠れていたo2onのブレーンたちがこんなにいたのか。
実は静かにソースを眺めていたのね
o2onはまだまだ進化しそう。。。心強いなあ

93:e ◆CuSO4..R5I
08/06/13 15:20:37
>>90
一からまるごと再構築という観点ではそんな気もするんですが、
現在は既存の DB をベースに最新の状態に更新する形での再構築という仕様で、
UPDATE すべき場合は lastpublish というカラムはそのままにしておきたいという
仕様がある感じなので、INSERT OR REPLACE だけで済ますのは微妙。
あくまでも現状の仕様を維持するのであればの話ですが。


逆に、今が絶好のチャンスなのでその辺の仕様を覆すような案も歓迎。
いろいろな話がちょっと前にも出ているわけですし。
他にも DB 周辺の指摘やアドバイス歓迎。
むしろいい具合に書き直してくれる人歓迎。

94:78
08/06/13 18:08:09
取得間隔を2秒にしてやり直したら、
1000番代以降の最古スレまで完走したものの、
歯抜けが続出…

間隔延ばしても
一定時間クロールし続けると
弾かれる様だし…

どうすればいいんだ('A`)

95:k-u ◆k.u4xwkrx.
08/06/13 20:55:15
(自分の中での)データベース関係検討事項
詳しい人の突っ込みが欲しいです

・テーブル構造
datテーブル一つの方がパフォーマンス的にはよろしいのでしょうか?
(現状リレーショナルになってません。エクセル表みたいな感じ)
datnameは文字列じゃなくてスレ立てtimeを数値型で持った方が速いのでは→ただし汎用性低下

・再構築プロセス
なんかスレッド生成しまくってるのが気に入らない
I/Oとりあってそう

・update
どこが重いのかちゃんと調べる
ただしいSQLの使い方を調べる
軽量化・簡素化
>>87のような間違いが起こるのもなんか関数が長すぎる希ガス→コード整理

・DBロックエラーの処理
>>28
ロック時間は数百ms程度に抑えた方がいいのではないだろうか 根拠無い数字だけど

96:デフォルトの名無しさん
08/06/13 22:01:23
>>93
o2onを手掛けた原作者の設計構想はともかく
実際にソースを見た人は、1からのDB再構築と
既存のDBを活用しての再構築では
どちらにメリットがあると考えますか?

今のo2onに限って言えば、同じDBが生成されるのなら
どちらの方法であれ、再構築に掛かる時間の短い方が
ユーザ側にはメリットがありますが

将来的な機能の拡張を考慮すると、また別の話になるんでしょうね
>逆に、今が絶好のチャンスなのでその辺の仕様を覆すような案も歓迎。
確かにいいチャンスなんでしょう・・・
# コードが読めない、書けない人間には歯がゆいところです

こんな機能はコードを大きく書き換えることなく追加できたりするものなんでしょうか。
・P2Pを実行しながらDBの再構築ができたりとか
・何某かのフラグを格納するフィールドを後から追加したりとか

>>95 氏の
> ・DBロックエラーの処理
> ・テーブル構造
にも絡んでくる話ですね。

97:デフォルトの名無しさん
08/06/13 22:40:51
Linuxでも完全に動くように期待してるよ♪

dat保有量がエロ動画の量を超えててなんか悲しくなった…

98:デフォルトの名無しさん
08/06/13 23:56:30
>>95
C++は読めないんですが、読めないなりにO2DatDB.cppを眺めてみた感じでは
以下の2文が遅いように思えます。

・where句なしのorder by random()
・select sum(disksize) from dat;

前者はたぶん全件ソートがかかると思われます。
(limitがかかっているとしても、それ以前に全件ソートがかかると思われます。)
というか、そもそもDBMSはランダム処理が得意ではないので
どっちにしろプログラム側で処理すべきです。

後者に関しては、このSQLを発行するならdisksizeにindexがあるべきです。
ただ、そんなに頻繁に使用するSQLではない(管理画面→状態と、
他ノードからのプロフィール参照でしか使わない?)と思うので
あまり気にしなくても良いかもしれません。

それ以外はSQL単品で遅いものはないように見えるので、
呼び出す回数を減らすことを考えたほうが良いと思います。

ちなみに、テーブル構造をいじる必要は感じません。
正規化の観点では若干違反していますが
パフォーマンス上は現状のほうが有利と思います。

99:デフォルトの名無しさん
08/06/14 02:40:55
>>95
ロックを回避するにはトランザクションを短くするしか無い気がします。
現状キューにたまった場合1000件ずつ処理されてるのを設定で可変にするとか。
件数減らせば更新のパフォーマンスは落ちますが、ロックが起きて更新されないよりはマシって事で。

>>98
全件sumるんだからindex関係無くないですか?
where句で何か条件が指定されてるんならわかるんですが。

100:98
08/06/14 11:15:35
>>99
テーブル全体を舐めるかインデックス全体を舐めるだけかの違いで
I/O量が変わります。
とはいえ、テーブル全体でもせいぜい数百MBだと思うので
あまり変わらないかもしれません。

101:デフォルトの名無しさん
08/06/14 15:52:42
いまwikiから最新版をDLしようとしたら404なんだけどどういうこと?

102:デフォルトの名無しさん
08/06/14 19:46:17
URLリンク(sourceforge.jp)

103:k-u ◆k.u4xwkrx.
08/06/14 21:24:05
>>98>>100

・where句なしのorder by random()
は確かほとんど呼ばれない仕様になっていたような
他ノードにdatを拡散する場合に使われます

・select sum(disksize) from dat;
これは遅いという報告があり、こちらでも再現します。
2回目以降はキャッシュするのか速くなるようです。
インデックス入れてテストしてみます。


>>96 違う人が答えますが
正直現状のDB再構築の意図がよく分からないです
手元にdatファイルが無く、スレタイ等のデータは持っている場合に、
そのデータが消えないということはあるんですが、そのような事態が起こる条件、消してしまった場合の弊害等未調査。
(dat.dbファイルごと削除して再構築は何回かやっていますが、目立つ不具合はなかったように思います。)
変なデータが登録されていた場合に、それが削除できないという問題もあります。

lastpublishをそのままにしておきたい意図があるとのことですが、これはクリアしてしまってもいいのではないでしょうか
どちらかというと一時変数的な役割だと思うし、スレタイ(title)のように恒久的なものではないので

> ・P2Pを実行しながらDBの再構築ができたりとか
現状のまま同時実行できるようにすると・・・
DBロックエラーが多数出ると思います
またdatファイルの読み書きが衝突した場合にどうなるかが問題
対応はちょっと大変です。

> ・何某かのフラグを格納するフィールドを後から追加したりとか
データベースにカラムを追加するだけならすぐできます

104:デフォルトの名無しさん
08/06/14 21:26:08
>>102
サンクス

105:k-u ◆k.u4xwkrx.
08/06/14 21:36:12
連絡

boostとsqliteがバージョンアップしているので移行予定
boostはなんかビルド時のコマンドラインオプションが変わったのでそのうちドキュメント更新します。

>>101
古いwikiには誘導を入れておいた方がいいでしょうか・・・
新旧wikiでいろいろ食い違ってきたのでsourceforgeに一本化したいとおもっております

106:96
08/06/15 01:07:28
>>103
忙しい中、素人相手にレスいただいて感謝です
抱いていたモヤモヤも払拭されました。
この様な開発メンバーが居ると思うと、なんか嬉しいです。
o2on使い続けて来てよかった

>>105
> 新旧wikiでいろいろ食い違ってきたのでsourceforgeに一本化したいとおもっております
wiki なら多少いじれるので、微力ながらお手伝いさせていただきます。

ただ、うぷろだをSourceforge内に新設して欲しいのですが、規約上これは可能でしょうか?
wiki のうぷろだでは使い勝手が悪いので。。。
暫くは旧サイトのうぷろだにリンクを張ってもよいと思うのですが
なにしろ原作者様が用意したサーバをこのまま使い続けるのも気が引けます。


107:デフォルトの名無しさん
08/06/15 14:16:55
あぷろだ設置お疲れ様です
当方ADSL8Mですが、早速テストうぷしてみました。
今までのあぷろだに上げられたブツとSnUploaderのログです。
このログは何かのためにと、私的にSnUploaderを使ってミラーしていたものです。
うぷテストなので不要であれば削除しますのでその旨レス下さい。

あと、せっかく100MBまでうぷできるように設定していただいたのですが
28MB のファイルをうぷしようとしたら、タイムアウトになってしまいました。
こちらの環境なのか、Apache側のタイムアウト/ファイルサイズ設定が
原因なのか判然としませんが、一応報告まで。

108:デフォルトの名無しさん
08/06/15 14:24:52
o2onってこの板以外のスレはもうないの?

109:デフォルトの名無しさん
08/06/15 14:34:07
>>108
今はこのム板だけのようです

110:デフォルトの名無しさん
08/06/15 14:41:31
この板以外ってダウソにしか立ったことないと思うけど、そっちはもうない。
あ、ν速にも立ったことあったか。

111:デフォルトの名無しさん
08/06/15 14:51:35
いや、もともとここだけだったけど厨房が勝手にダウソに立てた

112:デフォルトの名無しさん
08/06/15 14:58:26
P2Pだからダウソかと思ったんだろうね

113:e ◆CuSO4..R5I
08/06/15 16:31:48
DB 再構築の話なんですけど、今までの話を総合した自分の案です。

・全部空にして一から再構築
 →ゴミデータ除去できる
・dat フォルダの走査と再構築を同期して行う(たぶん build 0031 のような感じ)
 →インジケータとか、ユーザにわかりやすい
 →ひたすら INSERT OR REPLACE する関数をでっち上げる
・再構築中は他の処理による DB アクセス(特に書き込み)を避けたい
 →少なくとも、従来の更新用スレッドは止めるとか

という感じで、既存の SQL 関係の関数についてはエラー処理や効率アップに
励むのがいいのかなぁと思います。

114:デフォルトの名無しさん
08/06/15 22:53:43
>109-112
そっかー、ここだけなんだ。
使うだけのオレには敷居が高いな。

115:デフォルトの名無しさん
08/06/15 23:01:18
常時開いたままだからどこの板にあるとかどうでもいいな
俺もバージョンアップの確認の為だけにスレ見てるだけだが

116:デフォルトの名無しさん
08/06/17 17:05:20
ほんとに最近安定してるね
0044bにしたおかげでdatも10万いったよ

117:デフォルトの名無しさん
08/06/17 17:25:18
奇遇だな、ちょうど俺も10万突破したとこw

118:デフォルトの名無しさん
08/06/17 19:32:09
最近入れ始めて、昨日までは普通に動いてたんだがアイコンのOと2のとこが赤くてP2P停止状態になって困ってるんですが
なにが原因かわかります?

あとウイルスと判断されるdatがよくDLされるようにまりました

119:デフォルトの名無しさん
08/06/17 19:49:21
>>118
ディスクいっぱいorクォータ指定量に達してないか?
ウィルスはそう判断されるコードを書き込む奴がいたから
無害なのでログフォルダを検索対象からはずすよろし

120:デフォルトの名無しさん
08/06/17 19:54:18
>>119
達していました…
ありがとうございます。
これdat保存フォルダを別のドライブに移すってことはできませんかね?
今のドライブではこれ以上クォータ容量を増やせないので

121:デフォルトの名無しさん
08/06/17 22:26:34
o2onのフォルダごと別のドライブにうつしちゃえば

122:デフォルトの名無しさん
08/06/17 22:49:21
俺もドライブ移動しよう移動しようで結局してないや。
こまいファイルで20G移すのとかどんだけ時間が掛かるんだろう。

123:デフォルトの名無しさん
08/06/18 02:58:39
移動のこととかアンインストールのこととかマニュアルにあると親切だよね
まだαなんで親切さをアピールしてもしょうがないんだけど

124:デフォルトの名無しさん
08/06/18 12:23:31
FFC使えばいいんじゃないか?

125:デフォルトの名無しさん
08/06/18 12:28:56
全部消して新規でやるのがいいと思うけど

126:デフォルトの名無しさん
08/06/18 14:46:36
>>125
なんでよ。


127:デフォルトの名無しさん
08/06/18 15:15:26
>>120
1) o2onを停止する
2) datフォルダを好きな場所に移動する
3) conf\Profile.xmlをテキストエディタで開いて
  CacheRootの「.\dat」の部分を書き換える
  (例えばD:\o2on\datに移動したなら「D:\o2on\dat」に書き換える)
4) o2onを起動する
でいけるはず。

128:デフォルトの名無しさん
08/06/18 18:48:20
>>127
ありがとうございます
無事移動できました

話がかわるんですが、クォータ設定してる人はどれ位に設定してますか?
参考にしたいので教えてください

129:デフォルトの名無しさん
08/06/18 19:29:07
今見ているスレッド内にある前スレや関連スレッドなどの
2chのURLを全てo2onに検索登録するスクリプトが欲しいです。
Janeの外部コマンドに登録して、右クリックから使いたいんです。


スレ内の2ちゃんねるのURLを全てo2onに検索登録=WScript "$BASEPATHo2onAdd.vbs" "LOCALDAT"

こういった感じです。vbsでもjsでもおkです。お願いします。




Query.xml に追加で書き込むようにすればいいんですよね。
このハッシュ値はなにから計算されたものなのですか?

Wiki見てきます。すいません。

130:デフォルトの名無しさん
08/06/18 19:32:11
>>129
アプリケーション総合スレッド(,,・_・)ver_1.21
スレリンク(download板:322番),323

131:デフォルトの名無しさん
08/06/18 19:32:57
スレ内の2ちゃんねるのURLを全てo2onに検索登録=WScript "$BASEPATHo2onAdd.vbs" "$LOCALDAT"

だな。失礼致しました。

132:k-u ◆k.u4xwkrx.
08/06/18 20:09:58
>>107
POSTの上限は10MBの予感。直しておきました


>>113
0031から0032に変わる辺りは参考になりますね。
元々ロックエラーが頻発した為、DB更新のスレッドを別にしたようです。
私は再構築時には UPDATE_THREAD_INTERVAL_S を短くして
かつキューにたまりすぎないように適当に制限するというのを考えていました。
(コードあんまりいじらなくてすみそうだからw)

とりあえず実装してみて、テスト版公開して試してもらえばいいと思います。
私の方はテスト版出せるか分かりませんので、適当に進めてくださいな


>>129
ハッシュの算出方法はperlの例が過去ログのどこかにあったような

Query.xmlに追加する方法では、o2on起動中には効果がないはずなので
不便だと思います。
管理画面のスレッド検索と同様にPOSTすれば登録できると思います。
ハッシュの計算も不要です。

POST先 /xml/query
クエリ
act=add
hash="" (空文字列)
note=[任意] (UTF-8かな Jane とか入れとけばいいかと)
url=[スレのURL]

1件ずつしか処理できないので1回ずつPOSTしてください。
あまり高速に連続してPOSTするとo2onがなにかおかしくなるかもしれないので注意してください。

133:129
08/06/18 20:53:10
>>132
親切にありがとうございました。
頑張ってみます。

134:デフォルトの名無しさん
08/06/19 13:16:30
自分が共有してるログのどれがリクエスト多いか表示されないの?

135:デフォルトの名無しさん
08/06/19 23:02:18
現時点でのdat数を述べなさい。

136:デフォルトの名無しさん
08/06/19 23:03:41
319,760

137:デフォルトの名無しさん
08/06/19 23:11:44
収集してないから2,705

138:デフォルトの名無しさん
08/06/19 23:44:30
datフォルダのプロパティで見たら202,726だた

139:デフォルトの名無しさん
08/06/19 23:45:10
251,566

140:デフォルトの名無しさん
08/06/19 23:51:35
312107

141:デフォルトの名無しさん
08/06/19 23:54:24
>>136
サイキョ

142:デフォルトの名無しさん
08/06/20 00:16:44
いや上には上が居る、確かdat容量100G突破した人いなかったっけ?
その人はきっと100万所じゃないはず

143:デフォルトの名無しさん
08/06/20 01:56:51
>>134
DBにカラム追加して要求回数とか書き込めば簡単にできるとは思うけど
益々ロックされる可能性が増える訳で・・・

144:デフォルトの名無しさん
08/06/20 07:45:50
てかメッセンジャーとかフレンドってどういう目的で実装されてんの?

145:デフォルトの名無しさん
08/06/20 08:15:19
メッセンジャーでログ補完の依頼が来てたよ
名無しの知らん奴から

146:デフォルトの名無しさん
08/06/20 11:38:35
>>145
それ誤爆じゃね?
前●持ちで自動補完をメッセンジャーで受けてる人いたから

147:デフォルトの名無しさん
08/06/20 11:50:52
つーかそういう目的で実装されてるってことで>>144の疑問は解決したと考えていいんじゃないか

148:デフォルトの名無しさん
08/06/20 12:49:47
どなたかおともだちになっていただけませんか?

149:デフォルトの名無しさん
08/06/20 13:27:12
>>148
一緒に保有しようか


150:デフォルトの名無しさん
08/06/21 12:46:31
>>148
いやいや、俺といっしょに。

151:デフォルトの名無しさん
08/06/22 00:47:12
firefox 3 にしたら管理画面の動作速すぎワロタwww

152:デフォルトの名無しさん
08/06/22 14:24:21
スレッド検索登録数 10101
総dat数        315,226




153:デフォルトの名無しさん
08/06/22 16:49:53
これって人から貰った過去ログはjaneのログフォルダに入らないで
o2onのログフォルダだけに入るんだよね?(プロクシ切ると貰った過去ログが開けない処から)
ログの重複って無駄が無いのはいいんだろうけど。

1つしか知らんけど過去ログ検索でindex作る奴には不便ね。
2ちゃんねるスレッド全文検索・・・ThreadSearch
スレリンク(software板)

154:デフォルトの名無しさん
08/06/22 16:54:18
URLリンク(frozenlib.net)
URLリンク(www.geocities.jp)

>>153
どっちがいいの?

155:デフォルトの名無しさん
08/06/22 17:00:52
よく分からんがo2onのdatフォルダを指定したらダメなのか?

156:デフォルトの名無しさん
08/06/22 17:58:24
>>153
専ブラのログフォルダとo2onのフォルダを同じドライブに置いて、
datにハードリンクをかければイイジャマイカ

157:おさ ◆OSApxZfJs2
08/06/22 19:54:18
Googleデスクトップ用のdatファイルインデックス作成プラグイン作ってみたよ。
URLリンク(www.osa-p.net)

158:デフォルトの名無しさん
08/06/22 20:05:53
>>157
 /\/\人ハ  _,.,.,.,.,.,..      __
 \調 そ い ゝ ィ㌫㌫Kkミ   〈   ヽ
 /       〉"i'゚L´゚` ルリ    |   |
 \子 の い〈  |にフ   〈    _j  |
 /       ゝ `ーr   > '´ |   ヽ_
 \だ     そ゛ 〉  ,ノ        丿 , ―‐ \
 /        」 / /       | 〈      〉
 \       }/          人  >ー―〈
 /`Y^Y^Y^Y〈゚__ノ \゚___/  | 〈____〉
          |          〈  〉___〈
          |          人〈_____ノ
       (il⌒ヽ ;        {    ̄ ̄ ̄
       〈 ̄ ̄ ̄}〕   /  ヽ
       〈 ̄ ̄ ̄}\       ',
       〈 ̄ ̄ ̄}爻爻      `ヽ
.        `r―'}爻ミ、ノ       \
         /`ーr‐'´   }            \
.        /   ヽ_{_,ノ              \
       /      /⌒ヽ


159:デフォルトの名無しさん
08/06/23 07:05:06
>>152
スレッド検索登録って3000までじゃなかったっけ

160:デフォルトの名無しさん
08/06/23 08:04:22
>>159
今、自分のを確認したけど、6071 だったよ。

161:デフォルトの名無しさん
08/06/23 08:12:54
どんだけ巡回したらそんな数になるんだよw
俺64だぞw

162:デフォルトの名無しさん
08/06/23 08:18:03
>>161
y2o2onADD.pl っていうのを使わせてもらっています

163:デフォルトの名無しさん
08/06/23 08:20:18
この板のスレッドを検索登録にしたい場合は

/test/read.cgi/tech/ 2ch.net

で検索すると一気に登録できます。

164:デフォルトの名無しさん
08/06/23 08:20:23
>>160
記憶違いだったかも。すまん。

165:152
08/06/23 10:41:55
スレッド検索登録数 11961
総dat数        316,549

166:152
08/06/24 00:38:50
スレッド検索登録数 17496
総dat数        317,381

167:デフォルトの名無しさん
08/06/24 02:13:13
>>155
別の人だけど、スレッド全文検索に o2on のフォルダ指定してみたら、検索可能だった

でもこれ、大文字・小文字区別しないとか、
and検索、or 検索ができなかったり不満点がいくつかある。

168:デフォルトの名無しさん
08/06/24 02:26:35
>>167
URLリンク(frozenlib.net)

こっちならand検索できるみたいよ。

169:152
08/06/24 08:33:49
スレッド検索登録数 21732
総dat数        317,742


スレッド検索登録数が20000超えた辺りから追記するのが遅くなった。
書き込んでいるときにガリガリ音がする。
これ以上、僕のPCのスペックでは無理みたいです。

一日1000スレくらいは取得できてるな。


170:デフォルトの名無しさん
08/06/24 15:54:47
スレッド検索登録数って管理画面のスレッド検索タブの左上ら辺にある数字のことだよね?
dat収集で全板にしてるんだけどやっぱそっちも入れた方が効率は良いの?

スレッド検索登録数 67
総dat数        201,257

171:k-u ◆k.u4xwkrx.
08/06/24 18:56:40
ちょいと調べてselect_datcount, select_totaldisksize, analyze は
begin; end; で挟んでやるとすごく速くなりました。謎仕様です。

>>169
検索登録の方はDBとか使ってないですからね
定期的にXMLファイルに書き出してますし
そういう使い方は想定されていないものと思ってください

172:152
08/06/25 05:40:31
>>170
どうかな。多少は収集する効率が上がると思うんだけどな。
読まないdat取得しても意味ないんだけどな。
このまま放置することにします。

o2onを通常に起動しているときはCPUをあまり使わないのですが、
これだけ登録数があると、やはり管理画面を開くときに相当CPUを使います。

普段 約2%
管理画面を開くとき 約60%

Intel Core2Duo E7200(2.53GHz L2 3MB)
メモリ 2GB

スレッド検索登録数 21924
総dat数        318,773

>>171
作者さん、調子に乗ってすいませんでした。
これからも開発よろしくお願いします。
それでは失礼致します。

173:k-u ◆k.u4xwkrx.
08/06/25 20:54:56
なんとなくアップ ご利用は自己責任で

URLリンク(o2on.sourceforge.jp)
0044でもロックエラーが出る人に試していただきたくおもいます

174:デフォルトの名無しさん
08/06/25 21:51:53
>>173
                   ( ⌒)       ∩_ _ グッジョブ!!
                  /,. ノ       i .,,E)
              / /"        / /"
  _n  グッジョブ!!   / / _、_   ,/ ノ'
 ( l     _、 _   / / ,_ノ` )/ / _、_    グッジョブ!!
  \ \ ( <_,` )(       / ( ,_ノ` )     n
   ヽ___ ̄ ̄ ノ ヽ      |  ̄     \    ( E)


175:デフォルトの名無しさん
08/06/26 16:16:50
>>173
差し替えて、dat.dbを削除してから
再構築をしてみましたが
2008/06/26 16:16:31 SQLite error - - database is locked

2008/06/26 16:07:37 SQLite error - - database is locked
2008/06/26 15:35:16 P2PServer info - - 停止 (port:xxxxx)

ロックしてます。

176:e ◆CuSO4..R5I
08/06/26 16:48:58
>>173
乙です。
余裕ぶっこいてたら先を越されたぜ。
俺版も明日あたりに出したいです。

PRAGMA synchronous = OFF; よさげ

177:デフォルトの名無しさん
08/06/27 01:21:45
4月あたま以来ひさびさにこのスレに来た俺に、当時から何が変わったのか200文字以内で説明してくれないか?

178:デフォルトの名無しさん
08/06/27 02:05:06
>>177
44b安定しすぎ。サイキョ

179:e ◆CuSO4..R5I
08/06/27 12:35:22
>>113

>・全部空にして一から再構築
> →ゴミデータ除去できる
>・dat フォルダの走査と再構築を同期して行う(たぶん build 0031 のような感じ)
> →インジケータとか、ユーザにわかりやすい
> →ひたすら INSERT OR REPLACE する関数をでっち上げる
>・再構築中は他の処理による DB アクセス(特に書き込み)を避けたい
> →少なくとも、従来の更新用スレッドは止めるとか

を実装してみたバージョンです。適当に再構築してみてください。
あらかじめ db フォルダ内の dat.db をバックアップしておくことを強く推奨します。

URLリンク(o2on.sourceforge.jp)

180:e ◆CuSO4..R5I
08/06/27 12:37:32
>>173
>>175同様、我が家でもロックしてました。

181:175
08/06/27 17:35:37
>>179
ただいま、再構築中です。
1000単位で、総dat数が増えていきます。
dat.db-journalが出来る気配がなく
52000まで、登録できました。

2008/06/27 16:54:17 UpdateThread info - - 停止
2008/06/27 16:54:12 P2PServer info - - 停止 (port:xxxxx)


182:k-u ◆k.u4xwkrx.
08/06/27 20:22:01
>>175>>180
やはり対症療法的なやり方では駄目なようですね

>>179版ご利用の皆様
こちらではまだテストしてないですが、再構築中にスレを読み込んだりしても大丈夫でしょうか
パフォーマンス(再構築にかかる時間)が著しく低下、もしくは改善していないかも可能であれば調べて欲しいです。

>>179
最初の全件削除はSQLで行っていますが、ファイルごと削除(もしくはリネーム)して
create_table からやり直した方がいいのではないかと思います。
微妙な残りカスも完全に消せるし、リネームすればバックアップもとれるので

それとも dat.db.rebuild とかで再構築して最後に差し替えるのがいいかな?

183:175
08/06/27 20:40:14
>>182
307,000までいきました。

> 再構築中にスレを読み込んだりしても大丈夫でしょうか

大丈夫なようです。
このスレ
.\o2on\dat\2ch.net\tech\1212\1212302014.dat
を直接開いてみたところ、きちんと182までありました。

パフォーマンスとしては、よくわかりません
初期バージョンのころDAT構築で、一晩放置しないと終わっていなかったので
こんなものでは?と思っています。

あと、こんなエラーが出ていました。
2008/06/27 20:32:47 SQLite error - - disk I/O error

184:175
08/06/27 21:47:34
2008/06/27 21:39:26 UpdateThread info - - 開始
無事に終わったようです。
総DAT 371,521


185:デフォルトの名無しさん
08/06/27 23:14:35
「スレッド検索」で、チェックを入れたやつを一括削除できるような機能がほしいです。
誰かお願いします。

186:前スレ960
08/06/28 22:34:01
>>179
お疲れ様です。まずはご報告~
再構築をストレス無く 『完走』 できたようです。
今回は詳細なデータを取ってなかったので
明日にでも前回と同様の検証作業をしたいと思います。

その際 >>182氏 の言う 「再構築中にスレの読み込み」
も検証テーマとしてみます

187:デフォルトの名無しさん
08/06/28 22:53:27
久々にBOINCを回し始めたらo2on 44b落ちまくった
44にして今再構築中♪

188:デフォルトの名無しさん
08/06/29 01:47:27
>>187
BOINCも44bも使ってるけどどっちも落ちたことないな
その他の環境の違いもあるのかな

189:デフォルトの名無しさん
08/06/29 02:25:19
どうでもいいことだが、PHP ThreadSpiderを改良してみた
URLリンク(o2on.sourceforge.jp)

wgetがいらんくなって設定はiniに書くようになったので、
禁断の壺を持ってさえいれば誰でも使えるようになったはず。

190:デフォルトの名無しさん
08/06/29 19:36:30
最近接続ノードの数がちょこっと増えたな
これも多少は普及してる証拠か

191:デフォルトの名無しさん
08/06/30 00:30:20
そんなに大きな宣伝活動もしてない筈だしそれでも普及してきてるのは凄いよな。
俺は友人に勧めてみたが相手にもされなかったがw
バカじゃない?ってw

いっそ一回宣伝でもしてみるか?

192:デフォルトの名無しさん
08/06/30 00:39:05
いま確認したらノード150もあっておったまげたぁ

193:デフォルトの名無しさん
08/06/30 09:06:41
俺フリーソフト紹介するメルマガ購読してるんだがそこで紹介してたんで入れたぞ

194:デフォルトの名無しさん
08/06/30 14:07:44
管理画面のノード一覧で、項目名の上あたりに水色のグラデーション(dat収集のページに出てるのと同じ色合い)が
出てるんだけど、なんか意味があるんだろうか?

195:デフォルトの名無しさん
08/06/30 18:24:48
収集すればするほど色が濃くなるって意味だと思うよ
俺はそう捉えてるが

196:194
08/06/30 20:58:38
>>195
dat収集のページはそうなんだろうけど、ノード一覧だから意味が分からなかったのです。

これ
URLリンク(o2on.sourceforge.jp)

ごめんなさい、wiki内アプロダのほうにも間違えて上げてしまいました。
今日の日付のo2on.gifってやつです。
削除するのに管理者しか消せないみたいで。


197:デフォルトの名無しさん
08/06/30 21:50:04
gifよりpngのがよくね
gif256色しか扱えないし

198:デフォルトの名無しさん
08/06/30 21:56:35
俺はいつもpng派

199:デフォルトの名無しさん
08/06/30 22:04:43
>>196
Kademliaにおけるk-bucketの埋まり具合を表すんだと思う。

なんて思いながらソースを眺めてたら、O2NodeDB.cppの244行目、
 i, (int)((double)KBuckets[i].count()/(i+1)*100.0));

 i, (int)((double)KBuckets[i].count()/KADEMLIA_K*100.0));
の間違いなんじゃないかって気がしてきた。

200:デフォルトの名無しさん
08/07/01 02:05:46
質問です急に
Proxy起動失敗:
bind失敗 (port:8000)

o2onの起動を中止します
とか出て起動できなくなってしまったんですが
なにが原因なんでしょうか

201:デフォルトの名無しさん
08/07/01 02:47:46
port8000が既に使用されてる

202:デフォルトの名無しさん
08/07/01 21:13:25
>>198
やはりパソコン画面のキャプにはpngだよね
jpgはノイズが発生するから嫌い(非可逆圧縮でのjpgでの話、まあjpgが可逆圧縮に対応されていることすら知られてないけど)

203:e ◆CuSO4..R5I
08/07/01 21:26:28
>>182
> それとも dat.db.rebuild とかで再構築して最後に差し替えるのがいいかな?

dat.db.rebuild で再構築して、既存の dat.db をバックアップしつつ
差し替える方向で作業してます。
DB アクセスと差し替えが重なるかもしれないのはとりあえず無視ですが。
# O2DatDB がカオスってきたぞー

204:k-u ◆k.u4xwkrx.
08/07/02 22:36:40
>>199
今日Kademliaの勉強始めたばっかりでよく分かっていないのですが、
244行目が間違いでないとすれば、距離が離れているノードはたくさんあるので
大きな数字で割って、ならそうとしたんではないでしょうか
まあオンラインノードが200も行かない現状ではどちらにしてもあまり代わらないようだけど。

>>203
安定したらコード整理したいですね
#if 0 のやつは消して、1000件分割もやめていいと思う

205:k-u ◆k.u4xwkrx.
08/07/02 23:16:48
参考
URLリンク(o2on.sourceforge.jp)

上の方は常用のo2on、下はデバッグ用ので持ってるノード情報が異なりますが

206:デフォルトの名無しさん
08/07/03 23:49:15
開発乙です。

DatCollectorが折角datを持ってきても取得板を少ししか設定してないから
大量に(゚⊿゚)イラネが出てきて寂しいのでソースを見たのですが。

O2Job_DatCollector.hの82行目付近:
 // 取得する板を決める
 wstrarray boards;
 if (Boards->GetExList(boards) == 0)
  return;
 CryptoPP::AutoSeededRandomPool rng;
 wstring &board = boards[rng.GenerateWord32(0, boards.size()-1)];
では全板から選択しているようですが、「dat収集」で選択されてない板だった
場合は取得してから捨てる (O2Protocol_Dat.hの206行目) のは勿体ないと思います。
これにはやはり何か理由があるのですか?
どうせなら、最初から選択されている板の一覧から取得する板を決めた方がいっぱいdatが
集まって幸せになれるのではと思ってみたり。

207:前スレ960
08/07/04 00:53:09
アバウトなテストしてみましたのでテストデータ上げときます。
URLリンク(o2on.sourceforge.jp)
前回同様、実のあるテストではないのであまり役に立つとは思えませんが
予めご了承下さいませ。

DB再構築テストの結果から:
 ・>>179氏ビルドの o2on は、まさに私の期待する結果をもたらしてくれました
 ・再構築中にスレはあまり開かない方がよいと思います
以上です。開発者の労力に比べお粗末なレポですまんのー。

208:デフォルトの名無しさん
08/07/04 12:24:07
>開発者様
うちに50GBほどのDATがあるのですが、これはあると便利でしょうか?
ただ今バックアップのためにアーカイブ化しているので、必要であればTorrentか何かに放出しますが……

209:e ◆CuSO4..R5I
08/07/04 15:33:45
>>179>>203 を入れたバージョンです。

再構築用の DB ファイルを別に作って再構築するようになりました。
再構築を途中で止めたりせずに、最後まで終わった時点で従来のファイルとの差し替えがなされます。

お試しくだしあ。

URLリンク(o2on.sourceforge.jp)

210:e ◆CuSO4..R5I
08/07/04 15:45:56
>>206
dat のやりとりを効率化することが実用化に向けて重要なことですね。
ちょっと見てみます。

>>207
レポ乙です。
PRAGMA synchronous = OFF; の影響なんかも気になっていたのですが、
特に変なことも起こってないようですね。

>>208
クレクレ

211:k-u ◆k.u4xwkrx.
08/07/04 17:14:57
>>206
とりあえずでっち上げパッチ
URLリンク(o2on.sourceforge.jp)
ごく近辺のコードしか見てないのでこれであってるのかよく分からん
つーかお初にお目にかかるソースです

>>207
なんという優良テスター
スレ読み込むとやはりロックしましたか。
これは>>209の最後で差し替えるバージョンだと起こらないはずです

>>208
2人だったらFTPの方が早いかと思ってローカルに立ててみましたが
3人ならトレントの方がいいかな
正直有効活用できるか分かりませんが、ご面倒でなければとりあえずもらっておきましょうか
PCは今日から明日の朝まで起動させておくことはできます。

>>209
おっつう、ってまだ中身見てないけど


212:デフォルトの名無しさん
08/07/04 17:52:15
開発者様方乙です

213:208
08/07/04 18:25:11
>>210-211
ちょ、ちょっと待って、まだアーカイブ化半分ぐらいしか進行してないっす(汗
rebuilderで作ったdatならすぐにでも、>>209版でリビルドしてのものなら明日の朝までにはうpれるですが……

214:前スレ960
08/07/04 20:48:21
>>209, 211
お疲れ様です

>>210
> PRAGMA synchronous = OFF; の影響なんかも気になっていたのですが、
重要性は高いがユーザにとって退屈なDB再構築がパフォーマンス
アップされることはまさに望むところだと思います
一方、滅多に遭遇しないシステム障害が構築中に起きないことを願いつつ

>>211
> これは>>209の最後で差し替えるバージョンだと起こらないはずです
今週末にでもまた検証してみます

215:デフォルトの名無しさん
08/07/05 18:30:42
>>213
ゆっくり待っています。50GBに期待

216:デフォルトの名無しさん
08/07/07 23:32:22
ようやっと余裕が出来て44 にうpしようと思ってるんだけど、
wikiに更新方法とかまとめたページ無かったっけ?
普通に上書きすればいいから(よかったよね?)なくてもいいって感じだったっけ?

217:デフォルトの名無しさん
08/07/07 23:33:07
あ、忘れてた、開発者の方々、おつかれさま。ありがとう。

218:デフォルトの名無しさん
08/07/08 09:17:18
>>208
まだ?

219:デフォルトの名無しさん
08/07/08 23:14:11
>>218
停電したんでやり直してますo...rz
せめてもととりあえずdat.dbだけでもあげときます。
ただしrebuilderかけた直後のものなので、正確にはo2onが吐いたものではないですが…。
URLリンク(www.rupan.net)


220:デフォルトの名無しさん
08/07/08 23:15:04
あ、dlpassは o2on です。
bzip2を展開したら140MBぐらいになるはず。

221:デフォルトの名無しさん
08/07/09 00:36:15
>219
横からいただきますた。

222:デフォルトの名無しさん
08/07/09 01:30:13
>>219
                   ( ⌒)       ∩_ _ グッジョブ!!
                  /,. ノ       i .,,E)
              / /"        / /"
  _n  グッジョブ!!   / / _、_   ,/ ノ'
 ( l     _、 _   / / ,_ノ` )/ / _、_    グッジョブ!!
  \ \ ( <_,` )(       / ( ,_ノ` )     n
   ヽ___ ̄ ̄ ノ ヽ      |  ̄     \    ( E)


223:デフォルトの名無しさん
08/07/09 09:36:32
>>219
dat待ってます。ずっと待ってます。

224:デフォルトの名無しさん
08/07/09 10:37:16
50Gなんておとせねーだろ

225:デフォルトの名無しさん
08/07/09 10:47:56
圧縮してどれくらいなんだろう?>50G

226:デフォルトの名無しさん
08/07/09 11:48:26
4割程度になるんじゃない?
頑張ればもっといけるよ

227:デフォルトの名無しさん
08/07/09 12:40:55
NTFS圧縮程度でも半分ぐらいにはなるので、大きくても20GB程度かと思われます。
なお、予測ではあと40時間らしいです。
モウテイデンシナイデクレヨ....

228:デフォルトの名無しさん
08/07/09 14:43:47
超ガンガレ
次止まったら、板別に少しずつ圧縮したんでいいからな・・・

229:k-u ◆k.u4xwkrx.
08/07/09 18:21:04
おまいら結局HDDの肥やしが欲しいだけなんだな・・・


俺もだが

230:デフォルトの名無しさん
08/07/09 18:28:15
将来このソフトが流行って

「俺、このソフト昔から使ってたんだぜ」

って自慢するのが夢なんだ



自慢する相手がいないが

231:デフォルトの名無しさん
08/07/09 19:32:38
それでも私はo2onを起動し続ける
そこにo2onを見つけたから

232:デフォルトの名無しさん
08/07/09 20:13:50
>>219ってもう消えてる?

233:おさ ◆OSApxZfJs2
08/07/09 23:58:45
とりあえず、わたしの54GBも、いま圧縮中。
16GBぐらいになる予定。
9時間でやっと半分。あと9時間かかる模様w

234:デフォルトの名無しさん
08/07/10 00:22:09
>>233
まってるよ。おさ

235:おさ ◆OSApxZfJs2
08/07/10 08:31:28
お待たせしました。
URLリンク(www.osa-p.net)

DHTネットワークのみにしていますので、落ちてこない方はBitCommetの
bc://bt/QUEvbzJvbl9kYXQvMTY4NTkwMDUzNjQvN2FjZTU1ZjdmYmVmZTNmMDBiNGExOTQyNjU1MzBlYTdiYmZkYzhiOS9aWg==
でどうぞ。

>>219氏のとどれだけかぶっているか…

236:デフォルトの名無しさん
08/07/10 09:08:03
>>235
                           (ヽ、,/)
                    ,、)     | ~|       ,-、-、
    ∧ ∧    ,、_,、    (V⌒⌒)  ⊂   つ   / J J  ,、_,、      ∧ ∧
キタ━(*゚∀゚)━⊂( 。__。)⊃━⊂(   )⊃━(   )━⊂(   )つ━(*゚∀゚)━(*゚∀゚)━!!!
   ⊂   つ~(   〈     `´`´    ∨ ∨    `´`´   ⊂   つ  ⊂   つ
   ~|  |    `J J                       ~ヽ、つつ ~|  |
     ∪∪                                      ∪∪


237:デフォルトの名無しさん
08/07/10 13:22:48
>>235
これって、7-zipで解凍するの?解凍できないんだけど熱のソフトがいるの?

238:デフォルトの名無しさん
08/07/10 13:57:17
180kb/sであと2日かかる・・・
だるすぎるぞ
もっとスピードでないものかね

239:デフォルトの名無しさん
08/07/10 14:00:31
>>237
P2P
BitCommetってソフトで落とせる

240:235
08/07/10 14:11:57
あれ?もう落とせた人います?
テストとしてtorrent経由で別のマシンに転送してみましたが、そちらでは解凍できました。
圧縮は7-Zip 4.42コマンドライン、解凍は7-zip32.dll 4.57.0.1で試しました。
o2on-dat.7z のファイルサイズは 16,858,542,866 バイトです。


241:235
08/07/10 14:14:24
>>238
2台のマシンをシーダーにしているので、がんばってくださいm(_ _)m

>>237
ああ、トレント経由で落としてください。
圧縮失敗したのかと思って焦ってしまった。

242:デフォルトの名無しさん
08/07/10 14:15:47
おぉ!
一気に2000kb/sまでスピードアップ!!
あと3時間ぐらいで落ちるかも

243:デフォルトの名無しさん
08/07/10 15:29:27
俺も便乗DLさせてもらうわ

244:デフォルトの名無しさん
08/07/10 16:27:22
>>242
あと44時間もかかる、OCNだからかな。

245:デフォルトの名無しさん
08/07/10 16:30:57
 ま る で o 2 o n の 意 味 が な い

246:デフォルトの名無しさん
08/07/10 16:35:19
>>245
それは・・・・・・・・言わない約束・・・・でしょ・・・・・・?

247:デフォルトの名無しさん
08/07/10 16:36:38
まとめて転送するならTorrentの方が向いてるよ。
特に新参の人にはいいんじゃないかね

248:デフォルトの名無しさん
08/07/10 16:44:29
私は待ってればみんなが落としたdatがo2onのフォルダに溜まるんですね、わかります

249:デフォルトの名無しさん
08/07/10 17:44:42
落とし終わった人、接続を切らないで欲しいなぁ

250:デフォルトの名無しさん
08/07/10 18:40:49
>>249
ごめんそれオレかも。丸一日くらいはシードしようと思ってたけど電話かかってきたんだよ プロバイダから
しかも警告だってさ。
「弊社の利用規約でお客様の一日あたりのデータ送受信は10Gまでとなっております。本日、お客様がご利用になった
データの総受信量はすでに10Gを超えており約25Gに達しております。お客様のご利用が他のお客様のご利用に支障
を来す恐れがありますので弊社規約の範囲内でのご利用をお願いいたします。なお弊社ではファイル共有ソフトのご利
用は禁止しておりませんがコンプライアンスの観点から著作権者等からの通報などがあった場合、弊社で通信記録を調
査し該当する事実があった場合は情報を開示いたしますのでファイル共有ソフトのご利用は十分御注意願います。本日
お客様がご使用になったファイル共有ソフト「ビットコメット」送受信されたファイル「おー2おーえぬでぃーえーてぃー」に
つきましても著作権侵害等に御注意下さい。今回はこのお電話での対応のみといたしますが今後、お客様のご利用状況
が改善されない場合はアカウントの停止・ご契約の解除もございますので御注意下さい。

だってさw 使えねープロバイダだな・・・

251:デフォルトの名無しさん
08/07/10 18:42:54
どこのプロバ?

252:デフォルトの名無しさん
08/07/10 18:48:02
エキサイトは15G制限だけど200Gぐらい転送しても何ともないんだぜ・・・
つーか転送内容まで把握してるってのは捕まるんじゃないか?
おまえこそご注意くださいってところだな

253:デフォルトの名無しさん
08/07/10 18:48:59
>>250
送受信で10GBって送信105GB/週のbb.exciteより酷いな。しかも検閲行為だろこれ

254:235
08/07/10 18:57:21
結局o2onで少しずつ転送しろってことですねw

255:デフォルトの名無しさん
08/07/10 19:22:58
信じるなよ

256:デフォルトの名無しさん
08/07/10 19:40:13
俺もエキから一回電話とメールきたことあるw
エキもP2Pソフトの名称とやりとりしていたファイル名をずばり言われちゃったよ
まぁ俺の場合はPCゲーム落としてたから真っ黒だけどなwww

257:デフォルトの名無しさん
08/07/10 19:42:11
>>256
o2onがどうのこうのでまた電話

258:デフォルトの名無しさん
08/07/10 19:44:03
>>250
どこのプロバイダそれ

259:デフォルトの名無しさん
08/07/10 19:45:20
おー2おーえぬでぃーえーてぃー
o2ondat・・・

260:256
08/07/10 20:54:19
>>257
それはない!エキの場合はどっかからの通報がない限り大丈夫w
俺の時はアメリカから通報があったと言ってたw
o2onは違法じゃないだろ だからつなぎっぱなし2日目でも安心w

261:k-u ◆k.u4xwkrx.
08/07/10 21:12:49
dat.dbは以前にもらったものも含めていくつかあるのでウェブサイトに上げておきます。
50G datは再構築に必要な最初数行だけ残してコンパクトにまとめるように計画中。

再構築に関して改良した部分はcommitしていってもらっても結構です>e氏

262:デフォルトの名無しさん
08/07/11 07:47:33
>>256
さすがにネタだよな?違法行為じゃんそのISP

263:デフォルトの名無しさん
08/07/11 08:32:35
>>261
よろしくお願いします。
作者さん、これからも頑張ってください。
陰ながら応援しています。

264:デフォルトの名無しさん
08/07/11 08:59:14
>>262
駅の警告は有名。ダウソ板じゃ常識w

265:デフォルトの名無しさん
08/07/11 14:17:20
駅で1日にUP12GB/DL36GBくらい使ったことあるけど一度もないよ。ADSLだからか?

266:デフォルトの名無しさん
08/07/11 14:20:18
DL終わってたわ。シーダいなくなってるからしばらくシードしておく
ソリッド圧縮使ってないんだなこれ。使ってたらもっと縮んでそう・・・

267:デフォルトの名無しさん
08/07/11 14:56:27
駅はUP105G/週が基準だからそれくらいじゃ何にも言われない
ちなみにDLは無制限だからDOMにはもってこいのプロバw

268:デフォルトの名無しさん
08/07/11 15:13:39
URLリンク(dl.btjunkie.org)

警告なんかこないと思ってる奴↑落としてみてみろ
ちなみにこれは映画「バベル」。菊地凛子の生まんこがノーモザイクで見えてるバージョンw

269:235
08/07/11 16:21:40
>>266
このサイズでソリッド使ったらメモリがいくらあっても足りないか、
いつまで経っても圧縮が終わらないと思ったのです。

というか、最初ソリッドにチェック付けたら、いつまで経っても圧縮が始まりませんでした。

270:デフォルトの名無しさん
08/07/11 16:37:42
シードが増えた3つだ。さっきまで一つだった。

あと6時間。おさ最高。昔から好きだった。

271:デフォルトの名無しさん
08/07/11 16:42:24
>>269
圧縮始まらないってそりゃ恐ろしいな・・・w

272:208
08/07/11 18:33:17
ソリッド圧縮ってそんなに遅くなるのか……
道理で圧縮に3日4日かかるわけだorz

273:デフォルトの名無しさん
08/07/11 18:48:00
ソリッド圧縮って、同じファイルを一個にまとめるってやつでしょ?
この世に1から1000まで同じ内容のスレがいくつあるのかと…。
こんなサイズでやったら指数関数的に処理が増えていくな。

274:デフォルトの名無しさん
08/07/11 18:53:16
ごめん、勘違いしてた。
でも、かなり辞書サイズを大きくしないと、効率的な圧縮ができそうにないな。

275:デフォルトの名無しさん
08/07/11 19:47:57
圧縮はいつでもソリッドでやってる俺が通りますよ
なんとなくデフォルトをソリッドにしたけど、圧縮も遅いし
一部解凍したいときでも全解凍なみにかかるしでいいことないお
比較試験したことも無いから果たしてサイズが小さくなってるのかどうかもわからない
惰性って怖い……

でも一晩とか半日とかで終わるよ!

276:デフォルトの名無しさん
08/07/11 20:32:24
logとかdatとか細かいファイルが多いときは大分小さくなるよ。>solid

277:デフォルトの名無しさん
08/07/12 01:20:13
>>272
まだうpしてないの?あの日から俺ずっと待ってるんだけど。
安心して寝ることができない。

期待して待っています。よろしくお願いします。

278:デフォルトの名無しさん
08/07/12 01:48:57
>>235
URLリンク(up2.viploader.net)
見てくだっさい!この54.2GBのとんでもないファイルを!!!

フォオオオオオオオオオオオオオオオオオオオオオオオオ!!!!!!!!!!!!!!!!

この大きさを見ろ。datファイルが555229個もあるんだぜ。薬板のスレッドもコンプリート。
なんか達成感があるなあ。生きていて良かったとつくつぐ感じたよ。

俺は疲れている。しかし充実感のある気持ちのいい疲労感だ。

なあ、幸せってこういうことなんだろうな。
なあ、達成感で胸が一杯だ。おささん、俺さ、凄い頑張ったんだよ。
頭を優しくなでなでしてほしい。そして思いっきり俺のことを褒めてほしい。

やっほおおおおおおおおおおおおおおおおおおおおおおおおおおおおおおおおいいいいいい!!!!!!

ばんざーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーい!!!
ばんざーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーい!!!
ばんざーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーーい!!!

おさ大好きだあああああああああああああああああああああああああああああああああああああああ!!!!

279:デフォルトの名無しさん
08/07/12 01:54:05
>>272
まだ?

280:デフォルトの名無しさん
08/07/12 02:00:55
>>278
薬板てあるんだな。医薬品のスレッドとかか?
病気は辛いと思うけど頑張ってくれよな。


281:デフォルトの名無しさん
08/07/12 02:03:50
ADSL1.5なんでまだまだだ…
みんな保持本当によろしくお願いします…

282:デフォルトの名無しさん
08/07/12 02:05:17
>>281
消した

283:デフォルトの名無しさん
08/07/12 02:06:45
デスラーには辛い容量だな

284:デフォルトの名無しさん
08/07/12 03:30:51
>>282
んで消すんかい!

285:デフォルトの名無しさん
08/07/12 03:41:06
100GBあるんだが需要あるか?

286:デフォルトの名無しさん
08/07/12 03:43:56
おい、o2onの意味が無くなるからやめろwwww
o2onでもっと効率よく拡散させる方法を編み出すんだww

287:デフォルトの名無しさん
08/07/12 03:45:30
>>285
洒落に頼む

288:デフォルトの名無しさん
08/07/12 04:05:09
>>287
洒落って何GBまでアップロードできるの?

289:デフォルトの名無しさん
08/07/12 04:11:03
洒落、winnyのネットワーク網を利用して、Janeで過去ログ取得したり
掲示板したり出来ないですか?

290:デフォルトの名無しさん
08/07/12 04:35:55
>>289
おっ、そういえばそうだな。
やってみる。

291:デフォルトの名無しさん
08/07/12 07:40:00
o2onの補完し合う仕組みって、どこかに資料があったりしますか?
繋がっているノード同士、常に持っていないスレをやりとりし合うのか、
検索対象になっているスレしか交換しないのか…。

292:デフォルトの名無しさん
08/07/12 08:42:37
>>291
datの拡散・収集は、常に行われる。

が、現状では拡散・収集するdatはランダムに選択するだけで、
持っているかどうかは考慮してないので結構効率が悪そう。
板単位には絞ってるみたいだけど。

293:デフォルトの名無しさん
08/07/12 11:04:22
遅くなったけどたぶんこれでいける
URLリンク(o2on.sourceforge.jp)
解答してtorrentファイル取り出してください

294:デフォルトの名無しさん
08/07/12 11:17:58
ああ、あとsolidな圧縮かけてるrarもあるのですが、こっちはもう少しかかりそうです。
にしても速いマシンでrarするより遅いマシンでtar.bz2のが速いとは。

295:デフォルトの名無しさん
08/07/12 11:20:31
>>293
               _∩   グッジョブ!!
 グッジョブ!!       /( ⌒) ̄\   ∩___
     / ̄ ̄ ̄\_,.i"/,. ノ|_|i_トil_| / .)E)  ̄\ グッジョブ!!
    i'___{_ノl|_|i_トil_|i.l/ /┃ ┃{.i| / / ノノii|_|i_トil|
  _n i|,彡 ┃ ┃{.i|i/ /''' ヮ''丿li/ /ミ彡┃ ┃{ノ
 ( l 》|il(_, ''' ヮ''丿|/ ,ク ム"/ /l i(_ ''' ヮ''丿|
  \\リ i `フ l´il l|(  ヽー、- く .ノリ i`フ i_"il l|   n
   ヽ二二,,⌒ヽノリゞヽ  .:o:. Y ..:oヽ二⌒    \_レ( E)
    c':.  ! :c:: }ノ   ヽ、__人  ノ  Y .::o:ヽ ..:p/
     `ー'`ー‐く     )   ハ !    !、_ ノ、_ノ
      } ハ    ヽ   ,.'     j イ     )  ハ!
     /  `     !   {    `Y 〈   /   , !
     !  Y´    /   ヽ    ヽ \ {    `Y ノ


296:デフォルトの名無しさん
08/07/12 11:23:03
「新しいファイルを残す」じゃなくて、「ファイルサイズの大きい方を残す」で合体させないといけませんな。

297:278
08/07/12 12:05:10

URLリンク(up2.viploader.net)

自分で今まで集めて保有していたdatが40GBあったんだ。
54.2GBの落としたファイルを同じフォルダにコピーしたんだが、想像していたようにはいかなかった。

40GB+54.2GB=94.2GB  こうなる予定だったんだ。

しかし実際には66.8GBだ。

94.2ー66.8=27.4 か。27.4GBもの重複があったみたいです。
気分はいいです。充実しています。ようやくファイルの移動が完了しました。
本当にありがとうございました。

298:デフォルトの名無しさん
08/07/12 12:28:02
これクォータ設定しててファイルサイズが上限に達したらどうすりゃいいんだ?
古いdatから消してきゃいいのか?

299:デフォルトの名無しさん
08/07/12 12:53:23
>>297
手持ちが全て重複でなくてよかったじゃないか
さぁ、重複しなかったファイルをうpする作業に戻るんだ

300:デフォルトの名無しさん
08/07/12 13:02:07
雑談系の板のdat入ってる?

301:デフォルトの名無しさん
08/07/12 13:07:17
>>293
それ解凍したら何G?

302:デフォルトの名無しさん
08/07/12 13:10:06
最近何回かあった●お試しの時だれも過去ログ漁らなかったの?
漁ってれば過去ログdatコンプできたのにな・・・

303:デフォルトの名無しさん
08/07/12 13:14:42
>>301
実際のアーカイブファイルは、これを解凍したtorrentファイルをもとにBitTorrentネットワークから落としてください。
Wikiのロダが.torrentを受け付けなかったのでこうなってます。

304:デフォルトの名無しさん
08/07/12 13:35:29
>>303
.bz2 てなに?これをまた解凍するの?

305:デフォルトの名無しさん
08/07/12 14:06:31
>>302
あれ直ぐバーボンになるんだぜ

306:デフォルトの名無しさん
08/07/12 14:09:02
.torrentはファイルをP2Pで落とすための「ショートカット」みたいなもんだ。
BitTorrentでばらまかれているbz2落としてそれを解凍する。

307:デフォルトの名無しさん
08/07/12 14:27:17
>>304
面倒臭い拡張子ですみません。
リモートで見てみたらrarも終わったようなので、帰ったらそっちもあげときます。

308:デフォルトの名無しさん
08/07/12 16:11:33
>>307
ずっと待ってます。

309:デフォルトの名無しさん
08/07/12 17:00:45
>>308
帰宅しました
URLリンク(o2on.sourceforge.jp)


310:デフォルトの名無しさん
08/07/12 17:07:03
tarボールってNoahで解凍できた気がするがどうなんだろうね

311:デフォルトの名無しさん
08/07/12 17:14:57
いくつかアップされてるけど、初めにアップされたのと同じだよね

312:デフォルトの名無しさん
08/07/12 18:52:57
tar落としたけど解凍も時間かかるなw

313:デフォルトの名無しさん
08/07/12 18:56:12
>>278
それって、ちゃんと「ファイルサイズの大きい方」を残した?

日付が新しくても補完できてなかったらdatだったら、
たくさん取得できている古いdatを、ちょっとしか取得できてない新しいdatで
上書きしてるかも。

314:デフォルトの名無しさん
08/07/12 18:56:50
>>313>>278>>297 の間違い

315:デフォルトの名無しさん
08/07/12 19:22:05
>>298
消したら集めた意味が無いと思うが

316:デフォルトの名無しさん
08/07/12 20:54:33
自分の手持ちのdatと>>235>>293の重複してて、かつレス数が少ないdatを削除したいんだがいい方法無い?



317:デフォルトの名無しさん
08/07/12 21:10:34
>>316
①「o2on→Janeコンバータ(bat版)」でJane用に一旦変換
②「DatUploader適当にいろいろ弄った私家版」の「サイズが大きい」でマージ
でどう?
URLリンク(o2on.sourceforge.jp)

318:デフォルトの名無しさん
08/07/12 21:17:02
ごく稀にあぼーん率の高いスレが元の状態になるんですね分かります

319:316
08/07/12 21:50:33
>>317
㌧今から試してみるわー

320:316
08/07/12 22:16:55
o2on→Janeコンバータ(bat版)の仕様ってどこかの過去スレのレスに無いですか?
もしURL知ってたら教えていただけませんか

321:デフォルトの名無しさん
08/07/12 22:24:46
>>320
o2on→Janeコンバータ(bat版)作ったのは俺なんだけど、仕様は書いたことない。
質問があれば答えるよ。

322:316
08/07/12 23:09:57
>>321
Jane Doe Style Version 2.78使用なんですが
もしそのo2ondatの中にJanedatが混じっちゃったらどうなってしまうのかを知りたくて…
他人のbatを読めない低脳なんで、もし仕様関連のレスがあればその近くに多分↑の疑問に対するレスがあるかなー?と。

あと「DatUploader適当にいろいろ弄った私家版」はJREのverは何が推奨でしょうか?
Sunは入れたことが無いので…

いやなんといいますか単純な質問でスミマセンスミマセン
作者さんとは知らずスミマセンスミマセン
ダウソ板からの低脳ユーザーでスミマセンスミマセン

323:321
08/07/12 23:32:14
>>322
o2onのdatとJaneのdatは同じ形式なので混ざっても問題はない。
フォルダ構造が違うだけ。

ただしo2onのdatフォルダにJaneのdatを放り込んだ場合は
「P2P停止」→「DB再構築」→「P2P起動」をやる必要がある。

DatUploaderは俺が作ったわけじゃないんで分かんないけど
readme.txtに書いてある通り、何でもいいんじゃね?

324:316
08/07/12 23:40:19
>>323
とてもわかりやすく解説ありがとうございます了解です
最後に質問なんですが
o2on→Janeコンバータ(bat版).zip(o2on→Jane.bat)

datインポートツール(bat版)(Janeのみ対応).zip(o2onimp.bat)
は機能的にどう違うのですか?もし全然違うものでしたらごめんなさい。

325:321
08/07/12 23:46:03
>>324
「o2on→Janeコンバータ」はo2onのdatをJaneへ放り込むツール、
「datインポートツール」はJaneのdatをo2onへ放り込むツール。

326:316
08/07/12 23:48:03
>>325
ありがとうございました

327:デフォルトの名無しさん
08/07/13 00:35:23
プロトコルの実装

BitTorrent

BitTorrent プロトコル仕様書 URLリンク(lowlife.jp)
BitTorrentのファイル配信メカニズム URLリンク(dev.ariel-networks.com)
BitTorrent - Wikipedia URLリンク(ja.wikipedia.org)


poeny(Winny)


poenyでのWinny2ファイル共有互換プロトコルの実装メモ URLリンク(archive.shingetsu.info)
Index of /poeny URLリンク(fuktommy.com)
ポエニー―readme.txt URLリンク(imony.fbox.info)

328:デフォルトの名無しさん
08/07/13 01:00:27
まだpoenyProject動いてたんだ…

329:デフォルトの名無しさん
08/07/13 01:09:59
スレリンク(download板)

330:デフォルトの名無しさん
08/07/13 05:45:54
>>309
今からダウンローディングします。
本当に乙です。

331:デフォルトの名無しさん
08/07/13 05:47:04
FFC使えばファイルサイズの大きい方だけを残してコピーできるよ。

332:デフォルトの名無しさん
08/07/13 05:50:56
シードがないよお。
ああ、昨日は居眠りしてしまったからな。
一生の不覚。とりあえずこのまましばらく起動しておこう。

333:デフォルトの名無しさん
08/07/13 06:03:04
>>293

解凍したら50.3GBになりました。

URLリンク(up2.viploader.net)

本当にありがとうございました。

334:デフォルトの名無しさん
08/07/13 06:25:10
>>309
落ちる気配がない。

335:デフォルトの名無しさん
08/07/13 06:30:04
>>331
URLリンク(www.k3.dion.ne.jp)
> ToDo :
> 新機能 :↓優先度順。(済)は実装完了or完了間際。次バージョンに。
> (10%) キューイングタスクのリスト制御(処理順等)
> (1%) 上書き条件に「ファイルサイズ」や「ファイル属性」を追加
> エラー時の再試行
> 1フォルダに集める等の拡張コピー系
> ファイル/クリップボードからファイルリスト受け付け
> 上書き確認を要するファイルは後回しにして処理を続行
> 処理先パス長オーバー時に処理を中止しない
> 複数インスタンス処理時のREAD/WRITEの高効率化

(1%) 上書き条件に「ファイルサイズ」や「ファイル属性」を追加ってなってるから実装はまだじゃない?


336:デフォルトの名無しさん
08/07/13 11:57:08
単純にサイズじゃなくて、行数で比較しないといけないのか。

337:デフォルトの名無しさん
08/07/13 14:16:02
>>335
カスタム→上書き動作の定義

っていう項目のところで設定できるはずだぞ。

338:デフォルトの名無しさん
08/07/13 14:18:12
URLリンク(www.k3.dion.ne.jp)

[07/11/5] スナップショット版4.9.0.3

○上書き動作条件の詳細化(更新日時が古い・同じ・新しい・違う、サイズが小さい・
 同じ・大きい・違う)
 上書き確認モード設定のコンボボックスに既定の動作として「非上書き」、「マー
 ジ」(古い方をリネーム)、「相違上書き」(更新日時かサイズが異なれば上書き)を
 追加。またカスタム上書き動作指定では、上記条件を5つまで組合わせて指定可能
 とした。

これって違うか?

339:デフォルトの名無しさん
08/07/13 14:21:29
>>336
透明削除まで考慮すると行数ですら判断できないわけで、
まあ、どっかで割り切るしかないかと。

340:336
08/07/13 16:24:44
>>339
ああそうか、透明削除もありましたね。

なので、「重複ファイルはコピーしない」でdatフォルダに統合して、
重複してるファイルはo2onが上手くやってくれるのを待つことにします。


341:336
08/07/13 16:28:24
連書きスマソ。

最後の行の書き込み日時を見る、というのも考えましたが、
エイプリルフールの日付変換が難しいので(個別にコーディングしないといけない)
やっぱりo2onまかせ。

上手いプロトコルというか仕様を考えないといけませんね。

342:デフォルトの名無しさん
08/07/13 16:58:03
>>338
txtでAと言うファイルを二つ作って試したが
A(サイズ0)のあるディレクトリにA(サイズ11)をコピー
確認ダイアログが出た際に条件を
処理元のサイズが大きい小さいどちらを選んでもA(サイズ0)のディレクトリにA_コピー.txtができた
多分使いこなせてないのだろうがヨクワカラン動作だ


343:デフォルトの名無しさん
08/07/13 17:19:25
下らない質問なんだけど
bbspinkをavira Anivirでスキャンしたらアーカイブ判定されるdatがいくつかあって
例えば
o2ondat_20080708\dat\bbspink.com\ascii\1062\1062666975.dat
これをテキストエディタで開くとdatの形式ではない文字列が出たので
ガ板でmimizunだったかであらかじめ圧縮されたdatが拡張子datのままgzで送られた
っていうのがあったから
拡張子をgzにしたら解凍できて通常のdatになった
2ch.netのディレクトリにはなかった
これって改変datがかなりo2onネットワークにあるということではないかい
以前に壺形式のdatってのがあったはずだ



344:デフォルトの名無しさん
08/07/13 17:25:34
とりあえずffcで同名ファイルはスキップ移動して残った分は問題解決まで放置に決定

345:デフォルトの名無しさん
08/07/13 20:34:25
bbspink.comのフォルダ内以下のファイルがgz

ogefin\1065\1065530750.dat
nuki\1037\1037358236.dat
leaf\1035\1035904092.dat
hneta\1062\1062660590.dat
hneta\1052\1052448193.dat
hneta\1043\1043135584.dat
hgame\1058\1058969817.dat
feti\1061\1061393239.dat
eroparo\1056\1056886963.dat
erocomic\1062\1062952659.dat
ascii2d\1071\1071455175.dat
ascii2d\1056\1056993786.dat
ascii2d\1048\1048781548.dat
ascii2d\1044\1044116677.dat
ascii2d\1043\1043328815.dat
ascii2d\1040\1040077305.dat
ascii2d\1039\1039484887.dat
ascii\1073\1073376455.dat
ascii\1062\1062666975.dat



次ページ
最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch