【RSS】 Yahoo! Pipes 【スクレイピング】at ESITE
【RSS】 Yahoo! Pipes 【スクレイピング】 - 暇つぶし2ch2:名無しさん@お腹いっぱい。
08/11/11 18:15:49
この糞スレッドは終了しました!

3:名無しさん@お腹いっぱい。
08/11/11 20:17:14
文字化けをなんとかしろ

4:名無しさん@お腹いっぱい。
08/11/12 10:39:33
読売が全文取れなくなってる
Fetchがうまくいってない?

5:名無しさん@お腹いっぱい。
08/11/12 16:06:59
<a href=だと拾わないみたい

6:名無しさん@お腹いっぱい。
08/11/12 19:41:07
朝日が文字化けしなくなったな。

7:名無しさん@お腹いっぱい。
08/11/13 00:13:13
画像が見れないのが増えたな
なぜだ

8:名無しさん@お腹いっぱい。
08/11/15 00:56:01
URLリンク(d.hatena.ne.jp)

9:名無しさん@お腹いっぱい。
08/11/16 12:19:46
相対パスの画像が表示されないって、ずっと前からですか?

10:名無しさん@お腹いっぱい。
08/11/16 20:21:32
>>9
たぶん先週の月曜か火曜頃に相対パスへの挙動がかわったと思う

11:9
08/11/17 00:14:02
レスありがとうございます。
これですね。
URLリンク(discuss.pipes.yahoo.com)

12:名無しさん@お腹いっぱい。
08/11/17 10:43:57
URLリンク(myremix.jp)

13:名無しさん@お腹いっぱい。
08/11/18 00:51:25
>>12
俺ならもっとうまく作れるぜとかと思うとパクリみたいになるのか。

14:名無しさん@お腹いっぱい。
08/11/18 22:59:05
そこって垢取らないと中身見れないのかよ

15:名無しさん@お腹いっぱい。
08/11/20 01:51:30
>>11
相対パスが消えちゃう症状、治ったみたいだね

16:名無しさん@お腹いっぱい。
08/11/20 11:00:04
URLリンク(pipes.yahoo.com)
popularじゃなくて新着順のURLは無いの?

17:名無しさん@お腹いっぱい。
08/11/21 17:21:12
検索で日本語通るようになった?

18:名無しさん@お腹いっぱい。
08/11/23 00:57:02
pipesの実行結果の欄にlistとかMapと出てるけど、MapってRSSリーダーで読むの?

19:名無しさん@お腹いっぱい。
08/11/23 15:18:19
はてなブックマークのRSS→Yahoo! Pipes→livedoorReaderで呼んでたヤツが
何日か前からldRとYPsの間が不調になってて読めなくなってるっぽい

20:名無しさん@お腹いっぱい。
08/11/24 10:52:52
時間指定のモジュールがあったらいいな。

21:名無しさん@お腹いっぱい。
08/11/26 13:53:22
gooの画像付き地震速報の奴、見てますよ。

22:やっほー
08/11/29 14:00:34
毎日画像を山ほど配信するfeedを教えてクレクレ

23:名無しさん@お腹いっぱい。
08/12/02 13:03:34
キタ━━(°Д°)━━!!!!

「Tarpipe」なら複数のソーシャルサイトをメールで一括操作
URLリンク(www.lifehacker.jp)

tarpipe
URLリンク(tarpipe.com)

24:名無しさん@お腹いっぱい。
08/12/07 09:57:48
>>17
通るよ
URLリンク(pipes.yahoo.com)

25:名無しさん@お腹いっぱい。
08/12/07 17:24:43
>>24
いや、そうじゃなくて、パイプの中でフィードを検索する時の話を……。

26:名無しさん@お腹いっぱい。
08/12/15 19:32:34
>>22
BBCの奴がいいんじゃないかな。

27:名無しさん@お腹いっぱい。
08/12/24 00:37:48
RSSを全文取得した場合、
元の記事自体が複数ページに分割されてると1ページ目しか読めないわけですが
このような時、2ページ目3ページ目を取得するには
どのような処理をしたらいいのでしょうか?

28:名無しさん@お腹いっぱい。
08/12/29 23:08:40
>>27
それはスクリプト組まないとできない。
つまりパイプじゃ無理

29:名無しさん@お腹いっぱい。
08/12/31 06:46:31
>>28
ありが�ォ。
じゃ俺には無理だな

30:名無しさん@お腹いっぱい。
09/01/15 17:37:17
新年あげ。

31:名無しさん@お腹いっぱい。
09/01/25 14:38:10
pubDateの日付フォーマットで
特定日時をフィルタするってどうすればいいかな?

32:名無しさん@お腹いっぱい。
09/01/28 16:31:22
こんなサービスが


RSSフィードを全文配信で読むなら まるごとRSS
URLリンク(mrss.dokoda.jp)

33:名無しさん@お腹いっぱい。
09/01/28 19:31:35
>>32
いいねコレ
即ブックマークした

34:名無しさん@お腹いっぱい。
09/02/07 10:31:52
Pipes Blog ≫ Blog Archive ≫ Yahoo! Pipes, our 2nd Birthday.
URLリンク(blog.pipes.yahoo.net)

35:名無しさん@お腹いっぱい。
09/02/18 16:44:15
省庁のサイトをpipesでRSS化してる方がいますね
良いことです

36:名無しさん@お腹いっぱい。
09/02/26 10:40:30
URLリンク(twitter.1x1.jp)
URLリンク(labs.ceek.jp)
URLリンク(b.hatena.ne.jp)

37:名無しさん@お腹いっぱい。
09/03/01 10:55:52
mixiのマイミク最新日記をフィードにしてサーバ型RSSリーダー(LDR)で読みたいんだけど、これ使えば出来るのかな。
mixiが公式に吐いているやつは、ログインした状態でローカルのリーダー使わないと読めないし、フィードに含まれるのは日時とタイトルだけで、誰が書いたのか分からない。
代理ログイン、スクレイピングするの自作しかないか。

38:名無しさん@お腹いっぱい。
09/03/08 18:00:01
>>37
以前、mixi全文をRSS化したらアク禁くらったぞw
mixiは連続でアクセスしたら駄目っぽい


39:名無しさん@お腹いっぱい。
09/03/08 18:04:17
ついでに、ちょっと聞きたいのだけども、1日分のRSSを1つのRSSにまとめる、みたいなことって可能?
どうやったもんだろうか

何やりたいかと言うと、twitterの発言なんかをmixiに流したいんだけど、
そのままRSS入れたら頻度が多すぎて多分うざい。
そこで、twitterの1日分を1エントリーとしてまとめられないかな?と
1日分にまとめたRSSにできたら、thumblrにつっこめば自動エントリー化してRSSも吐いてくれるからいけるかな、と。

40:名無しさん@お腹いっぱい。
09/03/08 22:00:42
使ったこと無いけど、こういうのがある

DailyFeed - デイリーフィード | サイトの更新を翌日まとめてRSSでお届け
URLリンク(dailyfeed.jp)

41:名無しさん@お腹いっぱい。
09/03/09 07:58:58
>>40
うーん。タイトルしかまとまってくれない・・・。
しかし、何故、はてなブックマークのエントリーみたいな余計なものつけるんだろ。
そういうのはGreaseMonkeyとかに任せておけばいいのに・・・

42:37
09/03/09 11:01:53
>>38
全文は要らないので、日時とタイトルと書いた人の名前をフィードにしたい。
でも、うまくスクレイピングできない。
XPATHがよく分からないんだよなあ。

足あと一覧も、マイミクのマイミクまでは横にマークがつくけど、あの画像込みでフィードにしたい。

43:名無しさん@お腹いっぱい。
09/03/09 11:26:58
>>42
つ WWW::Mixi::Scraper


44:39=41
09/03/10 14:05:37
>>40-41
せっかく紹介してくれたのに文句だけ言ってスマソ
気をわるくしないでくれ・・・

45:名無しさん@お腹いっぱい。
09/03/11 15:28:15
関連コピペ

RSS生成

My RSS - あらゆるサイトのRSSを配信 -
URLリンク(myrss.jp)
RSSクリエイター RSS未対応サイトのRSS作成
URLリンク(rssc.dokoda.jp)
RSS フィード 自動作成 - goo フィードメーカー
URLリンク(fm.goo.ne.jp)
Page2RSS - Create an RSS feed for any web page
URLリンク(page2rss.com)
なんでもRSS 0.1b
URLリンク(blogwatcher.pi.titech.ac.jp)
はてなアンテナ
URLリンク(a.hatena.ne.jp)

まとめて配信する

feedremix
URLリンク(www.feedremix.jp)
feedremix
URLリンク(www.feedremix.jp)
MixFeed | ホーム : RSS配信・リミックスウェブ・WEB2.0
URLリンク(www.mixfeed.jp)
The Search RSS Mix
URLリンク(rssmix.the-search.jp)
DailyFeed - デイリーフィード | サイトの更新を翌日まとめてRSSでお届け
URLリンク(dailyfeed.jp)


46:名無しさん@お腹いっぱい。
09/03/24 03:11:56
動画サイトのファイルをiTunesにPodcast形式でダウンロードさせるパイプがすげー便利

47:名無しさん@お腹いっぱい。
09/03/24 09:19:18
URLもはらずに書き込みでごじゃるか?

48:名無しさん@お腹いっぱい。
09/03/24 21:43:42
iTunesにドラッグ&ドロップでYoutubeの動画ファイルがぶっこ抜ける

Browse Pipes: Pipes Search: podcast youtube (21 results)
URLリンク(pipes.yahoo.com)


Pipes: My YouTube Subscriptions 2 iTunes Podcast
URLリンク(pipes.yahoo.com)

Pipes: YouTubeUserPodcast
URLリンク(pipes.yahoo.com)

Pipes: YouTubeDailyTopRatedPodcast
URLリンク(pipes.yahoo.com)

Pipes: YouTube Playlist to Videocast
URLリンク(pipes.yahoo.com)

Pipes: YouTubeDailyTopFavouritesPodcast
URLリンク(pipes.yahoo.com)


49:名無しさん@お腹いっぱい。
09/03/24 21:45:23
でも結局なんだかんだでこのサービスが便利

ListPod - YouTube動画のマイリストを作ってPodcastで見よう!
URLリンク(listpod.tv)

50:名無しさん@お腹いっぱい。
09/03/24 23:44:32
わざわざpipesを使う意味が分からないんだがw>youtube動画

51:名無しさん@お腹いっぱい。
09/03/25 05:28:42
>>50
iTunesでダウンロードと動画の管理が出来て、iPodと簡単に連携出来るのが魅力
これらのソフトとハードを持ってて、そういうスタイルで利用してないと理解しにくいかな
もちろんmp4とPodcastが使えるソフト/ハードなら応用できるし

52:名無しさん@お腹いっぱい。
09/03/25 05:34:12
例えば2chのYoutubeのおすすめ動画を紹介してあるスレなんかから
勝手にリストを作ってそれをそのままポッドキャストにできる。
iPodに同期させて通勤時間なんかにまとめてチェックするとか。

グリースモンキーあたりを使って単独ダウンロードを繰り返すのより簡単だし、
他人に紹介しやすくなる。リンクをiTunesにドラッグドロップするだけで
リストの動画がすべてぶっこ抜ける。

53:名無しさん@お腹いっぱい。
09/03/25 11:23:42
ようわからんけど、Podcast=RSS?なのか
YoutubeのリストをRSS化すればiTunesなどで見られる?
動画の物故抜きまで、Yahoo Pipesでやっとるのん?

54:名無しさん@お腹いっぱい。
09/03/25 13:01:02
動画サイトの糞画質でよく満足できるな。
てかそこまでして見たいものないし

55:名無しさん@お腹いっぱい。
09/03/25 14:05:48
HD画質であがってる動画はその解像度で落ちてくるよ
ニュースや人気動画の動向は知っておきたいし
シリーズモノや購読してるユーザーを追いかけるのにも便利

>>53
RSS化も自動でやってくれるんだって
形式変換やダウンロードには外部のサービスも通ってるかもしれない

56:名無しさん@お腹いっぱい。
09/03/25 14:53:16
実際にやってみればわかるかな。
他人のリストで申し訳ないけど、
このリストをiTunesに登録してみて。

URLリンク(listpod.tv)
iTunesのメニュー・詳細→Podcastを登録で貼り付けると確実かな

57:名無しさん@お腹いっぱい。
09/03/25 15:34:01
フィードの宣伝をフィルタリングするために使ってるんだけども、Pipesを通すと
FaviconがPipesのものになっちゃうのがちと不便
元のFaviconを表示させる方法はないかなあ…


58:名無しさん@お腹いっぱい。
09/03/26 17:41:41
pipes調子悪くない?
昼頃からMy pipes行こうとするとタイムアウトするんだが

59:名無しさん@お腹いっぱい。
09/03/29 05:29:26
>>56
iTunesないんで試せないけど、
すげーmp4がそのままついてるんだ

60:名無しさん@お腹いっぱい。
09/04/06 16:14:35
>>57
xml内のlinkをオリジナルの物からYahoo Pipesに書き換えてるからfavicon変わるのかねえ
最終的にRSSを吐き出すときに書き換えてるから対処のしようが無いんじゃ
Pipesの中の人にxmlのlink弄るなハゲと一生懸命文句言うしか無い様な

61:名無しさん@お腹いっぱい。
09/04/07 17:18:31
>>58
時々そういうことありますよ。

62:名無しさん@お腹いっぱい。
09/04/07 20:36:18
>>58
いつものことです。

63:名無しさん@お腹いっぱい。
09/04/07 23:43:39
mixiのRSSを全文配信する方法ってないもんですかね?
アクセス規制されない方法で。

64:名無しさん@お腹いっぱい。
09/04/21 17:34:32
これをpipesで見れるように作ってくださいお願いします
URLリンク(kanpou.npb.go.jp)

65:名無しさん@お腹いっぱい。
09/04/21 17:56:13
>>64
URLリンク(kanpou.npb.go.jp) このページを
URLリンク(page2rss.com) に登録すればおk

66:名無しさん@お腹いっぱい。
09/04/28 16:02:41
インプレスがpipesからのアクセスを遮断した?
WatchのRSSから全文取得とか窓の杜のRSS自体とか、インプレス鯖アクセスさせるとエラー403で取ってこられないww

今月の15日あたりから取ってこれてなかったっぽいんだけど気がついてなかったorz

67:名無しさん@お腹いっぱい。
09/04/28 16:24:46
確かにRSS自体は生きてるけどPIPESで引っ張れないな。
しかしその割にはMETAタグでクロール拒否してる訳じゃ無し。いったい何がしたいのかね。

68:名無しさん@お腹いっぱい。
09/04/28 16:26:51
>>66
2週間も気付かないようなフィードは登録解除しておk

69:名無しさん@お腹いっぱい。
09/04/28 17:33:53
CNETも対策したっぽい>全文配信化

70:名無しさん@お腹いっぱい。
09/04/28 17:43:39
この流れでITMediaもとかならんよな。feedをまとめてるだけなんだから勘弁してくれよ。

71:名無しさん@お腹いっぱい。
09/04/29 01:51:02
pipesにあったねたミシュランの画像のみってやつも
15日で取得できなくなってた。更新されないなーって思ってたよ。

72:名無しさん@お腹いっぱい。
09/04/29 04:28:21
>>68
fastladderで読んでたから、てっきりクローが遅れてるんだと思い込んでたw
っていうか、結構いろんな所で対策始めたんだなあ


サイトで全文読ませたってADはどうせ全部カットしちゃうから
RSSで読んでも同じなんだけどなあ

73:名無しさん@お腹いっぱい。
09/04/29 09:37:15
RSS使う奴が広告クリックするとおもっているんだろうかw

74:名無しさん@お腹いっぱい。
09/04/29 12:31:27
adsenseのフィード広告やってるけど
クリックする人結構いるよ

75:名無しさん@お腹いっぱい。
09/04/29 17:57:32
URLリンク(mrss.dokoda.jp)

76:名無しさん@お腹いっぱい。
09/05/11 17:51:53
キタ━━━(゚∀゚)ノ━━━ !!!!!

77:名無しさん@お腹いっぱい。
09/05/12 00:13:46
インプレスはセコいんだよな。

78:名無しさん@お腹いっぱい。
09/05/20 20:16:32
Pipes経由してるfeedの更新をGoogle Readerが拾ってくれない。更新は間違いなく来てるのに。
調子が悪いだけだよなきっとそうだ。まさかGoogleに蹴られてるって事はないよな。

79:名無しさん@お腹いっぱい。
09/05/20 21:28:26
>>78
GRが遅れてる+pipesが重いせいっぽい
モレも自作pipesけっこうGRに突っ込んでるけど
いくつかが2日くらい拾ってくれてないし、
GRの更新押すと解析エラーとかでるのがある。
で、
firefoxなりIEなりでpipesにアクセスしてキャッシュさせてからGRの更新押すと
結構拾ってくれるww

80:名無しさん@お腹いっぱい。
09/05/20 21:55:49
ちょっとキャッシュさせる作業してくる

81:名無しさん@お腹いっぱい。
09/05/21 00:53:52
どうやんのよ

82:名無しさん@お腹いっぱい。
09/05/21 10:26:11
作ったpipesは何で見てるの?
グーグルリーダーとかFireFoxのとか?

83:名無しさん@お腹いっぱい。
09/05/21 11:44:40
おれはgoogle readerで見てるよ
1エントリーに巨大画像どっさりのフィード(ボストングローブのbig picture)とか途中で表示されなくなるけど
あとは不満無く使えてる

84:名無しさん@お腹いっぱい。
09/05/21 18:39:47
やっぱグーグルか。携帯だといいのはあるだろうか

85:名無しさん@お腹いっぱい。
09/05/23 14:19:48
feedの解析見るとしょっちゅう
“誰かがあなたのフィードを再配布したことを意味します”
って出てるんだけどここのやつらのせい?

86:名無しさん@お腹いっぱい。
09/05/24 05:46:41
>>85
Yahoo!Pipes以外でもいくらでもあるだろ、RSS使ったサービスは。

87:名無しさん@お腹いっぱい。
09/05/29 04:21:23
pipesの中でURLエンコードってできますか?
例えばtitleのデータをURLエンコードするとか。
正規表現でPerlの関数が使えないみたいで、ネットで調べた正規表現で変換する方法はダメでした。

88:名無しさん@お腹いっぱい。
09/05/29 15:32:40
俺も一時期頑張った事有るけどそのときは断念した。
Yahoo Pipesでicalデータ扱えるんだな。どうも文字化けして使えないぽいけど。

89:名無しさん@お腹いっぱい。
09/05/29 18:13:59
Pipesってなんか変わった?
久々に行ったら、前と雰囲気違う気がするんだが

90:名無しさん@お腹いっぱい。
09/05/29 18:22:14
いつから見てないのか知らんが最近では
・fetch pageでの文字化けが直った
・YQLモジュールが追加された
ぐらいかな

91:名無しさん@お腹いっぱい。
09/05/29 21:45:38
>>88
やっぱ非アスキー圏では必須だよな。
自分で作ったほかのpipes(パラメータあり)を呼び出してるんだが、
パラメータに引き渡すデータがアルファベットのやつしかうまくいかない。
もうちょいがんばってみるわ。

92:名無しさん@お腹いっぱい。
09/05/30 07:30:43
RSSフィード内にあるtarget="_blank"を消そうと思ったんだが、Regex使っても消せねぇ・・。

記事の中にあるリンクまでは置換してくれないのか。。。

93:名無しさん@お腹いっぱい。
09/05/30 08:35:56
消えないんじゃなくて、最終的に自動でくっつけられるんだと思うよ
おれリンクタグを中で生成してるけど、書いた覚えもない「target="_blank"」がついてくるもん。
割と余計な親切があるんだよなあ。

94:名無しさん@お腹いっぱい。
09/05/30 08:45:08
マジでか!!
コレで5,6時間無駄にしてるぞ、俺。

iPhoneだから、RSSリーダー内臓のブラウザで新規ウィンドウ開けないんだよな。毎回safari立ち上げないといけないのか。。。

何か代替のサイトとかないもんかねぇorz

95:名無しさん@お腹いっぱい。
09/05/30 09:03:52
日本でどっかが始めてたよ。知らない会社。
どこで見つけたんだっけなあ。このスレのどこかかも。

96:名無しさん@お腹いっぱい。
09/06/07 06:58:48
やっぱURLエンコード望んでる人いるんだな。
自分もいろいろやってみたけど、結局諦めて外部鯖にスクリプト設置して呼び出してるよ。

97:名無しさん@お腹いっぱい。
09/06/11 12:44:05
モジュール追加きたけど・・、これ今までも別のモジュールでできてたことじゃん。
もっと役に立ちそうなのを追加してほしいなぁ。

98:名無しさん@お腹いっぱい。
09/06/11 12:58:36
URLエンコードモジュール追加の要望を出そう!



・・・でも英語で書けねえ

Please, URL encode module. It's very very important for non ascii world !

こんな感じでいいか?

99:名無しさん@お腹いっぱい。
09/06/11 20:45:39
ニュアンスが通じればいいんでないかい。
外人が書いた怪しい日本語でも何となく意図は通じるじゃん。

RSS item Builderとやらは今まであったitem Builderと何か違うんだろうか。
これをわざわざ追加した意図が分からん。

100:名無しさん@お腹いっぱい。
09/06/12 03:50:23
URLエンコードの要望出すなら、ちゃんと文字コードを指定できるようにってのも書かないと。
書かなかったら、UTF-8固定のを追加されて終わりってことになりかねない。
UTF-8ならURLBuilder経由で今でもできない事もないんだから。

101:98
09/06/12 05:09:47
>>100

URL Builderでやるやり方しってたの?
要望を出そうと思ったけど過去ログみたいの見ないとと思って、
フォーラムを調べたら引っかかった。

ここに書こうと思ったけど、
Loopの中にURL Builderを入れて、
取得したXMLの値を渡してもうまくいかなくて格闘中。

おれはUTF-8でエンコードされればまあ満足だからやめとくよ。
ローカルな文字コードまでサポートするとは思えないし。

102:名無しさん@お腹いっぱい。
09/06/12 05:50:56
>>101
Loop内のモジュールにitem.title等の変数で日本語を渡すと、日本語が無視されることがある。
この場合、元データの取得を例のxmliconv経由でやってやるとうまくいく。

格闘してる内容がこれかどうかわからないけど、一応アドバイス。

103:名無しさん@お腹いっぱい。
09/06/12 05:59:06
あ、あとURLBuilderで出来るのは知ってた。
でも自分が欲しかったのはEUC-JPだったから、外部にphpスクリプトを書いて
テキストと文字コードをGETで送ってURLエンコードしたのを取得ってやってる。

104:名無しさん@お腹いっぱい。
09/06/12 06:49:12
>>102-103

サンクス、でもダメポ。
URL Builderは前にも試したはずだが、同じようにうまくいかないんだと思う。

Fetch Dataを使ってitemリストを生成するわけだけど、
itemの中だとなんかいろいろ制約があるんじゃないだろうか。
title以外の適当な名前をつけても全然だめ。

ほかのやつらも同じようにやったんだろうけど、おれもあきらめモード。
やっぱ要望出すか。。。

105:名無しさん@お腹いっぱい。
09/06/29 02:34:28
objectタグが勝手にiframeタグに変換されるみたいなんだが
なんか回避する方法ないかな

106:名無しさん@お腹いっぱい。
09/07/02 22:07:57
GIGAZINEがrobots.txtでPipesのFetch Pageを弾くようになったみたいだ。
これはうざいな・・・

107:名無しさん@お腹いっぱい。
09/07/02 23:10:39
robots.txtの中身見たけどひょっとしてこれか
User-agent: *

108:名無しさん@お腹いっぱい。
09/07/02 23:21:23
GIGAZINEが・・
誰かなんとかしてくれ

109:名無しさん@お腹いっぱい。
09/07/02 23:28:08
串使え。自分で設置すると軽い。

110:名無しさん@お腹いっぱい。
09/07/03 01:15:26
おまえら負荷かけまくりとかじゃないだろうな。最低限のモラルは守ってくれよ

手遅れくさいが

111:名無しさん@お腹いっぱい。
09/07/03 01:46:37
Pipes Search: gigazine (109 results)
URLリンク(pipes.yahoo.com)

112:名無しさん@お腹いっぱい。
09/07/03 11:29:20
ついにGoogleNEWSもfetchPage蹴られるようになりますた・・・だったらfeed設置しろやハゲ

113:名無しさん@お腹いっぱい。
09/07/03 15:38:30
次々と大手サイトから閉め出され始めたな

114:名無しさん@お腹いっぱい。
09/07/03 15:46:01
そろそろPlaggerに切り替えるか
文字コードやエンコード、余計な親切に対処するのも疲れたし

115:名無しさん@お腹いっぱい。
09/07/03 18:43:17
google mobile proxyも蹴られてる?

116:名無しさん@お腹いっぱい。
09/07/03 19:58:05
・plagger自体出来が良いとは言い難い
・関連ドキュメントの散逸っぷりが凄い
・結局Perl書けないとお話になんない
以前挑戦したけど諦めたわ

117:名無しさん@お腹いっぱい。
09/07/03 20:21:07
そろそろUAモジュール出ないかな。
出してくれないかな。

118:名無しさん@お腹いっぱい。
09/07/03 20:22:58
Perl書けないやつが出来に関して云々していいのか?
作ったやつは日本のPerl界では大御所だぞ。
おれはPerl知らんからRubyでやるけど。

119:名無しさん@お腹いっぱい。
09/07/03 20:34:05
URLリンク(myremix.jp)
ここに移ろうかと思ってるがmodul多いわ分かり難いわで難航中

120:名無しさん@お腹いっぱい。
09/07/04 09:20:01
>106
7/2からpheedoで経由のfeedはlすべて蹴られるようになったんだけど,pheedo:origLinkのURIを使ったらFetchPageできていた.
でも,GIGAZINEは両方だめなんで泣きそう.

まぁでもProxy的なWebサービス通せばなんとかなるか

121:名無しさん@お腹いっぱい。
09/07/04 10:00:32
めんどくさいから
URLリンク(mrss.dokoda.jp)

122:名無しさん@お腹いっぱい。
09/07/04 17:43:39
まるごとRSSって、何日かエントリー溜め込んでからまとめて配信するようになってね?

123:名無しさん@お腹いっぱい。
09/07/20 13:11:59
デタ━━━━m9( ゚∀゚)人(゚∀゚ )9m━━━━!!

URLリンク(pipes.yahoo.com)

124:名無しさん@お腹いっぱい。
09/07/20 23:02:23
>>123
どこかの鯖を経由してpage fetchしているのかと思ったら
以前使えていたpheedo:origLinkからのpage fetchなんだな。
GIGAZINE、鯖の設定をまた変えたのかな?

125:名無しさん@お腹いっぱい。
09/07/24 03:52:40
文字コードがヘッダで明示されてないutf-8だと文字化けするっぽい?
ページ変換系の使えそうな串はないだろうか

126:名無しさん@お腹いっぱい。
09/07/24 09:19:36
自己解決
URLリンク(www.google.com) でいけた

127:名無しさん@お腹いっぱい。
09/07/26 18:34:10
まぐまぐが7月からpipes規制してるみたいだ。

128:名無しさん@お腹いっぱい。
09/07/27 11:17:15
オワタあんてな全文取得してくれねーかな

129:名無しさん@お腹いっぱい。
09/08/12 15:02:33
誰かpixivのランキングpipe作って

130:名無しさん@お腹いっぱい。
09/08/12 20:10:27
ユーザー名入力無しでどうやってランキングを取得するのか教えてくれれば幾らでも作ってやる

131:名無しさん@お腹いっぱい。
09/08/13 08:26:22
>>119と組み合わせればいいじゃん

132:名無しさん@お腹いっぱい。
09/08/14 11:37:28
>>119でやっつけた
URLリンク(up2.viploader.net)
URLリンク(up2.viploader.net)
URLリンク(up2.viploader.net)

133:名無しさん@お腹いっぱい。
09/08/15 18:32:43
MyRemixオンリーでやったのん?参考にしたいからpipeのURL教えて。関連ドキュメント少なくて苦戦中。

134:名無しさん@お腹いっぱい。
09/08/15 20:38:20
公開しといた
Recently Publishedに出てると思う

135:名無しさん@お腹いっぱい。
09/08/15 22:55:59
cloneできない・・・orz

136:名無しさん@お腹いっぱい。
09/08/16 10:19:40
できるようにしといた

137:名無しさん@お腹いっぱい。
09/08/16 20:13:00
ありがとー、やっぱマイリミとあほーは一長一短なんだねー
リスト関数とかIF moduleとか使いこなせればまた違うのかもしれんけど

138:名無しさん@お腹いっぱい。
09/08/19 20:59:48
普通の正規表現チェックサイトだとうまく動作するんだがyahoo pipesの正規表現でうまくマッチしてくれない
なんか使えない表現とかある?

139:名無しさん@お腹いっぱい。
09/08/19 22:35:18
正規表現なんて完全に統一されてるわけじゃないんだから
その情報量で分かるわけないだろ
ちなみにPipesはPerlライクな

140:名無しさん@お腹いっぱい。
09/08/27 19:59:11
うちはパールライス

141:名無しさん@お腹いっぱい。
09/09/11 06:50:59
うむむ・・・久々に使ってみたら重い・・・・
フィードの元のサーバはすぐにレスポンス返してるんだけど。
同様のサービスってほかにどんなのがある?
あれこれ試して比較してみたい。

142:名無しさん@お腹いっぱい。
09/09/11 06:52:11
ちなみに今まで Google App Engine で遊んでたけど、
Pipes みたなののほうがお手軽だしいちいちコード
書かなくていいし、便利だなぁ

143:名無しさん@お腹いっぱい。
09/09/16 18:12:20
2つ質問があります
PixivやMixiのようなログインしないと必要なデータを取得することができないサイトのページをFetchすることは可能でしょうか?
Pipesでできない場合、Plaggerなどを使えば可能でしょうか?
どうかご教示頂きたく…

144:名無しさん@お腹いっぱい。
09/09/16 20:10:26
>>119
ここ使えばできる。Pixivは誰かエロイ人が作ってくれてる。検索したら出てくる。
mixiはapiが用意されてる。PixivのPipesを参考にまあがんがれ。

145:名無しさん@お腹いっぱい。
09/09/16 20:17:17
知ってると思うけどmixiには非公開RSSがあるよ。

146:名無しさん@お腹いっぱい。
09/09/17 00:46:19
ありがとうございます。調べてみますね

147:名無しさん@お腹いっぱい。
09/09/22 06:52:50
PipesでGet as RSSしたものがうまく取り込めないのですが、なにか対処法ありますか?

148:名無しさん@お腹いっぱい。
09/09/24 14:39:18
cnnが急に復活した。

149:名無しさん@お腹いっぱい。
09/09/24 16:17:54
RSS引っ張ってこれないのは鯖が重いだけ。いつもの事。

150:名無しさん@お腹いっぱい。
09/10/03 11:30:49
重い

151:名無しさん@お腹いっぱい。
09/10/08 11:12:36
ヤフったが出てこない

152:名無しさん@お腹いっぱい。
09/10/08 11:26:29
もう使うのやめてしまった

153:名無しさん@お腹いっぱい。
09/10/27 14:50:02
pipesの新作順にソートしたrssきぼん

154:LOVE
09/10/27 15:03:50
こんにちわ

155:名無しさん@お腹いっぱい。
09/10/29 14:16:01
これってフィード内に別サイトから取り込んだフィードを組み込んで
一つの記事にする事って出来ないの?

やってみたらitemの中にデータは入るけど取り出せなかった

156:名無しさん@お腹いっぱい。
09/10/29 14:44:48
YouTube Playlist to Videocastって
動画を25個しか取得できないんですけど
取得数を増やす方法ありませんか?

157:名無しさん@お腹いっぱい。
09/12/11 22:08:56
相変わらず過疎ってるな。ちょっと凝った事すると重くなって動かなくなるんだよな。
Google Readerとかタイムアウトしてしまう。

158:名無しさん@お腹いっぱい。
10/01/07 14:47:01
かなり久しぶりに試してみたが、マルチバイト文字の扱いが改善されてないか?
また使ってみようかと思った。
前は別のpipesの呼び出し時にマルチバイト文字を引き渡すことができなかったのだが。

159:名無しさん@お腹いっぱい。
10/01/14 16:07:33
MyRemix死んだ?

160:名無しさん@お腹いっぱい。
10/01/14 16:51:32
まじだ、つながんねー
pixivチェックするのに重宝してたからなくなると困るわ

161:名無しさん@お腹いっぱい。
10/01/16 15:17:17
MyRemixだめっぽいな
他に代理ログインできるこういうサービスってない?

162:名無しさん@お腹いっぱい。
10/01/19 20:41:26
いつのまにかmyremix復活
DNSでも切れてたんかな

163:名無しさん@お腹いっぱい。
10/01/19 23:28:37
myremix使ったこと無い
日本語だから良いのか?

164:名無しさん@お腹いっぱい。
10/01/20 01:33:34
xpatchが使えるのと文字化けしないぐらいか

165:名無しさん@お腹いっぱい。
10/01/20 02:24:10
上で言ってる代理ログイン出来るのが一番の強みかな
mixiとかpixivにログインしてスクレイピングできる

166:名無しさん@お腹いっぱい。
10/01/27 02:13:07
MyRemixでpixiv用のパイプ更新&作成した
しかし微妙に使い勝手が悪い
細かいスクレイピングができないから
ランキングとかの本文を取ってこようとすると2重で同じURLを取ってきて
最終的にタイムアウトしてしまう
ここはもう更新しないんかな・・・

167:名無しさん@お腹いっぱい。
10/02/22 15:54:00
MyRemixかどっかで、mixiのダイアリーの全文RSS作れるところってないですかね?
前にMyRemixだったかでやってみたら、一発で連続アクセス規制くらったんですよね・・・

168:名無しさん@お腹いっぱい。
10/02/22 21:45:51
つmechanize

169:名無しさん@お腹いっぱい。
10/03/05 10:02:55
自分のDeluciousブックマークにサムネイルを付けてpipesから吐かせてるんだけど、どうやったらdescriptionの中にdeliciousのタグを追加できます?(出来ればそのタグのリストへのリンク付きで)

こういうことにはド素人だから、他の人が作ったpipeを参考に何とかサムネイルだけは取得できたんだけど。item.category.contentにタグの情報があることは分かるんだけど、それをどうやったらdescriptionの中にリンク付きで持って来れるかが知りたい、です。

170:名無しさん@お腹いっぱい。
10/03/05 16:02:48
>>169
どんな構造かわからんからあれだが
item.category.content ってのはツリーで見ると
item
 category
     0
      content
のように間に数字が入ってたりしないか?
ドロップダウンだと何故かその数字が省略されてるので、手動で付ければ奥の階層から引っ張ってこれるよ
上の例だと item.category.0.content って感じ

あとはそれをLoopOperatorsにStringBuilderをハメて
item.description
item.category.0.content
とやれば合体できる
出力先はitem.descriptionにすればよい

171:名無しさん@お腹いっぱい。
10/03/05 16:43:44
>>170
ありがとう、ございます!3回くらい読んでやっと理解できた。確かに複数タグがあるとcategoryとcontentの間に0から数字が入って来てる。

でもこれって、もしタグが10個あるとしたら0から9まで別に入れないとならないのかな?とりあえずいじってくる!

172:名無しさん@お腹いっぱい。
10/03/05 17:30:00
携帯でチマチマ書いたから文章めちゃくちゃですまんw
自分がそれハマったんでつい書きたくなってしまったのよ
とりあえずデータ引っ張れればなんとかなるだろう
健闘を祈る

173:名無しさん@お腹いっぱい。
10/03/05 17:39:15
>>171
>もしタグが10個あるとしたら0から9まで別に入れないとならないのかな
そうなってるならそうする必要があるね
もし無くてもエラーとか出ないし、データも空のままだから気にせず指定しておけばいいかと

174:名無しさん@お腹いっぱい。
10/03/05 19:17:17
>>172-173
できたーー!サンクスでした。
ちなみに3回も読んだのはHTMLもよく分かってない俺のせいwww

175:名無しさん@お腹いっぱい。
10/03/13 22:53:08
これ使って登録したFeedってデフォルト名がパイプ名になったり
アイテムURLがパイプ先になったりするんですがこれってパイプソース云々というより仕様なんですか?


176:名無しさん@お腹いっぱい。
10/03/14 00:27:20
はい

177:名無しさん@お腹いっぱい。
10/03/14 00:30:51
そうですか
どうも^^

178:名無しさん@お腹いっぱい。
10/03/25 01:26:28
URLリンク(zonwari.com)
これ商品単位にばらせます?
ジャンル分けみたいなのをどう処理したらいいのかわからん

179:名無しさん@お腹いっぱい。
10/03/25 05:12:51
>>178
目的がわからんが、無理
dapperかませばいけそうだけど、重くなりそう
あまとも使った方がいいんじゃない?

180:名無しさん@お腹いっぱい。
10/03/25 07:51:02
Fetch Pageの容量制限はYQLで回避できる。
YQLモジュールで
select * from html where url="URLリンク(zonwari.com)" and xpath='//div[@class="im"]'
こんな感じ。
あとは必要な要素を抜きだしていく。

YQLのhtmlテーブルで取得したデータはarrayになるが、YQLの自作テーブルを外部に用意するなら
executeでJSON.stringifyを通す事でテキストに変換できる。私は普段はこれを使ってる。

181:名無しさん@お腹いっぱい。
10/03/26 00:09:06
>>179
あまともだと3000円の商品が1円下がったとかどうでもいい情報まで来るからこっちを見たかったんだが

182:名無しさん@お腹いっぱい。
10/03/30 16:15:50
保存シパーイしたよとエラーが出るものの、実はちゃんと保存されてるというのがまた最近多くなった。
一時期まともだったのに、また鯖が重いのか。

183:名無しさん@お腹いっぱい。
10/03/31 18:02:42
>>178
yqlでカー&バイク用品等のジャンルで分割する。商品単位にバラすのは後。
後でstring tokenizerで商品単位に分割する事を考えて、@等の適当な記号で商品の区切りを入れておく。タグを置換すると良い。
商品単位にバラしたときジャンルが取り出せるように、区切り記号にジャンルをくっつけておく。「@カー&バイク用品」とこんな感じ。
string tokenizerで商品単位にバラす。
という感じでいけるけど、項目数が多すぎて何したってたぶんタイムアウトする。特定のジャンルだけしかいらないのならいけるかも。

184:名無しさん@お腹いっぱい。
10/04/03 23:20:20
LOOPモジュールの中にMypipes入れられるのって前からだっけ?

185:名無しさん@お腹いっぱい。
10/04/03 23:53:10
むしろ入れることができなかった時があったのか?

186:名無しさん@お腹いっぱい。
10/04/04 10:51:13
Pipesの中で別のPipes呼び出すとどうしても重くなるんだよね。悪くするとタイムアウトする。

187:名無しさん@お腹いっぱい。
10/04/14 09:25:32
Pipes Blog ≫ Blog Archive ≫ YQL execute to power the Pipes webservice module update.
URLリンク(blog.pipes.yahoo.net)

188:名無しさん@お腹いっぱい。
10/04/14 16:16:58
>>187
これは要するにどういう事なんだ。だれか説明してくれ。

189:名無しさん@お腹いっぱい。
10/04/14 18:59:43
以前からYQLはpipesに足りない機能を補えるものとして使えたわけ。
それに加えてJavascriptの知識とXMLを置く場所があれば
ほぼなんでも出来る無敵の環境にすることができた。
なぜかこのスレではYQLの話題は少ないが。

で、今回のアップデート>>187でYQLのテーブルを自分で作る際に書くJavascriptを
ちょっと簡略化できるようになりましたよっていう話。
前から使ってなかった人にはあまり関係ないかな。

190:名無しさん@お腹いっぱい。
10/04/14 20:23:01
>>189
ありがとう。
YQLはXpathの使えるfetch page位にしか分からない俺には、あんまり関係なさそうだ。
YQL moduleは結果をtextで返してくれればいいのに。何で配列で返すんだよ。外部鯖とかわかんねーし。

191:名無しさん@お腹いっぱい。
10/05/14 08:38:02
URLリンク(www1.voanews.com)
learningenglish/home

fetch feedで取得できないけど..
fetch feed 以外でのどのソースを使用すべきなんでしょうか?

192:名無しさん@お腹いっぱい。
10/05/14 15:49:17
fetch feedで取得できるが

193:191
10/05/14 19:10:25
自己解決しました。
一時的に上手くつながらなかっただけの様でした。



最新レス表示
レスジャンプ
類似スレ一覧
スレッドの検索
話題のニュース
おまかせリスト
オプション
しおりを挟む
スレッドに書込
スレッドの一覧
暇つぶし2ch