08/02/08 21:01:10
データの生成法がそういうものだった時
138:名無しさん＠５周年
08/03/13 12:07:59
只今勉強中で以下について教えていただければ幸いです。
RBFカーネルk(x,y)=exp(-beta*||x-y||^2)を使うと
特徴空間上の距離は
||phi(x)-phi(y)||=sqrt(2*(1-exp(-beta*||x-y||^2))
となって、
元空間の距離について単調増加、元空間の距離->∞でsqrt(2)に収束する。
これは元空間で遠いものが特徴空間ではほぼ等距離に扱われる。
(...だから何なの?...)
これが
「元空間では線形分離不能だったものが特徴空間で線形分離可能になる」...(*)
仕組みなのでしょうか？
遠いものを一緒くたに扱ったからといってうまくいくとは思えないのですが、
それとも別の解釈で結論(*)が導かれるのでしょうか？
良きアドバイスを頂ければ幸いです。
139:名無しさん＠５周年
08/04/24 14:38:37
one-class SVMでデータ全体の20%だけ抽出するには
パラメータをどうするといいのでしょうか？
140:名無しさん＠５周年
08/05/17 07:49:38
NNが重みを記録しておいて後から読み出せば使えるように、SVMでもこれを記録しとけば再び最初から学習させなくても使えるようになるものってないんでしょうか
141:名無しさん＠５周年
08/05/17 07:58:26
そんな使えない分類器が流行っていると思ってたのかw
サポートベクタ記録しとけ
142:名無しさん＠５周年
08/07/10 00:14:41
>>138
phi(x)の次元がトレーニングデータの件数より多くなれば線形分離可能になるってだけじゃないの？
距離がどうこうだからってのは聞いたことないな。
143:名無しさん＠５周年
08/08/10 21:55:45
Rのkernlabパッケージの二次計画ソルバーipopを使ってSVMを実装しました。
これは、helpにもあるように簡単に実装できました。
問題は回帰(SVR)の場合です。αとα´について最適化しなければならないので、
やはりipopでは実装できないのでしょうか？
SVRの制約条件に簡単に修正を入れたモデルを考えているのですが…
実装の方法をアドバイスいただければと思います。
よろしくおねがいしいます。
144:名無しさん＠５周年
08/08/12 15:11:42
他人に訊く前にまず自分で良～く考えろ
脳味噌が汗かく位な
145:名無しさん＠５周年
08/08/12 18:17:58
自分なりによく考えてみたのですが…それでも分からず質問させていただきました。
速度などはあまり気にせず、Rを使ってSVRの定式化に修正を加えて実装できる方法があれば、
ぜひアドバイスいただきたいです。
146:名無しさん＠５周年
08/08/15 23:16:24
まず自分で考えたことを書いて
それに対する批判なりアドバイスなりを頼むのが筋
ってーかエスパーじゃないんだからそんな質問に答えられる人間はいないだろjk
147:名無しさん＠５周年
08/08/24 12:09:56
SVMの損失関数はどのようなものが定式化されているのでしょうか？
今私が扱っている問題ではヒンジロスははずれ値の影響が強すぎる
と感じているので、0-1ロスのようなものが望ましいのですが、
ラグランジュをとくところでそんなに簡単に定式化できなさそうなので
既存にどんなものがあるのか教えていただきたいです。
148:名無しさん＠５周年
08/09/02 15:13:59
NNの情報を探していてSVMにたどりついたのですが、例えば日毎の
気温データから翌日の気温を予測したりするのに使えるでしょうか？
NNなら直前10日間の気温を入力、次の日の気温を教師にして学習とか
するのかと思うのですがこれをSVMでやるにはどうやればよいんでしょうか？
149:名無しさん＠５周年
08/09/02 15:47:52
>>148
直前10日間の気温を入力、次の日の気温を教師にして学習
150:名無しさん＠５周年
08/09/02 16:11:18
>>149
さっきlibsvmてのを拾ってきたのですが、学習ファイルには1行に
x日の気温 1:x-1日の気温 2:x-2日の気温 ... 10:x-10日の気温
というのをN日分用意してsvm-trainするだけでいいんでしょうか。
この手のサンプルはどれにあたるんでしょ、まだmakeしてheartで試しただけなので
151:名無しさん＠５周年
08/09/04 15:10:14
svmの最初の論文でたのいつだっけ？
今じゃいろんなとこに広まってるんだな
152:名無しさん＠５周年
08/09/05 08:34:25
1990年くらい？
153:名無しさん＠５周年
08/09/11 08:37:04
>>151
線形svm自体は古いんじゃないか。
90年代にカーネルトリックで非線形対応になって
初めて流行したと記憶してる。
wikipediaで調べてみたが、
The original optimal hyperplane algorithm proposed by
Vladimir Vapnik in 1963 was a linear classifier.
However, in 1992, Bernhard Boser, Isabelle Guyon and Vapnik
suggesteda way to create non-linear classifiers by applying
the kernel trick (originally proposed by Aizerman et al..)
to maximum-margin hyperplanes.
URLﾘﾝｸ(en.wikipedia.org)
63年初出、92年にカーネルトリック導入し大ブームってとこか。
思ったより古いね。
154:名無しさん＠５周年
08/09/24 23:31:58
SVM_lightで識別を行うための学習データセット、テストデータセットの作り方
が良くわかりません。exmapleは見てみたのですが…。
例えば、UCIのIrisデータをSVMに学習、クラス分類させるにはどのように書き
直したらいいのでしょうか？
155:名無しさん＠５周年
08/09/27 15:57:10
再生核ヒルベルト空間がわからん
VC理論も全然わからん
156:名無しさん＠５周年
08/09/27 19:33:22
まず基本的な数学と
基本的なプログラミングを学べよ
157:名無しさん＠５周年
08/09/27 20:58:44
やっぱ、関数解析とかの勉強から始めなきゃだめか