6.9 3.2 5.7 2.3 Iris-virginica 5.6 2.8 4.9 2.0 Iris-virginica 7.7 2.8 6.7 2.0 Iris-virginica 6.3 2.7 4.9 1.8 Iris-virginica 6.7 3.3 5.7 2.1 Iris-virginica 7.2 3.2 6.0 1.8 Iris-virginica 6.2 2.8 4.8 1 [...] 2.0 Iris-virginica 5.8 2.8 5.1 2.4 Iris-virginica 6.4 3.2 5.3 2.3 Iris-virginica 6.5 3.0 5.5 1.8 Iris-virginica 7.7 3.8 6.7 2.2 Iris-virginica 7.7 2.6 6.9 2.3 Iris-virginica 6.0 2.2 5.0 1.5 Iris-virginica [...] Iris-versicolor 5.6 2.7 4.2 1.3 Iris-versicolor 5.7 3.0 4.2 1.2 Iris-versicolor 5.7 2.9 4.2 1.3 Iris-versicolor 6.2 2.9 4.3 1.3 Iris-versicolor 5.1 2.5 3.0 1.1 Iris-versicolor 5.7 2.8 4.1 1.3 Iris-versicolor …

332339934207778 2 1.7446806181404 1.16729398548131 2 1.08471971928587 0.758030969792844 2 0.00633601767960246 -0.591909232539267 2 2.52255505270962 1.63473868261842 2 1.43680009930703 1.03235653188529 2 0.7412 [...] 466 2 0.339341763419545 -0.584418697439856 2 -0.615896570119654 -1.10859246091079 2 -1.92764052432368 -2.55109266393152 2 -1.11035569706099 -1.54565264843039 2 1.30483605414194 0.762094536202812 2 -0. [...] 5719 2 -0.257148368470021 -0.595918707699937 2 2.65196464909324 1.9253058343464 2 0.892666932837194 0.240597448774701 2 0.467613371121126 0.197257539868573 2 -1.22865771214191 -1.44774521790258 2 0.75 …

Wissensentdeckung Vorlesung - SVM – SMO, Ball SVM, Core SVM

Vector Machine Beispielrechnung K2(~xi, ~xi) = 〈~xi, ~xi〉2 = x2i1x 2 i1 + 2xi1xi1xi2xi2 + x2i2x 2 i2 〈(2, 2), (2, 2)〉2 = 22 · 22 + 25 + 22 · 22 = 64 normal(〈(2, 2), (2, 2)〉2) = 64 8 · 8 = 1 Allgemein: 〈x [...] αold2 −αold1 )H = min(C,C+αold2 −αold1 ) Ableiten des Dualen Problems nach α2 ergibt das Optimum für αnew2 αnew2 = αold2 + y2((f( ~x1)−y1)−(f( ~x2)−y2)) η = αold2 + y2(E1−E2) η η = xT1 x1 + xT2 x2 − 2xT1 [...] αold2 −αold1 )H = min(C,C+αold2 −αold1 ) Ableiten des Dualen Problems nach α2 ergibt das Optimum für αnew2 αnew2 = αold2 + y2((f( ~x1)−y1)−(f( ~x2)−y2)) η = αold2 + y2(E1−E2) η η = xT1 x1 + xT2 x2 − 2xT1 …

R=d4qCI:3DE6"2@:3Fi.*CL:|68cS.b_,Pu2,DD/`2@6"2<68c.DKC;.l=5?g6c.bPL.@254:CI:_ DE.;6!CI:w.@2,F"cwCI6.;4"2@68CI=d:|s2,Dl¦>=CD9¥ Ea¦D EAGao.:=,4!68cS.bDECI7eP&2@68.@`s^2;H*.i?R=,47 `2@6"2a 2lPI.@2@48:CL:_(DE [...] -/Cu2 } .;68.D/2@:3`-/CI_d.@DK6CIH*.l2@:3` qC&`a:S.;Mw-/CuDK.@2dDK.@D$o³EA*.;.A*79CI6c .16;o25P¯o < ¦*= B¢Jop>c.{`2@6"2 } 2,DK.{Fi=d:3DKCuDK6JD=@? I L nF;2dDK.@D$Hd254C&2 } PI.@D(2@:3`y6Es>= F$P&2,DDK [...] /c32dD } .;.;:tDK=,7t./sO=,48U(=d:w2;H*.;4"2@_,CL:_(2@:3`H*=,6CI:_ =@H*.;4(7ePL68CI0SPI.(684.;.@D$oT>e:<68CL:. < ¦*=A=a¦ B/_B2;H*.|2rT^2M*.DKC&2@:250S048=B2,F"csO=,U2@:3` NO2@486.;4 < ¦>=?=AGCBe3DE.@`·H*=d …

Einfuehrung

111 1 1 1 222 2 22 222 444 22 2 44444 Error: 0.051 !2 !1 0 1 2 3 111 2 222 2 2 2 2 6 6 6 6 6 66 2 2 2 2 22 2 44 4 4 1 11 66 6 6666 1111 111111 1 1 1 11 1 1 1 1 222 2 2 2 22 2 44 4 2 2 2 4 444 4 Error: [...] 222 2 2 2 22 2 44 4 2 2 2 4 444 4 Error: 0.064 111 2222 22 22 6 6 6 6 66 6 2222 2 2 2 44 4 4 11 1 666 6 6 6 6 111 111111 1 1 1 1111 1 1 1 222 222 2 2 2 444 2 22 444 44 Error: 0.064 111 2 2 2 2 22 2 2 6 [...] Error: 0.064 !2 !1 0 1 2 3 111 2 222 22 22 6 666 66 6 2222 2 2 2 44 4 4 111 6666 6 6 6 111 111111 11 1 1111 1 1 1 22 2 222 2 2 2 4 44 2 22 444 44 Error: 0.064 ! 2 ! 1 0 1 2 3 111 2 2 2 2 22 2 2 6 6 6 66 66 …

2;"frozen dessert";1 2;"rolls/buns";1 2;"flour";5 2;"sweet spreads";2 2;"salty snack";3 2;"waffles";3 2;"candy";4 2;"bathroom cleaner";1 3;"brown bread";4 3;"soda";3 3;"fruit/vegetable juice";4 3;"canned beer";5 [...] 376;"whole milk";2 376;"butter";1 376;"whipped/sour cream";2 376;"processed cheese";2 376;"sugar";2 376;"baking powder";3 376;"jam";4 376;"coffee";2 376;"bottled water";2 376;"soda";2 376;"fruit/vegetable [...] 379;"whole milk";2 379;"yogurt";2 379;"pastry";5 379;"sugar";2 379;"bottled water";3 379;"soda";2 379;"fruit/vegetable juice";4 380;"dessert";2 380;"UHT-milk";2 380;"bottled water";2 380;"soda";4 380;"canned …

Vector Machine Beispielrechnung K2(~xi , ~xi) = 〈 ~xi , ~xi 〉2 = x2 i1x 2 i1 + 2xi1xi1xi2xi2 + x2 i2x 2 i2 〈(2,2) , (2,2)〉2 = 22 · 22 + 25 + 22 · 22 = 64 normal(〈(2,2) , (2,2)〉2) = 64 8 · 8 = 1 Allgemein: 〈x [...] ergibt das Optimum für αnew 2 αnew 2 = αold 2 + y2((f (~x1)−y1)−(f (~x2)−y2)) η = αold 2 + y2(E1−E2) η η = xT 1 x1 + xT 2 x2 − 2xT 1 x2 10 von 34 Lösung des Optimierungsproblems mit SMO Minimal Enclosing [...] ergibt das Optimum für αnew 2 αnew 2 = αold 2 + y2((f (~x1)−y1)−(f (~x2)−y2)) η = αold 2 + y2(E1−E2) η η = xT 1 x1 + xT 2 x2 − 2xT 1 x2 10 von 34 Lösung des Optimierungsproblems mit SMO Minimal Enclosing …

1DMVintro11

111 1 1 1 222 2 22 222 444 22 2 44444 Error: 0.051 !2 !1 0 1 2 3 111 2 222 2 2 2 2 6 6 6 6 6 66 2 2 2 2 22 2 44 4 4 1 11 66 6 6666 1111 111111 1 1 1 11 1 1 1 1 222 2 2 2 22 2 44 4 2 2 2 4 444 4 Error: [...] 222 2 2 2 22 2 44 4 2 2 2 4 444 4 Error: 0.064 111 2222 22 22 6 6 6 6 66 6 2222 2 2 2 44 4 4 11 1 666 6 6 6 6 111 111111 1 1 1 1111 1 1 1 222 222 2 2 2 444 2 22 444 44 Error: 0.064 111 2 2 2 2 22 2 2 6 [...] Error: 0.064 !2 !1 0 1 2 3 111 2 222 22 22 6 666 66 6 2222 2 2 2 44 4 4 111 6666 6 6 6 111 111111 11 1 1111 1 1 1 22 2 222 2 2 2 4 44 2 22 444 44 Error: 0.064 ! 2 ! 1 0 1 2 3 111 2 2 2 2 22 2 2 6 6 6 66 66 …

∂RSS(m, b) ∂b = −2 n∑ i=1 yi + n∑ i=1 2mxi + n∑ i=1 2b = −2 n∑ i=1 yi + 2 n∑ i=1 mxi + 2nb und ∂RSS(m, b) ∂m = −2 n∑ i=1 xiyi + n∑ i=1 [ 2mx2 i + 2xib ] = −2 n∑ i=1 xiyi + 2m n∑ i=1 x2 i + 2b n∑ i=1 xi Wir [...] + (mxi + b)2 ) = n∑ i=1 y2 i − 2 n∑ i=1 yi(mxi + b) + n∑ i=1 (mxi + b)2 = n∑ i=1 y2 i − 2 n∑ i=1 (yimxi + yib) + n∑ i=1 [ m2x2 i + 2mxib + b2 ] Die notwendigen Bedingungen für die Existenz eines lokalen [...] y. ∂RSS(m, b) ∂m = 0 ⇒ 2m n∑ i=1 x2 i = 2 n∑ i=1 xiyi − 2b n∑ i=1 xi ⇒ m n∑ i=1 x2 i = n∑ i=1 xiyi − b n∑ i=1 xi ⇒ m n∑ i=1 x2 i = n∑ i=1 xiyi − (y −mx) n∑ i=1 xi ⇒ m n∑ i=1 x2 i = n∑ i=1 xiyi − y n∑ i=1 …

sºD»´Eµ¡67?B2 ºm.P47Ïa.qÁ¤²Aq476c·F2"676Æ ÇsÌßÉEµPAnÂq2Aq´A^·F6c2r47´\A^6cDFÂq2jA1´BA^·F¿E³cD»³9DF´Ã6c2r47¸a³.qÁ¤6o?E2£ÿ 51B2j.^Á 67?B2 674oA^D»´EDF´Bµ,2"ëBAq¸aCE·F25³5:Bê?E2¸aAq47µqD»´.^Á 2ëBA1¸,CB·Ð2aóèôIö [...] D»´16o¾EDF6cDFÂq2"·F¿¸2rAq³o¾B4725³6o?E2D»¸aC\.P4c6oAq´B="267?BAq6/DF6;A1³7³7DеP´B³67.0AU:CY´ 67?E2Í\µ1¾B472qÉ\ºm2?\AnÂq2¹E25·ÐD»0\2r47Aq6c25·Ð¿·Ð2"ÁÒ6/67?B2=@?E.1DF="2j.^Á A ¾B´B³oC325=DÐÍ\2r¹:3ä3.140BDF´BA14c¿: [...] »´Eµ 2ëBAq¸aCE·F25³,0\2r=.P¸2r³aA¶¹ED»³c6o4cD»0B¾E67DÐ.P´ <Ñ.sÂq2544c.sº³.^Á 5ɤº?BDзF26o?E2ºm2rAqÏ¢·F25Aq4o´E2r4"× ³ =@?E.qD»=2.^Á Aaºm2rAqÏ£?P¿EC\.167?E2r³cD»³ A 0325=.P¸,25³w67?B2=@?E.qD»=2.^Á A£= …