Q&A
学校の課題でしょうか？問題がよくない気がするのですが。
初学者のものです。初歩的な質問で恐れ入ります。
ロジスティック回帰について以下2点お教え下さい。
以下の様な問題があるのですが、
【1点目の質問】
答えとしては「３」なのかな（理由：要素が多い方がより明確に分類出来る）と思っていますが、
一方「１」「２」の選択肢も間違っていない気がします。
どの様な考え方をするべきなのかお教え頂く事は可能でしょうか？
【2点目の質問】
分類する為の工夫として以下が記載されています。
これについては１，２，３共に×と考えています。
単純な解釈として、「説明変数が多ければ多い程、分類精度が上昇する」という解釈でよろしいでしょうか？
＜0924補足：σ について＞
fana様よりアドバイス頂いたσですが、シグモイド関数になります。以下ご参照下さい（某通信制スクールの問題です。回答が手に入れられず。。自分で調べなければならないという意味では十分力にはなるかとは思いますが、沼にハマってばかりです。）
すいません、私の数学的知識が乏しい為回答が出来ないのですが、この場合「σは単調増加関数」になるという事なのでしょうか・・・
＞meg_様、
コメントありがとうございます。某スクールの問題です。
多分私の説明＆理解が悪く前提条件をキチンと説明出来ていないのだと思います。申し訳ありません。
> 某通信制スクールの問題です。回答が手に入れられず。。自分で調べなければならないという意味では十分力にはなるかとは思いますが、沼にハマってばかりです。
スクール受講されているのであれば講師にどんどん質問して良いと思います。
回答2件
0
ベストアンサー
【1点目の質問】
答えとしては「３」なのかな（理由：要素が多い方がより明確に分類出来る）と思っていますが、
一方「１」「２」の選択肢も間違っていない気がします。
X1が0のときYは1も0もあります。そうなるとX1だけでは決められないです。（X2も同様）なので1、2は間違いだと思います。一般的には3が正解になりそうですが、今回の問題では4が正解だと思います。（図を書くと分かりやすいかと思います）
【2点目の質問】
分類する為の工夫として以下が記載されています。
これについては１，２，３共に×と考えています。
単純な解釈として、「説明変数が多ければ多い程、分類精度が上昇する」という解釈でよろしいでしょうか？
1は1点目の質問より間違い、3は一般にはオーバーフィッテイングしやすくなります。2はオーバーフィッティングを避ける方法として行います。
しかし今回の問題においては何が正解かよく分かりません。
正解は3でしょうか。(Pythonで試したら分類できそうでした)
投稿2021/09/25 01:09
編集2021/09/25 01:29総合スコア10607
ご指導ありがとうございます。特に2点目の質問についてはpythonで試すという視点がなかったので、一度やってみた後に備忘の為にコードを掲載したいと思います（まだまだかかりそうですが・・）。もしお時間があればご一読頂きコメント頂ければ嬉しいです。
0
ロジスティック回帰とかいうのをまともに知らぬ者ですが…
【1点目の質問】
まず関数σが何なのかすらわかりませんが…
その引数になっている式はいずれも一次式と見えます．
↓
横軸をx1, 縦軸をx2 とした２次元平面における y=0, y=1 の存在箇所を考えると，
どうにも一次式（直線）で「分類」できるとは見えません．
なので，関数σ が単純な形状の関数なのであれば「4.かな」という気がします．
【2点目の質問】
x1,x2,y の表を眺めると「なんだろう，すごいXOR感を感じる…」という気分になってきます．
（XORのnotになってる）
なので，(x1 XOR x2) という変数を用意することが
選択肢3. の「新たな特徴量にする」という話に当てはまるのであれば，
「3.かな」という気がします．
投稿2021/09/24 07:41
編集2021/09/24 07:45
総合スコア11708
> 関数σ が単純な形状の関数なのであれば…
引数たる一次式が y=0とy=1との間に境界線を引けないので，
すくなくとも関数σが単調増加関数みたいなやつだと分類は無理だと思う．
＞fana様、
ご教示ありがとうございます。また、前提の説明が欠落しており申し訳ありません。
σについて追記致しました。
> シグモイド
「ロジスティック」という語の時点でおそらくそんな程度の（単に引数を 0～1 にマッピングするような役目しかもってなさそうな）関数がくるのだろうとは想像してましたが，まぁそういうことっすよね．
> この場合「σは単調増加関数」になるという事なのでしょうか
「ロジスティック曲線」とか「シグモイド曲線」でググればどういう形状の関数なのかがわかりますよ．
引数を増やしていくと，σ(引数) の値は常に増加していきますよね．
そういうのを「単調増加」と言います．
σ(引数) の引数部分を f( x1, x2 ) と書こう．
グループ１ ： y=0 となる２点 (0,1), (1,0)
と
グループ２ ： y=1 となる２点 (0,0), (1,1)
とを
分類できるためには，この f( x1, x2 ) の値だけで，両グループを分類できる必要がある．
すなわち，ある閾値 t によって，
「グループ１の点での f(x1,x2) の値は全て t 以下で，グループ２の点での f(x1,x2) の値は全て t より大きい」
というような形にできる必要がある．
選択肢を見ると， f( x1, x2 ) は全て１次式なので，
要は，２つのグループを区切る直線を引けるだろうか？ って話になる．
（で，この例だと引けないんじゃないかな，と）
> f( x1, x2 ) の値だけで，両グループを分類できる必要がある
というのは，σ が単調増加だから．
σ(引数) の値は 引数の大小関係 をそのままひきずるのだから，
σの値で分類できるためには，そもそも引数の値の時点で分類できる必要があるということ．
……と，長々と書いたけど，
全て「ロジスティック回帰とかいうのをまともに知らぬ者」が質問文だけを見て
（「ロジスティック回帰」でググることすら放棄して）好き勝手に考えを述べているだけなので，
そんな話で大丈夫なのか？ という判断はしっかりやってください．
ご指導ありがとうございます。fana様より頂いた内容と並行して検証させて頂きます。
あなたの回答
tips
プレビュー
