編集履歴

質問編集履歴

算出結果は正しく得られたため、タイトルと質問の仕方を変更。

2016/09/06 06:31

投稿

スコア17

test CHANGED Viewed

	@@ -1 +1 @@
1	- decimal型とdouble型~~の違いで、相関係数算出でエラーが生じています~~。
1	+ 相関係数算出における、decimal型とdouble型。

test CHANGED Viewed

@@ -4,21 +4,15 @@
-[単純な相関係数算出プログラム](https://teratail.com/questions/45914)
-[SQLserver2012から取得した値を配列に格納し、関数の戻り値にする](https://teratail.com/questions/46270)
-問題解決にあたって単純化して考えていたのですが、このたびあわせて、
-「SQLserver2012から取得した値を用いて相関係数を算出する」ということを実現したいと考えています。
+「SQLserver2012から取得した値を用いて相関係数を算出する」というプログラムについて、
-その際、SQLserverからデータを取得して配列に格納する関数ではDecimal型なのに対し、
+SQLserverからデータを取得して配列に格納する関数ではDecimal型なのに対し、
-メインの計算部分では変数宣言をdouble型で行なっているのをどのように改善すべきでしょうか。
+メインの計算部分では変数宣言をdouble型で行なっているのは改善すべきでしょうか。
+現在は計算結果も正しく算出されているのですが、デバッグの段階で
@@ -28,9 +22,7 @@
-の部分で「0を分母に除算している」といったエラーが生じるのも、タイトルに記したようにそうしたデータ型の相違によるものかと考えたのですが・・・（考え違いでしょうか）。
+の部分で「0を分母に除算している」といったエラーが生じるケースもあったため、より適切なデータ型の指定やコードの記述に改善すべきかと不安になり、漠然ながら質問させていただきました。
 具体性に欠けますが、ご指摘等いただければありがたいです。

Visual Stdioのバージョン修正

2016/09/06 06:30

投稿

taketake221

スコア17

test CHANGED Viewed

File without changes

test CHANGED Viewed

@@ -1,6 +1,6 @@
 少し前からこちらでお世話になっている初級者です。
-ここのところVisual Studio 2013を使って相関係数算出のプログラムを作成しています(ASP.NET Webフォームアプリ)。
+ここのところVisual Studio 2010を使って相関係数算出のプログラムを作成しています(ASP.NET Webフォームアプリ)。

書式とタイトルの変更

2016/09/04 07:31

投稿

taketake221

スコア17

test CHANGED Viewed

	@@ -1 +1 @@
1	- ~~SQLs~~erve~~r2012から取得した値~~で相関係数を算出したい~~。データ型はどう~~す~~ればいいでしょうか~~。
1	+ decimal型とdouble型の違いで、相関係数算出でエラーが生じています。

test CHANGED Viewed

@@ -2,8 +2,6 @@
 ここのところVisual Studio 2013を使って相関係数算出のプログラムを作成しています(ASP.NET Webフォームアプリ)。
-それにともなって、二つの質問をすでにさせていただきました。
 [単純な相関係数算出プログラム](https://teratail.com/questions/45914)
@@ -18,6 +16,32 @@
+その際、SQLserverからデータを取得して配列に格納する関数ではDecimal型なのに対し、
+メインの計算部分では変数宣言をdouble型で行なっているのをどのように改善すべきでしょうか。
+'相関係数算出 ＝ 偏差積平均 / 値Aの標準偏差 * 取得した値の標準偏差
+        Dim Soukan_Keisu As Double = Dev_avg / (Self_std_dev * values_std_dev)
+の部分で「0を分母に除算している」といったエラーが生じるのも、タイトルに記したようにそうしたデータ型の相違によるものかと考えたのですが・・・（考え違いでしょうか）。
+具体性に欠けますが、ご指摘等いただければありがたいです。
+よろしくお願いします。
 ※取得する先のテーブルは以下の構成です。
 （取得したいのはvalueA から valueF、いずれもデータ型はdecimal(3,2)。格納するデータがいずれも小数点以下二桁の値ばかりなのでそのように設定したのですが・・・。）
@@ -26,310 +50,282 @@
+＜メイン部分＞
+```ここに言語を入力
+Imports System.Data.SqlClient
+Partial Class getvalue_Soukan_sub
+    Inherits System.Web.UI.Page
+    Protected Sub Page_Load(sender As Object, e As EventArgs) Handles Me.Load
+        '値A 定義
+        Dim self1 As Double = 49
+        Dim self2 As Double = 6
+        Dim self3 As Double = 18
+        Dim self4 As Double = 54
+        Dim self5 As Double = 16
+        Dim self6 As Double = 18
+        'self1 から self6までの平均値算出
+        Dim self_avg As Double = (self1 + self2 + self3 + self4 + self5 + self6) / 6
+        'データベースから値を取得する関数呼び出し
+        Dim values() As Decimal = Getvalues()
+        '取得した値（配列に格納されている）の平均を算出
+        Dim values_avg = Aggregate value In values Into Average()
+        '値Aの偏差を求める
+        Dim Self_dev(5) As Double
+        Self_dev(0) = self1 - self_avg
+        Self_dev(1) = self2 - self_avg
+        Self_dev(2) = self3 - self_avg
+        Self_dev(3) = self4 - self_avg
+        Self_dev(4) = self5 - self_avg
+        Self_dev(5) = self6 - self_avg
+        '取得した値の偏差を求める格納
+        Dim values_dev(5) As Double
+        For b = 0 To 5
+            values_dev(b) = values(b) - values_avg
+        Next
+        '偏差は各要素（値）から平均を引いたものです。
-とりあえず二つの質問それぞれでいただいた回答・ご指摘を反映させたものをつなぎあわせたのですが、
+        '偏差を二乗して合計したものを偏差平方和、分散は偏差平方和の要素（値）の数で割ると算出。
+        Dim Self_HensaHeiho As Double = Self_dev(0) ^ 2
+        Dim values_HensaHeiho As Double = values_dev(0) ^ 2
+        For c = 0 To 4
+            Self_HensaHeiho = Self_HensaHeiho + (Self_dev(c + 1) ^ 2)
+            values_HensaHeiho = values_HensaHeiho + (values_dev(c + 1) ^ 2)
+        Next
+        Dim Self_Bunsan As Double = Self_HensaHeiho / 6
+        Dim values_Bunsan As Double = values_HensaHeiho / 6
+        '標準偏差の計算 ＝ 分散の平方根をとります。
+        Dim Self_std_dev As Double = System.Math.Sqrt(Self_Bunsan)
+        Dim values_std_dev As Double = System.Math.Sqrt(values_Bunsan)
+        '偏差積の計算 = 値Aの偏差と取得した値の偏差をかけあわせます。
+        Dim Dev_pdt(5) As Double
+        For s = 0 To 5
+            Dev_pdt(s) = Self_dev(s) * values_dev(s)
+        Next
+        '偏差積平均の計算
+        Dim Dev_avg = Aggregate Self In Dev_pdt Into Average()
-'相関係数算出 ＝ 偏差積平均 / 値Aの標準偏差 * 取得した値の標準偏差
+        '相関係数算出 ＝ 偏差積平均 / 値Aの標準偏差 * 取得した値の標準偏差
         Dim Soukan_Keisu As Double = Dev_avg / (Self_std_dev * values_std_dev)
-の部分で「0を分母に除算している」といったエラーが生じるなど、コードに不安があります。
-SQLserverからデータを取得して配列に格納する関数ではDecimal型なのに対し、
+        Soukan_Lbl.Text = Soukan_Keisu.ToString()
-メインの計算部分では変数宣言をdouble型で行なっていることなど、データ型に問題があるのかと考えましたが・・・。
-具体性に欠けますが、ご指摘等いただければありがたいです。
+    End Sub
-よろしくお願いします。
+End Class
+```
-＜メイン部分＞
+＜関数部分＞
 ```ここに言語を入力
-Imports System.Data.SqlClient
-Partial Class getvalue_Soukan_sub
-    Inherits System.Web.UI.Page
-    Protected Sub Page_Load(sender As Object, e As EventArgs) Handles Me.Load
-        '値A 定義
-        Dim self1 As Double = 49
-        Dim self2 As Double = 6
-        Dim self3 As Double = 18
-        Dim self4 As Double = 54
-        Dim self5 As Double = 16
-        Dim self6 As Double = 18
-        'self1 から self6までの平均値算出
-        Dim self_avg As Double = (self1 + self2 + self3 + self4 + self5 + self6) / 6
-        'データベースから値を取得する関数呼び出し
-        Dim values() As Decimal = Getvalues()
-        '取得した値（配列に格納されている）の平均を算出
-        Dim values_avg = Aggregate value In values Into Average()
-        '値Aの偏差を求める
-        Dim Self_dev(5) As Double
-        Self_dev(0) = self1 - self_avg
-        Self_dev(1) = self2 - self_avg
-        Self_dev(2) = self3 - self_avg
-        Self_dev(3) = self4 - self_avg
-        Self_dev(4) = self5 - self_avg
-        Self_dev(5) = self6 - self_avg
-        '取得した値の偏差を求める格納
-        Dim values_dev(5) As Double
-        For b = 0 To 5
-            values_dev(b) = values(b) - values_avg
-        Next
-        '偏差は各要素（値）から平均を引いたものです。
-        '偏差を二乗して合計したものを偏差平方和、分散は偏差平方和の要素（値）の数で割ると算出。
-        Dim Self_HensaHeiho As Double = Self_dev(0) ^ 2
-        Dim values_HensaHeiho As Double = values_dev(0) ^ 2
-        For c = 0 To 4
-            Self_HensaHeiho = Self_HensaHeiho + (Self_dev(c + 1) ^ 2)
-            values_HensaHeiho = values_HensaHeiho + (values_dev(c + 1) ^ 2)
-        Next
-        Dim Self_Bunsan As Double = Self_HensaHeiho / 6
-        Dim values_Bunsan As Double = values_HensaHeiho / 6
-        '標準偏差の計算 ＝ 分散の平方根をとります。
-        Dim Self_std_dev As Double = System.Math.Sqrt(Self_Bunsan)
-        Dim values_std_dev As Double = System.Math.Sqrt(values_Bunsan)
-        '偏差積の計算 = 値Aの偏差と取得した値の偏差をかけあわせます。
-        Dim Dev_pdt(5) As Double
-        For s = 0 To 5
-            Dev_pdt(s) = Self_dev(s) * values_dev(s)
-        Next
-        '偏差積平均の計算
-        Dim Dev_avg = Aggregate Self In Dev_pdt Into Average()
-        '相関係数算出 ＝ 偏差積平均 / 値Aの標準偏差 * 取得した値の標準偏差
-        Dim Soukan_Keisu As Double = Dev_avg / (Self_std_dev * values_std_dev)
-        Soukan_Lbl.Text = Soukan_Keisu.ToString()
-    End Sub
-End Class
+    'データベースから値を取得する関数
+    Private Function Getvalues() As Decimal()
+        Dim result(5) As Decimal
+        Dim cnStr As String = System.Configuration.ConfigurationManager.
+            ConnectionStrings("testdb_tinoueConnectionString").ConnectionString
+        Using connection As New SqlConnection(cnStr)
+            'FacilityID を指定して、該当するレコードのうち、日付が最新のものを取り出します。
+            Dim SQL As String
+            SQL = "SELECT valueA, valueB, valueC, valueD, valueE, valueF" &
+                 " from tbl_valueTest as A" &
+                 " WHERE Exists(SELECT * from tbl_valueTest" &
+                 " group by FacilityID" &
+                 " having FacilityID = A.FacilityID and MAX(date) = A.date)" &
+                 " and FacilityID = 1"
+            Dim command As New SqlCommand(SQL, connection)
+            Try
+                connection.Open()
+                Dim dr As SqlDataReader = command.ExecuteReader()
+                Dim valuelist(5) As Decimal
+                While (dr.Read())
+                    For count As Integer = 0 To 5
+                        valuelist(count) = dr.GetSqlDecimal(count)
+                    Next count
+                End While
+                result = valuelist
+                connection.Close()
+            Catch ex As Exception
+            End Try
+        End Using
+        Return result
+    End Function
 ```
-＜関数部分＞
-```ここに言語を入力
-    'データベースから値を取得する関数
-    Private Function Getvalues() As Decimal()
-        Dim result(5) As Decimal
-        Dim cnStr As String = System.Configuration.ConfigurationManager.
-            ConnectionStrings("testdb_tinoueConnectionString").ConnectionString
-        Using connection As New SqlConnection(cnStr)
-            'FacilityID を指定して、該当するレコードのうち、日付が最新のものを取り出します。
-            Dim SQL As String
-            SQL = "SELECT valueA, valueB, valueC, valueD, valueE, valueF" &
-                 " from tbl_valueTest as A" &
-                 " WHERE Exists(SELECT * from tbl_valueTest" &
-                 " group by FacilityID" &
-                 " having FacilityID = A.FacilityID and MAX(date) = A.date)" &
-                 " and FacilityID = 1"
-            Dim command As New SqlCommand(SQL, connection)
-            Try
-                connection.Open()
-                Dim dr As SqlDataReader = command.ExecuteReader()
-                Dim valuelist(5) As Decimal
-                While (dr.Read())
-                    For count As Integer = 0 To 5
-                        valuelist(count) = dr.GetSqlDecimal(count)
-                    Next count
-                End While
-                result = valuelist
-                connection.Close()
-            Catch ex As Exception
-            End Try
-        End Using
-        Return result
-    End Function
-```