相関係数算出における、decimal型とdouble型。

Question

少し前からこちらでお世話になっている初級者です。
ここのところVisual Studio 2010を使って相関係数算出のプログラムを作成しています(ASP.NET Webフォームアプリ)。

「SQLserver2012から取得した値を用いて相関係数を算出する」というプログラムについて、
SQLserverからデータを取得して配列に格納する関数ではDecimal型なのに対し、
メインの計算部分では変数宣言をdouble型で行なっているのは改善すべきでしょうか。

現在は計算結果も正しく算出されているのですが、デバッグの段階で

'相関係数算出 ＝ 偏差積平均 / 値Aの標準偏差 * 取得した値の標準偏差
Dim Soukan_Keisu As Double = Dev_avg / (Self_std_dev * values_std_dev)

の部分で「0を分母に除算している」といったエラーが生じるケースもあったため、より適切なデータ型の指定やコードの記述に改善すべきかと不安になり、漠然ながら質問させていただきました。
具体性に欠けますが、ご指摘等いただければありがたいです。

よろしくお願いします。

※取得する先のテーブルは以下の構成です。
（取得したいのはvalueA から valueF、いずれもデータ型はdecimal(3,2)。格納するデータがいずれも小数点以下二桁の値ばかりなのでそのように設定したのですが・・・。）

＜メイン部分＞

Imports System.Data.SqlClient

Partial Class getvalue_Soukan_sub
    Inherits System.Web.UI.Page

    Protected Sub Page_Load(sender As Object, e As EventArgs) Handles Me.Load

        '値A 定義
        Dim self1 As Double = 49
        Dim self2 As Double = 6
        Dim self3 As Double = 18
        Dim self4 As Double = 54
        Dim self5 As Double = 16
        Dim self6 As Double = 18

        'self1 から self6までの平均値算出
        Dim self_avg As Double = (self1 + self2 + self3 + self4 + self5 + self6) / 6


        'データベースから値を取得する関数呼び出し
        Dim values() As Decimal = Getvalues()

        '取得した値（配列に格納されている）の平均を算出
        Dim values_avg = Aggregate value In values Into Average()



        '値Aの偏差を求める

        Dim Self_dev(5) As Double

        Self_dev(0) = self1 - self_avg
        Self_dev(1) = self2 - self_avg
        Self_dev(2) = self3 - self_avg
        Self_dev(3) = self4 - self_avg
        Self_dev(4) = self5 - self_avg
        Self_dev(5) = self6 - self_avg


        '取得した値の偏差を求める格納
        Dim values_dev(5) As Double

        For b = 0 To 5
            values_dev(b) = values(b) - values_avg
        Next

        '偏差は各要素（値）から平均を引いたものです。



        '偏差を二乗して合計したものを偏差平方和、分散は偏差平方和の要素（値）の数で割ると算出。

        Dim Self_HensaHeiho As Double = Self_dev(0) ^ 2
        Dim values_HensaHeiho As Double = values_dev(0) ^ 2

        For c = 0 To 4
            Self_HensaHeiho = Self_HensaHeiho + (Self_dev(c + 1) ^ 2)
            values_HensaHeiho = values_HensaHeiho + (values_dev(c + 1) ^ 2)
        Next

        Dim Self_Bunsan As Double = Self_HensaHeiho / 6
        Dim values_Bunsan As Double = values_HensaHeiho / 6


        '標準偏差の計算 ＝ 分散の平方根をとります。
        Dim Self_std_dev As Double = System.Math.Sqrt(Self_Bunsan)
        Dim values_std_dev As Double = System.Math.Sqrt(values_Bunsan)


        '偏差積の計算 = 値Aの偏差と取得した値の偏差をかけあわせます。
        Dim Dev_pdt(5) As Double

        For s = 0 To 5
            Dev_pdt(s) = Self_dev(s) * values_dev(s)
        Next


        '偏差積平均の計算
        Dim Dev_avg = Aggregate Self In Dev_pdt Into Average()

        '相関係数算出 ＝ 偏差積平均 / 値Aの標準偏差 * 取得した値の標準偏差
        Dim Soukan_Keisu As Double = Dev_avg / (Self_std_dev * values_std_dev)

        Soukan_Lbl.Text = Soukan_Keisu.ToString()

    End Sub
End Class

＜関数部分＞

    'データベースから値を取得する関数
    Private Function Getvalues() As Decimal()

        Dim result(5) As Decimal

        Dim cnStr As String = System.Configuration.ConfigurationManager.
            ConnectionStrings("testdb_tinoueConnectionString").ConnectionString

        Using connection As New SqlConnection(cnStr)

            'FacilityID を指定して、該当するレコードのうち、日付が最新のものを取り出します。
            Dim SQL As String
            SQL = "SELECT valueA, valueB, valueC, valueD, valueE, valueF" &
                 " from tbl_valueTest as A" &
                 " WHERE Exists(SELECT * from tbl_valueTest" &
                 " group by FacilityID" &
                 " having FacilityID = A.FacilityID and MAX(date) = A.date)" &
                 " and FacilityID = 1"

            Dim command As New SqlCommand(SQL, connection)

            Try

                connection.Open()

                Dim dr As SqlDataReader = command.ExecuteReader()

                Dim valuelist(5) As Decimal
                While (dr.Read())
                    For count As Integer = 0 To 5
                        valuelist(count) = dr.GetSqlDecimal(count)
                    Next count
                End While

                result = valuelist

                connection.Close()

            Catch ex As Exception

            End Try

        End Using

        Return result
    End Function

Answer 1

Dim Soukan_Keisu As Double = Dev_avg / (Self_std_dev * values_std_dev)

の部分で「0を分母に除算している」といったエラーが生じるのも、タイトルに記したようにそうしたデータ型の相違によるものかと考えたのですが・・・（考え違いでしょうか）。

単純に考えると (Self_std_dev * values_std_dev) の結果が 0 になっていると思われます。
まずデバッグ実行でどこから意図しない値になっているか、確認してみてはいかがでしょうか。

その原因がデータ型の相違であれば、型変換や値の渡し方の変更で解決できると思います。

Comments

[taketake221]

ご回答いただきありがとうございます。
試行錯誤につき、返信が大幅に遅れまして申し訳ありませんでした。

どうやら、double型、decimal型などデータ型の相違や変換といったことではなく、
桁数のエラーで、コード中では正しく計算されているのにデータベースに結果を格納できないという状態だったようです。

現在は改善し、SQLserver側にも計算結果を正常に格納することができました。