掲示板のNGワードはどこまで制限すべきでしょうか

Question

実現したいこと

イラストのQ&A掲示板にNGワードを設けて犯罪、差別的な言葉が書き込まれないように制限したい。

発生している問題・分からないこと

現在荒らし対策のために空白と改行は連続して入力できないように対策しているのですが、参考サイトを見ると句読点や記号にも対応するようなコードが書かれており、どこまで制限すべきか悩んでおります。

例を考えてみました。「死ね」というＮＧワードを設定している場合、「死、ね」や「死。ね」と入力された場合は制限できず書き込めてしまいます。
句読点を削除して「死ね」に変換することで、「死ね」と一致するかチェックして削除することができます。
ですが、「死×ね」「死／ね」「死☆ね」「死♪ね」とＵＴＦ８の記号すべてに対応する場合きりがありません。

上記とは別の問題もあり「ばか」をNGワードに設定したとします。日常会話で使う「ばかり」まで制限にかかってしまい書き込めないです。
ＮＧワードの制限範囲はどこまで設定するのが適切でしょうか？

※参考サイト
https://php.o0o0.jp/article/php-ng_words

該当のソースコード

<?php

class MAX_LENGTH
{
public const NAME = 50;
public const MESSAGE = 500;
}

function bbs_quest_input()
{
    session_start();
    $message = $_POST['message'];
    $namae = $_POST['namae'];
    $stamp = $_POST['stamp'];
    $namae = Chk_StrMode($namae);
    $message = Chk_StrMode($message);
    Chk_ngword($namae, '・NGワードが入力されています。', $error);
    Chk_ngword($message, '・NGワードが入力されています。', $error);
    Chk_InputMode($namae, '・お名前をご記入ください。', $error);
    Chk_InputMode($message, '・お問い合わせ内容をご記入ください。', $error);
    Chk_InputMode($stamp, '・スタンプを選択してください。', $error);
    CheckUrl($namae, '・お名前にＵＲＬは記入できません。'); // 追加
    CheckUrl($message, '・お問い合わせ内容にＵＲＬは記入できません。'); // 追加
    $result = [];
    if (empty($error)) {
        $result['error'] = '';
        $_SESSION['namae'] = $namae;
        $_SESSION['message'] = $message;
        $_SESSION['stamp'] = $stamp;
        $_SESSION['attach'] = $_FILES['attach'];
        foreach ($_FILES['attach']['tmp_name'] as $i => $tmp_name) {
            if (!empty($tmp_name)) {
                $_SESSION['attach']['data'][$i] = file_get_contents($tmp_name);
            }
        }
    } else {
        $result['error'] = $error;
        $_SESSION['namae'] = '';
        $_SESSION['message'] = '';
        $_SESSION['stamp'] = '';
        $_SESSION['attach'] = null;
    }
    header('Content-type: application/json; charset=UTF-8');
    echo json_encode($result);
    exit;
}
add_action('wp_ajax_bbs_quest_input', 'bbs_quest_input');
add_action('wp_ajax_nopriv_bbs_quest_input', 'bbs_quest_input');

function Chk_ngword($str, $mes, $error)
{
    // NGワードリスト配列の定義
    $ng_words = array('死ね','アホ','殺す','バカ');
    foreach ($ng_words as $ngWordsVal) {
    // 対象文字列にキーワードが含まれるか
    if (mb_strpos($str, $ngWordsVal) !== FALSE) {
        $error[] = $mes;
    }
    }
}
function Chk_StrMode($str)
{
    // 連続する空白をひとつにする
    $str = preg_replace('/[\x20\xC2\xA0]++/u', "\x20", $str);
    // 連続する改行をひとつにする
    $str = preg_replace("/(\x20*[\r\n]\x20*)++/", "\n", $str);
    // 前後の空白を除去
    $str = mb_ereg_replace('^(　){0,}', '', $str);
    $str = mb_ereg_replace('(　){0,}$', '', $str);
    $str = trim($str);
    // 特殊文字を HTML エンティティに変換する
    $str = htmlspecialchars($str);

    return $str;
}
/* 未入力チェックファンクション */
function Chk_InputMode($str, $mes, $error)
{
    if ('' == $str) {
        $error[] = $mes;
    }
}

/* 以下追加 */
function CheckUrl($checkurl, $mes)
{
    global $errors;
    if (preg_match("/[\.,:;]/u", $checkurl)) {
        $errors[] = $mes;
    }
}
?>

試したこと・調べたこと

• teratailやGoogle等で検索した
• ソースコードを自分なりに変更した
• 知人に聞いた
• その他

上記の詳細・結果

恐らくまとめ掲示板などはNGワードのみ設定しており、句読点や記号には対応していないのではないかと考えております。

※参考サイト
https://qiita.com/hose/items/774ac58f0155ef0a9973

補足

特になし

Comments

[tezcello]

> 句読点を削除して「死ね」に変換することで、「死ね」と一致するかチェックして削除する
「～の場面で盗塁死。ねぇ…こんな作戦あり得ないでしょ？」
こういうのも引っ掛かるけど、投稿できない様にしたいですか？

「タヒね」ってのも随分流行ったと思うけど？
＿＿半角カタカナもあり

> ＮＧワードの制限範囲はどこまで設定するのが適切でしょうか？
どれだけの労力をかけて「ＮＧワードの制限」をしたいかです。
他者にその熱意を判定する事は出来ません。

自動判定は難しいと考えるなら、全てを管理者が読んで「問題無し」としたものだけ公開する手もあります。

[ikedas]

> 上記とは別の問題もあり
ひとつの質問でふたつ以上のことを尋ねないほうがいいと思います。回答するひとが困ります。

[homepage-site]

tezcello さん

Q.「～の場面で盗塁死。ねぇ…こんな作戦あり得ないでしょ？」
こういうのも引っ掛かるけど、投稿できない様にしたいですか？

自動判定は難しいと考えるなら、全てを管理者が読んで「問題無し」としたものだけ公開する手もあります。

A.回答ありがとうございます、まとめサイトや Youtube ニコニコ動画等の配信サイトでも死は ＮＧワードとして設定されているのではないかと考えております。
そちらの基準を参考に考えたほうがよさそうですね…

句読点や記号は制限しない形で実装してみて、場合によっては管理者が確認後に表示するように切り替えながら実装してみます。

[homepage-site]

ikedas さん

アドバイスありがとうございます。以後気を付けます。

Answer 1

ちゃんとやるならAIに食わせて解釈して問題がなければ掲載・・・的な処理が必要でしょう。たとえばteratailですと「死ね」も表示上は「死ね」になりますしシステムでフィルタするのも限界がありますね
teratailの運営とおなじように通報→警告→垢BANで十分だと思います