テーマ、知りたいこと
「トークルーム」(β版)についてのご意見をお聞かせください!」でスパムについて書かれた回答を見て興味が湧いて調べてみました。
結論、どういう対応になったらみなさん的に満足なんだろうが気になり質問しました。
調べている中で、Zennの記事(参考)では、「1日あたり数十〜80件」のスパム投稿があるとのこと。
そこでの対応としては、「LLMが巡回しスパム検知→運営が正誤確認→スパムに対して処理」とのことでした。
推察ですが、スパムも対処されれば対策していきますし、判定基準をいれたとしても閾値を設ける限り100%スパムを保証するものではなくなるので運営(人間)の目での判断が必要なのかなと考えます。
(詳しい人いればぜひご知見いただきたいです!調べて結構興味が湧いてきています!)
自分の感覚値、スパムを認知してから対応するまではよいと思っているので
- スパムの検知をもっと速く
- スパム判定をされたユーザーの投稿を表にでないように
このあたり対応していただけたら満足です。
質問の意図としては、自動凍結を求める意見もあれば、スパムの対応自体はそんな重要でないといった意見があり、もし自分がこういった問題に取り組んだ時に自分の感覚値での対応がニーズと差異がないのか、それとも技術の力で推察していることすらも対応できるのか、もっと視野を広げて考えたほうが良いのか知り、自身に活かしたいなと思い質問しました!
加えて調べてて面白かったので、このあたり詳しい人がいれば是非、業界のベタープラクティスをご教授いただけると嬉しいです!
※ teratailで行っていそうなスパム対策を書こうと思ったのですが、ご新規スパムにかいくぐられるかと思いそこは記載やめておきました!笑