1 ：へっぽこ立て子＠エリオット ★：2021/02/22(月) 14:04:33.41 ID:CAP_USER.net
SHOWROOMは2月22日、誹謗中傷コメントを監視するAIを開発し、仮想ライブ空間「SHOWROOM」に新機能として搭載したと発表した。AIが悪質なコメントと判断すれば、投稿前に自動で削除する。
新機能のイメージ図
新たに開発したコンテンツモデレーションAI機能では、ユーザーの代わりに悪質なコメントをAIが検知する。AIの開発にはディープラーニングを応用し、従来のキーワードによる検出ではなく、コメントの文脈をニューラルネットワーク上で抽象化する。
同社の開発チームによると「日本語特有の遠回しな言い方や、複数回に分けてコメントをするなど、従来の手法では難しかった悪質なコメントも検出することに成功した」という。これにより、コメントの悪質性をAIが即時に判断でき、投稿前に自動削除できるという。
これまでは視聴者や配信者自身が通報し、運営側の監視チームが削除する流れだった。同社は「不快なコメントを、ライバーや別の視聴者が目にする機会を大幅に軽減できる」としている。
同社の開発チームは「コンテンツモデレーションの世界では、英語や中国語に対しての研究はされているものの、日本語での研究はほとんどないのが実態だった」と説明。AIが悪質コメントを事前に察知し、投稿前に削除する機能は、日本初（同社調べ）といい、特許を出願中。
同社は「最終的には『SHOWROOM』内で、 悪質コメントの100%排除に限りなく近くなることを目指す」とコメントしている。
https://image.itmedia.co.jp/news/articles/2102/22/l_th_showroom_02.jpg
SHOWROOMのオフィス
□関連リンク
SHOWROOM公式サイト
https://showroom.co.jp/
2021年02月22日 12時29分 公開
ITmedia NEWS
https://www.itmedia.co.jp/news/articles/2102/22/news086.html
2 ：名刺は切らしておりまして：2021/02/22(月) 14:06:41.39 ID:vuKn8GGg.net
そこでして、って無循感
3 ：名刺は切らしておりまして：2021/02/22(月) 14:19:34.85 ID:1i2d4c6U.net
縦読みも検知できるの？
4 ：名刺は切らしておりまして：2021/02/22(月) 14:24:29.09 ID:k1KiOOYE.net
そして誰も利用しなくなるっと
5 ：名刺は切らしておりまして：2021/02/22(月) 14:28:22.80 ID:TaPIGlyO.net
そんなことより画質を上げろ
中華の配信サイトのほうがよっぽどきれいなの、恥ずかしくないの？
7 ：名刺は切らしておりまして：2021/02/22(月) 14:36:17.61 ID:ivctKZ9v.net
こいつら、ただのイスラム教の集団だ
いつも俺の部屋を監視してる、石経由で
8 ：名刺は切らしておりまして：2021/02/22(月) 14:38:10.17 ID:f3mCBHqt.net
大抵、と言うかAIに任せると日常会話でさえブロック対象にされるからねぇ。
顔文字程度でしか対話できなくなるアプリになるんじゃね?www
×悪質コメントの100%排除に限りなく近くなること
〇コメントの100%排除に限りなく近くなること
11 ：名刺は切らしておりまして：2021/02/22(月) 14:39:23.75 ID:ivctKZ9v.net
中国人というより、サウジアラビアだろ
12 ：名刺は切らしておりまして：2021/02/22(月) 14:41:05.82 ID:2QPs3JU/.net
デジタル文化大革命
14 ：名刺は切らしておりまして：2021/02/22(月) 14:43:09.96 ID:ivctKZ9v.net
>>12
親父が本の虫だからって、大嘘書いた本ばっか吹き込みやがったな
それが日本の右翼の正体だ
かなりが電気回路でしゃれで書いてる、戦国時代記録も嘘ばっか
15 ：名刺は切らしておりまして：2021/02/22(月) 14:45:11.97 ID:JJ0xnMG4.net
皆が「可愛い」とコメントしてる中で
「そうは思わない」「可愛くない」とコメしたらブロック対象かな？
16 ：名刺は切らしておりまして：2021/02/22(月) 14:49:05.30 ID:8j/AEX6q.net
ネットのテレビ化も時間の問題だね
18 ：名刺は切らしておりまして：2021/02/22(月) 14:50:30.60 ID:ivctKZ9v.net
>>16
それは無理だ
17 ：名刺は切らしておりまして：2021/02/22(月) 14:50:23.81 ID:UaYwOke6.net
村
19 ：名刺は切らしておりまして：2021/02/22(月) 14:51:54.69 ID:6ovKLQEK.net
ここにも導入しろハゲ
20 ：名刺は切らしておりまして：2021/02/22(月) 14:54:09.03 ID:5IB7Q4RF.net
京都人「何を着ても似合わはりますなあ」
→意味：そんな格好して、恥ずかしくないのか？
22 ：名刺は切らしておりまして：2021/02/22(月) 14:59:22.52 ID:wO30NxE7.net
これがシビュラシステムの第一ステップか
23 ：名刺は切らしておりまして：2021/02/22(月) 14:59:52.83 ID:Jaz0q005.net
六四天安門
26 ：名刺は切らしておりまして：2021/02/22(月) 15:00:46.47 ID:TwLX4Y/U.net
ヤフーの奴を共有すればいいのに、個別に作って無駄じゃない？
27 ：名刺は切らしておりまして：2021/02/22(月) 15:03:23.09 ID:nbfrPjd1.net
つまり婉曲な言い回しのパターンをたくさん学習させると簡単な単発コメント以外、全て自動で削除させることも可能なわけだw
ちょっとAIを教育してやりたい
29 ：名刺は切らしておりまして：2021/02/22(月) 15:11:12.30 ID:7fWIKBlX.net
「ハゲ」「薄毛」「頭髪の不自由な方」はブロックされる？
30 ：名刺は切らしておりまして：2021/02/22(月) 15:11:16.23 ID:s+hQ10RY.net
くまのプーさんは書き込めないんだろうな
32 ：名刺は切らしておりまして：2021/02/22(月) 15:14:29.62 ID:JT3ixNcy.net
そんなんやったら京都弁がすべてNGになるやんけ
33 ：名刺は切らしておりまして：2021/02/22(月) 15:15:09.16 ID:r1vmN4H0.net
言葉そのものがヘイトに当たるものは削除して良いと思うんだけど、ユーザが不快になるものは遠回しでも削除ってただの検閲だと思うのだけど。
35 ：名刺は切らしておりまして：2021/02/22(月) 15:22:21.96 ID:b3mZ09JH.net
>>33
公的な場ではないから検閲にはあたらないでしよ。
34 ：名刺は切らしておりまして：2021/02/22(月) 15:16:14.87 ID:mixLim2i.net
ボッキデータの万能性発揮
38 ：名刺は切らしておりまして：2021/02/22(月) 15:25:39.47 ID:2ySGPU4e.net
msとかが開発した口の悪いAIがこれでバンされたら笑えるんだが
40 ：名刺は切らしておりまして：2021/02/22(月) 15:33:17.61 ID:yBdajW/T.net
このスレの発言半分以上読めなくなるな
41 ：名刺は切らしておりまして：2021/02/22(月) 15:36:42.49 ID:2jr0ElDn.net
遠回しって、褒め殺しもブロックされたら、感情的な表現は全て無くなるな
42 ：名刺は切らしておりまして：2021/02/22(月) 15:36:58.53 ID:3oqn1rtG.net
他人の土俵で誹謗中傷するんじゃないよってことだな
43 ：名刺は切らしておりまして：2021/02/22(月) 15:43:20.27 ID:3cNoxwY1.net
監視社会か
共産主義者ということで
44 ：名刺は切らしておりまして：2021/02/22(月) 15:49:12.75 ID:CSCbpSOw.net
誤検知だらけだろ
45 ：名刺は切らしておりまして：2021/02/22(月) 15:50:49.60 ID:7fWIKBlX.net
トランプを失脚させるためにメディアと共闘したアメリカのSNS各社と同じものを感じるな
46 ：名刺は切らしておりまして：2021/02/22(月) 15:57:01.43 ID:kdMgGNKi.net
普通の会話の文章でもNGワードあると勝手に☆にされるが
ああいうのもちゃんと大丈夫な文として判別してくれるのか？
47 ：名刺は切らしておりまして：2021/02/22(月) 16:00:12.64 ID:ivctKZ9v.net
むかし、いまはイギリスに買収されたがインテゴって会社の
ファイアウォールソフト使ってて、こういう言葉狩り
ペアレンタルコントロールというらしいが機能はあったな
どんだけ進んだのかしれないが
48 ：名刺は切らしておりまして：2021/02/22(月) 16:11:15.99 ID:YfVKPNAB.net
いいからさっさとアーカイブ機能付けろよ
49 ：名刺は切らしておりまして：2021/02/22(月) 16:15:53.74 ID:X/wh3XC5.net
まずこのサイト知らんわw
名前的にエロサイトっぽいけど
52 ：名刺は切らしておりまして：2021/02/22(月) 16:27:43.23 ID:ntDLVBjU.net
そんなに批判が怖いなら
もうコメント機能なくせよ
53 ：名刺は切らしておりまして：2021/02/22(月) 16:33:48.02 ID:O0DR3v6E.net
氏ね ヲ オボエマスタ
54 ：名刺は切らしておりまして：2021/02/22(月) 16:50:23.66 ID:xZ1WcgSH.net
「AIをいかに巧妙に欺いて誹謗中傷を書き込むか」
って新しい遊びの場になるかも
引用元:http://anago.2ch.sc/test/read.cgi/bizplus/1613970273