1 ：ムヒタ ★：2023/05/31(水) 09:07:39.27 ID:5DugOH3E.net
【ニューヨーク=吉田圭織】米東部ニューヨーク州の弁護士が審理中の民事訴訟で資料作成に米オープンAIの生成AI「Chat（チャット）GPT」を利用した結果、存在しない判例を引用してしまったことが問題となっている。米紙ニューヨーク・タイムズなどが報じた。
問題が起きたのは、米ニューヨーク行きのフライトで食事配膳用カートが当たってけがをしたとする男性客が南米コロンビアのアビアンカ航空を訴えた訴訟だった。
資料で引用された判例が見つからなかったため、ニューヨーク州の連邦裁判所のカステル裁判官が確認したところ、弁護士がChatGPTを使っていたことが発覚した。弁護士は資料に6件のデルタ航空やユナイテッド航空などが関連しているとされた実在しない判例を引用していた。
同裁判官は「インチキな引用を使ったインチキな司法判断が記述された資料が提出された」と指摘するとともに「前例のない状況に置かれている」と説明した。弁護士の懲戒をするかどうかを判断するために6月8日に審理を開く予定だ。
5月24日に署名した供述書で弁護士は「非常に後悔しており、今後は正当性を検証せずに（ChatGPTは）絶対に利用しない」と伝えた。「情報源として信頼できないことが明らかになった」と書いた。供述書には弁護士が判例について情報の出どころなどをChatGPTに確認するやり取りも含まれた。
2023年5月31日 6:54
https://www.nikkei.com/article/DGXZQOGN30E450Q3A530C2000000/
2 ：名刺は切らしておりまして：2023/05/31(水) 09:18:35.15 ID:g+N4znlN.net
だから判決までChatGPT使えよ
人間は間違える葦でアル
3 ：名刺は切らしておりまして：2023/05/31(水) 09:18:40.43 ID:k78QY+St.net
手抜き懲戒
5 ：名刺は切らしておりまして：2023/05/31(水) 09:25:52.71 ID:klXY83De.net
知ったかで意味不明な情報載せたりするから完全にAI頼りにするのはまだ早い
8 ：名刺は切らしておりまして：2023/05/31(水) 09:31:04.24 ID:VNDy2VFO.net
>>5
その通り。完全にAIに頼れるようになるには後3ヶ月は掛かるだろう。100％完璧に頼れるようになるのは半年後だな。
6 ：名刺は切らしておりまして：2023/05/31(水) 09:29:10.67 ID:YY3AGi3l.net
これ自体茶番じゃないの？
多分再現できないとか
あえてニセの判例を読み込ませてある
13 ：名刺は切らしておりまして：2023/05/31(水) 09:46:45.29 ID:O3qIX46n.net
>>6
本物の判例を読み込ませているんだろうけど、
それから判例を生成してしまうのだろうな。
絵や小説、写真の生成と同じように。
フィクション小説は生成すると人間に喜ばれるのに、
なぜ判例はそれらしいものを生成しちゃだめなんだろう？
って子供のような純真な心で思っているのかもしれないな。
21 ：名刺は切らしておりまして：2023/05/31(水) 09:59:03.91 ID:PYwtDYa7.net
>>6
ChatGPTはトークに特化したGPTだからな
業務に使うならそれに特化したGPTを使うべき
9 ：名刺は切らしておりまして：2023/05/31(水) 09:32:52.28 ID:BRYyt8Wk.net
その前に言語の壁は解消されないのか？
なんで何十年たってもガバ翻訳なんだよ
リアルタイムで完璧な翻訳ぐらいできないの？言ってる内容同じで言語が違うだけでしょ？？
12 ：名刺は切らしておりまして：2023/05/31(水) 09:41:17.20 ID:IpGSiHRw.net
>>9
リアルタイムで完璧な翻訳ww
翻訳の時点で完璧にはならないんだよな…
45 ：名刺は切らしておりまして：2023/05/31(水) 12:32:00.50 ID:73Lj8FFN.net
>>9
言語が違う時点で「言ってる内容同じ」ではないんだなあ
51 ：名刺は切らしておりまして：2023/05/31(水) 13:34:42.83 ID:TjtIhxDe.net
>>45
翻訳がa=bなら良かったけどa≒bだもんな
11 ：名刺は切らしておりまして：2023/05/31(水) 09:40:22.07 ID:46HNdvT2.net
潮の吹かせ方を訊いたら
「満潮と干潮をよく見極め…」
などと教えていただきました。
14 ：名刺は切らしておりまして：2023/05/31(水) 09:49:17.97 ID:y43+1/6T.net
もはやAI汚染の様相と言えよう
16 ：名刺は切らしておりまして：2023/05/31(水) 09:51:27.68 ID:rsB86AFL.net
しまいのこの記事も嘘だな
イギリスではよくあることだ、てかみんなイギリスだな
18 ：名刺は切らしておりまして：2023/05/31(水) 09:56:33.83 ID:rsB86AFL.net
なんで航空会社の事例が無いってことになったんだろね
ＳＩＳにでも盗まれたのかね
19 ：名刺は切らしておりまして：2023/05/31(水) 09:57:25.33 ID:PYwtDYa7.net
ChatGPTって言いたいだけだろ
業務で使うなら別のGPT使うわ
20 ：名刺は切らしておりまして：2023/05/31(水) 09:58:32.39 ID:rsB86AFL.net
この記事そのもんがGPTで書かれたんでは
27 ：名刺は切らしておりまして：2023/05/31(水) 10:13:13.75 ID:rsB86AFL.net
うそ記事
俺が大馬鹿気狂いのキリスト気狂いに
一言も言っていない、っていうのは航空自衛隊がよく使う
と指摘しただけで書いた大嘘記事
凡例はあるけどSISが盗んで機密にしてる
31 ：名刺は切らしておりまして：2023/05/31(水) 10:22:19.80 ID:tdBbh+iF.net
平気で嘘を吐くのがいいんじゃないか
直したら面白くなくなる
33 ：名刺は切らしておりまして：2023/05/31(水) 10:27:51.11 ID:TLB0yvy/.net
プロフェッショナル業でも、こういうミス起こるよね。黎明期は。
36 ：名刺は切らしておりまして：2023/05/31(水) 10:57:32.97 ID:Vv8tPNXB.net
人間側のミスだな
判例が存在するか調べないといけなかった
37 ：名刺は切らしておりまして：2023/05/31(水) 11:19:15.14 ID:sTUnp7mZ.net
ChatGPTなんて間違いだらけ
47 ：名刺は切らしておりまして：2023/05/31(水) 12:43:03.81 ID:HmTB6jU5.net
>>37
これは人間がバカなだけだろw
38 ：名刺は切らしておりまして：2023/05/31(水) 12:07:31.11 ID:0bDOqiic.net
馬鹿な弁護士もいるもんだな
パラリーガルに戻ってやり直せ
39 ：名刺は切らしておりまして：2023/05/31(水) 12:11:09.69 ID:DK0k86cf.net
それでも僕はやってない！
～AI裁判～
41 ：名刺は切らしておりまして：2023/05/31(水) 12:20:44.18 ID:rsB86AFL.net
警察はいつも嘘をつく。捜査中に嘘をつくことは法的に認められている。
だそうだ
43 ：名刺は切らしておりまして：2023/05/31(水) 12:25:00.65 ID:TjtIhxDe.net
知ってた
48 ：名刺は切らしておりまして：2023/05/31(水) 12:45:56.24 ID:2bMmEKaU.net
ぱっと見、正解に見えるけど実際はきちんと調べなおさないと使えない結果が出てくるとか
余計にめんどくさくない？
52 ：名刺は切らしておりまして：2023/05/31(水) 14:12:32.60 ID:aICKsZna.net
chatGPTは部下と思って仕事すると捗る
53 ：名刺は切らしておりまして：2023/05/31(水) 14:39:42.42 ID:ij6VjPrJ.net
条件設定の問題じゃないの？
実際の判例から〜等の指示が必要
使い方分かってないのに使ったことが問題ってだけ
司法専用モデルとか細分化されていくんだろうな
54 ：名刺は切らしておりまして：2023/05/31(水) 15:04:53.59 ID:5rh6NDSj.net
日本の場合、判例の電子化とか全く進んでなさそう
知らんけど
56 ：名刺は切らしておりまして：2023/05/31(水) 15:10:18.89 ID:/8GUHfVT.net
これ裁判所がChatGPTでチェックしてたら嘘が本当になるってことか？
58 ：名刺は切らしておりまして：2023/05/31(水) 15:22:16.87 ID:Bf1L3wNZ.net
俺も使ってみたけど結構嘘多いぞ。
61 ：名刺は切らしておりまして：2023/05/31(水) 15:59:55.70 ID:TjtIhxDe.net
chat GPTの回答はGPT4でかなりマトモになったとか言う人いるけど、民明書房と言われるレベルの作文しちゃう時点でアウトやで
62 ：名刺は切らしておりまして：2023/05/31(水) 16:26:05.80 ID:B2RRG2EK.net
インターネットアーカイブがAI学習のために高負荷かけられてダウンしたんだっけ
ネットの終焉て感じだな
核兵器と同列に語られるようになってきたし
そのうち、昔はネットというものがあってなあとかいう時代になりそう
74 ：名刺は切らしておりまして：2023/05/31(水) 20:04:08.46 ID:kXJTmrnS.net
弁護士の仕事って秘匿義務無いの？
ネットに訴訟に関わる情報流すのはおkなの？
その上で、自分の名前で提出しようとしてる資料の内容なんて確認しないの？
弁護士の仕事ってそんなもん？
77 ：名刺は切らしておりまして：2023/05/31(水) 20:27:24.54 ID:5V6yduRJ.net
>>74
刑法第134条
医師、薬剤師、医薬品販売業者、助産師、弁護士、弁護人 (中略) 守秘義務守れ
63 ：名刺は切らしておりまして：2023/05/31(水) 16:42:59.14 ID:mZny3U2v.net
「『ＡＩ』というのはですね、嘘吐きの言葉なんです。途中で止めてしまうからＡＩになるんですよ」
66 ：名刺は切らしておりまして：2023/05/31(水) 18:07:16.45 ID:g/ZbrVCi.net
こんなレベルで全世界で規制強化を訴える開発者、違和感あるなあ
69 ：名刺は切らしておりまして：2023/05/31(水) 19:06:36.25 ID:HlrAdHhK.net
チャット君はポンコツ
72 ：名刺は切らしておりまして：2023/05/31(水) 19:40:59.49 ID:oN/sDHz9.net
大規模言語モデルってようは蓄えた情報で自然言語処理をしているだけで、物事が正しいかどうかなんて判断の基準になってないんでしょ
実際正しいかどうかを正確にモデル化することなんて出来ないだろうし
73 ：名刺は切らしておりまして：2023/05/31(水) 19:54:38.48 ID:SGuTLkUd.net
人工知能って段階じゃないのでは
引用元:http://anago.2ch.sc/test/read.cgi/bizplus/1685491659