米テキサス北部地区連邦地裁の Brantley Starr 判事が自身の担当する訴訟について、提出文書に生成 AI を使用しないこと、または生成 AI を使用した提出文書の正確性を人の手で確認することを保証する文書を訴訟記録へ登録するよう、出廷するすべての弁護士や弁護士を立てない訴訟当事者に要件として義務付けた
(要件の Internet Archive スナップショット※、
Ars Technica の記事、
The Register の記事)。
判事は生成 AI プラットフォームが非常に強力なものであり、離婚手続きや文書開示請求、文書の誤りの指摘、口頭弁論における質問の予想など法律の分野で多くの用途があるとしつつ、訴訟摘要書には使用できないと指摘する。これらのプラットフォームの現状ではハルシネーションやバイアスを生み出す傾向があり、ハルシネーションでは引用や判例さえも捏造してしまう。また、弁護士は自身の個人的な偏見や先入観や信仰とは別として誠実に法を守り、クライアントを弁護すると宣誓するが、AI は宣誓する必要のない人がプログラミングしたものであり、偏りや信頼性の問題があるという。そのため、あるプラットフォームが訴訟摘要書に必要な正確性と信頼性を備えていると信じる訴訟当事者は、その理由を説明する必要があるとのことだ。
※ 日本からはアクセスできないようなので、Internet Archive のスナップショットを利用
| ITセクション
| 法廷
| 人工知能
| IT
|
関連ストーリー：
ChatGPTで判例を集めた弁護士、嘘の判例だらけという前代未聞の事態に
2023年05月28日
クリエイター支援サイトやダウンロード販売サイト、AI 生成作品受け入れを一時停止する動きが広がる
2023年05月14日
ウォズ、AIが詐欺や偽情報を見つけにくくすると警告
2023年05月12日
AI対策が取られていないとして、有名絵師がpixivの作品を一斉に非公開に
2023年05月10日
鳥取県知事、議会でのChatGPTの使用を禁止へ。横須賀市は積極活用方針
2023年04月21日
Samsung、従業員が ChatGPT に社内情報を流出させるトラブル
2023年04月09日
豪地方公共団体首長、ChatGPT が事実と異なる主張をしないよう OpenAI に修正を求める
2023年04月08日
Amazon、従業員に対してChatGPTと会話しないよう警告
2023年02月01日
Stack OverflowがChatGPTによる回答を禁止、大量のもっともらしい回答に対処できず
2022年12月07日
Getty Images、AIが生成した画像を禁止
2022年09月23日
Source: スラッシュドット
