トランプ前米大統領の元顧問弁護士の誤解により、Google Bardの生成した架空の判例が法廷に提出される

ドナルド・トランプ前米大統領の元顧問弁護士マイケル・コーエン氏の誤解で、Google Bard が生成した架空の判例 3 件が証拠として法廷に提出されてしまったそうだ
(The New York Times の記事、
Ars Technica の記事、
The Verge の記事)。

コーエン氏は 2018 年に選挙資金違反などの罪を認めて実刑になったが、現在は保護観察付きで釈放されている。本件では保護観察の早期終了を求めるコーエン氏の申立に関するものだ。コーエン氏は申立を前に、担当の弁護士を助けようとして保護観察の早期終了に関する判例を Google Bard で調べたという。

コーエン氏は Google Bard を生成 AI だと知らず、以前に実行した検索では正確な結果が得られていたため強化されたサーチエンジンだと誤解しており、その「検索結果」を弁護士に渡してしまう。弁護士資格をはく奪されたコーエン氏には判例が本物だと確認する手段がなかったが、確認する義務もなく、担当弁護士が確認すると考えていたようだ。

ところが、担当弁護士は新たに担当となる弁護士が提供したものだと誤解し、確認しないまま申立の文書に含めてしまったとのこと。担当弁護士は謝罪しており (PDF)、新しい担当弁護士は先の弁護士が過ちを犯したとしつつ、本物の判例を提出することで法廷をミスリードする前に問題を修復したと擁護し、本件に関してコーエン氏に非がないことを主張している (PDF)。

| 法廷

| idle
|